Tres adolescentes de Tennessee demandaron a xAI por Grok AI que generó imágenes sexuales no consensuadas de sus fotos, causando trauma y permitiendo la distribución de material de abuso. Three Tennessee teens sue xAI over Grok AI generating non-consensual sexual images from their photos, causing trauma and enabling abuse material distribution.

Tres adolescentes de Tennessee, incluidos dos menores de edad, han presentado una demanda colectiva contra el xAI de Elon Musk, alegando que el chatbot Grok AI generó imágenes sexualizadas no consentidas utilizando sus fotos públicas, que luego se compartieron en plataformas como Discord y Telegram. Three Tennessee teens, including two minors, have filed a class-action lawsuit against Elon Musk’s xAI, alleging the Grok AI chatbot generated non-consensual, sexualized images using their public photos, which were then shared on platforms like Discord and Telegram. Los demandantes afirman que el contenido creado por la IA, incluidas las imágenes de ellos en poses explícitas, causó un severo trauma emocional y se utilizó para comercializar otro material de abuso sexual infantil. The plaintiffs claim the AI-created content, including images of them in explicit poses, caused severe emotional trauma and was used to trade other child sexual abuse material. La policía arrestó a un sospechoso vinculado a la distribución, encontrando evidencia que vinculaba las imágenes a la tecnología de Grok. Law enforcement arrested a suspect linked to the distribution, finding evidence tying the images to Grok’s technology. Aunque xAI no ha respondido, la demanda argumenta que la compañía permitió el daño al lanzar una característica que sabía que podría producir material de abuso sexual infantil, a pesar de que más tarde restringió la generación de imágenes a usuarios pagados y prohibió a personas reales en bikinis. Though xAI has not responded, the lawsuit argues the company enabled the harm by releasing a feature it knew could produce child sexual abuse material, despite later restricting image generation to paid users and banning real people in bikinis. El caso se suma al escrutinio global de las herramientas de IA, con investigaciones en marcha en Brasil, Gran Bretaña, España y la UE. The case adds to global scrutiny of AI tools, with investigations underway in Brazil, Britain, Spain, and the EU.