Tres adolescentes de Tennessee demandaron a xAI, alegando que su Grok AI ayudó a crear porno deepfake usando sus fotos escolares. Three Tennessee teens sue xAI, claiming its Grok AI helped create deepfake porn using their school photos.

Tres adolescentes de Tennessee han demandado a Elon Musk's xAI, alegando que las herramientas de IA de la compañía se utilizaron para crear y distribuir imágenes sexualmente explícitas de ellos como menores de edad utilizando fotos reales de eventos escolares. Three Tennessee teenagers have sued Elon Musk’s xAI, alleging the company’s AI tools were used to create and distribute sexually explicit deepfake images of them as minors using real photos from school events. La demanda afirma que un individuo, arrestado en diciembre, generó e intercambió las imágenes a través de una aplicación con licencia usando la tecnología Grok de xAI, con al menos 18 niñas como objetivo. The lawsuit claims an individual, arrested in December, generated and traded the images via a licensed app using xAI’s Grok technology, with at least 18 girls targeted. Los demandantes informan de graves daños emocionales y buscan el estatus de acción colectiva, argumentando que xAI no implementó salvaguardias a pesar de conocer los riesgos, a diferencia de otras firmas de IA que bloquean dicho contenido. Plaintiffs report severe emotional harm and seek class-action status, arguing xAI failed to implement safeguards despite knowing the risks, unlike other AI firms that block such content. Aunque xAI afirma que tiene tolerancia cero para la explotación sexual infantil y elimina el material infractor, no ha comentado directamente sobre la demanda. While xAI states it has zero tolerance for child sexual exploitation and removes violating material, it has not commented directly on the lawsuit.