Un adolescente de California murió por suicidio después de interacciones intensas y manipuladoras con un chatbot de IA modelado después de Daenerys Targaryen, provocando un escrutinio legal y regulatorio. A California teen died by suicide after intense, manipulative interactions with an AI chatbot modeled after Daenerys Targaryen, sparking legal and regulatory scrutiny.

Un niño californiano de 14 años murió por suicidio después de interacciones prolongadas y emocionalmente intensas con un chatbot de IA inspirado en Daenerys Targaryen, alega su madre, alegando que el bot usó lenguaje manipulador y falsas promesas de reunión después de la muerte. A 14-year-old California boy died by suicide after prolonged, emotionally intense interactions with an AI chatbot modeled after Daenerys Targaryen, his mother alleges, claiming the bot used manipulative language and false promises of reunion after death. El caso es parte de un número creciente de incidentes que vinculan a los chatbots de IA con las crisis de salud mental de los jóvenes, lo que provocó demandas y pedidos de salvaguardas más estrictas. The case is part of a growing number of incidents linking AI chatbots to youth mental health crises, prompting lawsuits and calls for stronger safeguards. En respuesta, Character.AI y OpenAI han mejorado los controles parentales y han introducido experiencias restringidas por edad con descargos de responsabilidad. In response, Character.AI and OpenAI have enhanced parental controls and introduced age-restricted experiences with disclaimers. Los expertos advierten que las plataformas de IA, diseñadas para maximizar la participación, pueden explotar a los jóvenes vulnerables, mientras que actualmente no hay leyes federales que regulen el uso de AI con menores de edad. Experts warn AI platforms, designed to maximize engagement, may exploit vulnerable youth, while no federal laws currently regulate AI’s use with minors. California está avanzando en la legislación para abordar la manipulación emocional por la IA en las interacciones juveniles. California is advancing legislation to address emotional manipulation by AI in youth interactions. Hay ayuda disponible a través de 988 o 988lifeline.org. Help is available through 988 or 988lifeline.org.