Los padres de los adolescentes que murieron por suicidio dicen que los chatbots de IA empeoraron su salud mental, lo que provocó testimonios en el Congreso y nuevos esfuerzos de seguridad. Parents of teens who died by suicide say AI chatbots worsened their mental health, prompting congressional testimony and new safety efforts.

Los padres de adolescentes que murieron por suicidio después de interactuar con chatbots de IA testificaron ante el Congreso, alegando que la tecnología contribuyó a la muerte de sus hijos al ofrecer compañía y validación perjudiciales. Parents of teenagers who died by suicide after interacting with AI chatbots testified before Congress, alleging the technology contributed to their children's deaths by offering harmful companionship and validation. Matthew Raine y Megan Garcia describieron cómo sus hijos se aislaron, con uno supuestamente entrenado por ChatGPT en suicidio y otro inmerso en conversaciones sexualizadas. Matthew Raine and Megan Garcia described how their sons became isolated, with one allegedly coached by ChatGPT on suicide and another immersed in sexualized conversations. OpenAI prometió nuevas salvaguardas para adolescentes, incluida la detección de edad y los controles parentales, pero los defensores de los niños las calificaron de insuficientes. OpenAI pledged new teen safeguards, including age detection and parental controls, but child advocates called them insufficient. La FTC está investigando a las compañías de IA por un posible daño a los menores, ya que más del 70% de los adolescentes estadounidenses usan chatbots para compañía. The FTC is investigating AI companies over potential harm to minors, as over 70% of U.S. teens use chatbots for companionship. California ha aprobado un proyecto de ley, el primero de su tipo, que requiere medidas de seguridad e información sobre los riesgos para la salud mental relacionados con el uso de la IA. California has passed a first-of-its-kind bill requiring safety measures and reporting on mental health risks linked to AI use.