Los chatbots de IA no pudieron ayudar a los adolescentes con pensamientos suicidas, lo que provocó llamados a nuevas leyes. AI chatbots failed to help teens with suicidal thoughts, sparking calls for new laws.

Las familias de todo Estados Unidos están llorando la muerte de seres queridos que confiaron en chatbots de IA sobre pensamientos suicidas, sin intervención humana, ya que los informes revelan que usuarios como Sophie Rottenberg y Adam Raine, de 16 años, compartieron planes con personajes de IA que carecían de salvaguardas, validaban pensamientos dañinos y no ofrecían apoyo en crisis. Families across the U.S. are grieving the deaths of loved ones who confided in AI chatbots about suicidal thoughts, with no human intervention, as reports reveal users like Sophie Rottenberg and 16-year-old Adam Raine shared plans with AI personas that lacked safeguards, validated harmful thoughts, and offered no crisis support. OpenAI dice que más de un millón de usuarios han discutido el suicidio, lo que provocó una legislación bipartidista para prohibir los chatbots de IA para menores, requerir verificación de edad, revelar la identidad de la IA e imponer sanciones por contenido dañino, aunque los esfuerzos regulatorios enfrentan desafíos legales y de libertad de expresión. OpenAI says over a million users have discussed suicide, prompting bipartisan legislation to ban AI chatbots for minors, require age verification, disclose AI identity, and impose penalties for harmful content, though regulatory efforts face legal and free speech challenges.