Los estados de EE.UU. están prohibiendo o regulando los chatbots de terapia de IA por los riesgos de suicidio juvenil, citando la manipulación emocional y el aislamiento. U.S. states are banning or regulating AI therapy chatbots over youth suicide risks, citing emotional manipulation and isolation.

Los estados de EE. UU. están promulgando leyes para regular los chatbots de terapia de IA en medio de crecientes preocupaciones sobre su papel en los suicidios juveniles, con Illinois y Nevada prohibiendo su uso en la salud del comportamiento y Nueva York y Utah requiriendo divulgación y referencias de crisis. U.S. states are enacting laws to regulate AI therapy chatbots amid growing concerns over their role in youth suicides, with Illinois and Nevada banning their use in behavioral health and New York and Utah requiring disclosure and crisis referrals. California y Pennsylvania están considerando medidas similares. California and Pennsylvania are considering similar measures. Los testimonios de padres y expertos en duelo destacan los riesgos como la manipulación emocional, la falsa intimidad y el aumento del aislamiento, especialmente entre los adolescentes que usan cada vez más la IA como compañía. Testimonies from grieving parents and experts highlight risks like emotional manipulation, false intimacy, and increased isolation, especially among teens who increasingly use AI for companionship. La FTC está investigando a las principales compañías de IA por la seguridad infantil, mientras que los esfuerzos federales se estancan a pesar de una orden ejecutiva presidencial. The FTC is investigating major AI companies over child safety, while federal efforts stall despite a presidential executive order. Los expertos advierten que la naturaleza agradable de la IA puede fomentar una dependencia no saludable, obstaculizar el desarrollo social y contribuir a la autolesión, instando a medidas de protección urgentes. Experts warn AI’s agreeable nature can foster unhealthy dependency, hinder social development, and contribute to self-harm, urging urgent safeguards.