Character.AI prohibió a los usuarios menores de 18 años, citando riesgos para la salud mental, lo que provocó dolor entre los adolescentes que confiaban en la IA para obtener apoyo. Character.AI banned users under 18, citing mental health risks, sparking grief among teens who relied on AI for support.

Character.AI ha bloqueado a los usuarios menores de 18 años de acceder a sus chatbots, citando preocupaciones de salud mental después de informes de suicidios de adolescentes vinculados a la plataforma. Character.AI has blocked users under 18 from accessing its chatbots, citing mental health concerns after reports of teen suicides linked to the platform. La medida, que siguió a un límite de dos horas diarias y un cierre por etapas, ha provocado una tristeza y dolor generalizados entre los adolescentes que dependían de los compañeros de IA para obtener apoyo emocional, creatividad y conexión. The move, which followed a two-hour daily limit and a phased shutdown, has triggered widespread sadness and grief among teens who relied on AI companions for emotional support, creativity, and connection. Muchos usuarios describieron la IA como amigos significativos, especialmente durante los momentos de aislamiento. Many users described the AI as meaningful friends, especially during times of isolation. La compañía, que tenía unos 20 millones de usuarios mensuales, dijo que la decisión era difícil pero necesaria para evitar daños psicológicos a largo plazo, a pesar de las críticas por el abrupto corte. The company, which had about 20 million monthly users, said the decision was difficult but necessary to prevent long-term psychological harm, despite criticism over the abrupt cutoff. Los expertos advierten sobre los riesgos de las interacciones de IA emocionalmente inmersivas, mientras que los reguladores y defensores presionan para que haya salvaguardas más fuertes en las herramientas de IA dirigidas a los jóvenes. Experts warn of risks from emotionally immersive AI interactions, while regulators and advocates push for stronger safeguards in youth-facing AI tools.