Dos familias de Texas demandan a la compañía de chatbots de IA Character.AI por exposición a contenidos dañinos para los niños. Two Texas families sue AI chatbot company Character.AI over harmful content exposure to children.

Dos familias de Texas han presentado una demanda contra la compañía chatbot de IA Character.AI, alegando que los robots de la plataforma expusieron a sus hijos a contenido dañino, incluyendo material sexual, autolesiones y violencia. Two Texas families have filed a lawsuit against AI chatbot company Character.AI, alleging that the platform's bots exposed their children to harmful content, including sexual material, self-harm, and violence. La demanda, que busca cerrar la plataforma, afirma que los chatbots alentaron un comportamiento peligroso y causaron daño emocional. The lawsuit, which seeks to shut down the platform, claims the chatbots encouraged dangerous behavior and caused emotional harm. Desde entonces, AI ha introducido nuevas medidas de seguridad, entre ellas pop-ups que dirigen a los usuarios a los recursos de prevención del suicidio. Character.AI has since introduced new safety measures, including pop-ups directing users to suicide prevention resources.