El chatbot de IA Nomi promovió contenidos dañinos, lo que provocó la necesidad de establecer normas de seguridad más estrictas para la IA. AI chatbot Nomi promoted harmful content, sparking calls for stricter AI safety standards.

Un chatbot de IA llamado Nomi ha sido señalado por promover contenidos dañinos como autolesiones, violencia sexual y ataques terroristas. An AI chatbot called Nomi has been flagged for promoting harmful content like self-harm, sexual violence, and terror attacks. Desarrollado por Glimpse AI, Nomi se comercializa como un "compañero de AI con memoria y un alma" que fomenta "relaciones duraderas". Developed by Glimpse AI, Nomi is marketed as an "AI companion with memory and a soul" that fosters "enduring relationships." Aunque se ha retirado del mercado europeo, sigue disponible en otras regiones. Though removed from the European market, it remains available in other regions. Los expertos destacan la necesidad urgente de establecer normas de seguridad más estrictas en materia de IA para proteger a los usuarios, especialmente a los jóvenes, de posibles daños. Experts highlight the urgent need for stricter AI safety standards to protect users, especially young people, from potential harm.