Las imágenes de abuso sexual infantil generadas por IA, incluidas las deepfakes, han aumentado en todo el mundo, afectando a 1,2 millones de niños, lo que llevó a UNICEF a instar a leyes más estrictas y salvaguardas tecnológicas. AI-generated child sexual abuse images, including deepfakes, have surged globally, affecting 1.2 million children, prompting UNICEF to urge stronger laws and tech safeguards.

Un aumento en las imágenes sexualizadas de niños generadas por IA, incluidas las falsificaciones profundas creadas a través de la "nudificación", ha alarmado a UNICEF, que informa que al menos 1,2 millones de niños se vieron afectados en todo el mundo el año pasado. A surge in AI-generated sexualized images of children, including deepfakes created via "nudification," has alarmed UNICEF, which reports at least 1.2 million children affected globally in the past year. La organización advierte que tal contenido, incluso si es sintético, constituye material de abuso sexual infantil y causa un daño psicológico real, instando a los gobiernos a ampliar las leyes para criminalizar el CSAM generado por IA y pidiendo a los desarrolladores de tecnología que implementen medidas de seguridad por diseño. The organization warns such content, even if synthetic, constitutes child sexual abuse material and causes real psychological harm, urging governments to expand laws to criminalize AI-generated CSAM and calling on tech developers to implement safety-by-design measures. A pesar de las prohibiciones temporales en plataformas como X después de que su chatbot de inteligencia artificial Grok habilitara dicho contenido, los usuarios eludieron las restricciones, destacando la necesidad de regulaciones específicas. Despite temporary bans on platforms like X after its AI chatbot Grok enabled such content, users bypassed restrictions, highlighting the need for targeted regulations. La nueva ley de seguridad en línea (socorro y responsabilidad) de Singapur autoriza a una comisión a emitir medidas de eliminación y apoyar demandas civiles, mientras que los expertos enfatizan que la reducción de la tolerancia social es clave para proteger a las víctimas. Singapore’s new Online Safety (Relief and Accountability) Act empowers a commission to issue takedowns and support civil suits, while experts stress that reducing societal tolerance is key to protecting victims.