La IA se está utilizando para crear imágenes explícitas falsas de fotos familiares, lo que lleva al abuso e insta a tomar medidas de seguridad. AI is being used to create fake explicit images from family photos, leading to abuse and urging safety measures.

En 2025, una amenaza creciente involucra a los depredadores que utilizan inteligencia artificial para manipular fotos familiares, como los cumpleaños de los niños o videos de actuaciones, en contenido explícito no consensual, una forma de explotación digital que se propaga rápidamente en línea. In 2025, a growing threat involves predators using artificial intelligence to manipulate family photos—such as children’s birthday or performance videos—into non-consensual explicit content, a form of digital exploitation that spreads rapidly online. Estas imágenes generadas por la IA, a menudo creadas en segundos, se utilizan para chantaje, acoso o distribución, causando un grave daño emocional. These AI-generated images, often created in seconds, are used for blackmail, harassment, or distribution, causing severe emotional harm. Las agencias de aplicación de la ley y de protección infantil, incluido el Centro Nacional para Niños Desaparecidos y Explotados, están instando a las familias a limitar el intercambio de imágenes personales en línea y reportar actividades sospechosas, al tiempo que piden salvaguardas más fuertes, concienciación pública y leyes actualizadas para combatir el uso indebido de la IA en la creación de material de abuso sexual infantil. Law enforcement and child protection agencies, including the National Center for Missing and Exploited Children, are urging families to limit sharing personal images online and report suspicious activity, while calling for stronger safeguards, public awareness, and updated laws to combat the misuse of AI in creating child sexual abuse material.