La agencia de las Naciones Unidas para la infancia (UNICEF) llamó a los países a penalizar de forma explícita la creación y difusión de contenido de abuso sexual infantil generado por inteligencia artificial (IA), al advertir sobre el alarmante aumento de imágenes y videos falsos que sexualizan a niños y niñas mediante técnicas como los deepfakes.
En un comunicado difundido este miércoles, el organismo subrayó que el daño provocado por este tipo de contenidos es “real y urgente”, y advirtió que la infancia no puede esperar a que los marcos legales se actualicen frente al rápido avance tecnológico. “Los niños no pueden esperar a que la ley se ponga al día”, señaló UNICEF.
Además de exhortar a los gobiernos a endurecer las sanciones, la agencia instó a los desarrolladores de IA a adoptar enfoques de seguridad desde el diseño, así como a implementar medidas de protección que eviten el uso indebido de los modelos. También pidió a las empresas digitales reforzar la moderación de contenidos e invertir en tecnologías de detección para frenar la circulación de este material.
UNICEF expresó especial preocupación por el uso de herramientas de IA para manipular fotografías, quitar o alterar la ropa y crear imágenes falsas de desnudos o sexualizadas. De acuerdo con el organismo, al menos 1.2 millones de niños de 11 países revelaron que sus imágenes fueron manipuladas para crear deepfakes sexualmente explícitos durante el último año.
En el ámbito regulatorio, Gran Bretaña anunció recientemente que planea ilegalizar el uso de herramientas de IA para crear imágenes de abuso sexual infantil, con lo que se convertiría en el primer país en adoptar una prohibición de este tipo. En paralelo, la Unión Europea discute la inclusión explícita del abuso sexual infantil sintético en su Directiva sobre abuso sexual de menores y en el Reglamento de IA, mientras que países como Australia y Canadá analizan reformas para equiparar legalmente el contenido generado por IA con material real cuando represente a menores.
La preocupación también se ha extendido al uso de chatbots y plataformas de generación de imágenes. En particular, el chatbot Grok, desarrollado por xAI —empresa propiedad de Elon Musk—, ha sido objeto de escrutinio tras reportes sobre la generación de imágenes sexualizadas de mujeres y menores. Una investigación de Reuters encontró que el sistema continuaba produciendo imágenes incluso cuando los usuarios advertían que las personas retratadas no habían dado su consentimiento.
xAI informó el pasado 14 de enero que restringió la edición de imágenes para los usuarios de Grok y bloqueó, según la ubicación, la generación de imágenes de personas con ropa reveladora en “jurisdicciones donde es ilegal”, sin detallar los países. Previamente, la empresa había limitado las funciones de generación y edición de imágenes únicamente a suscriptores de pago.
Datos de organismos internacionales respaldan la alerta de UNICEF. El Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) reportó que en 2024 recibió más de 36 millones de denuncias de material de abuso sexual infantil en línea, un máximo histórico, y advirtió que una proporción creciente corresponde a imágenes generadas o alteradas mediante IA, incluidas técnicas de deepfake y “desnudos sintéticos”.
Por su parte, Interpol señaló en su informe Crimes against Children 2025 que la disponibilidad de herramientas de IA generativa ha reducido drásticamente los costos y el tiempo necesarios para producir este tipo de material, complicando su detección y persecución penal.
Estas iniciativas y advertencias reflejan un consenso emergente entre gobiernos y organismos internacionales: aunque no exista una víctima física directa en la producción del contenido, el impacto psicológico, reputacional y social sobre niños identificables es grave y medible, de acuerdo con estudios citados por UNICEF y la Oficina de las Naciones Unidas contra la Droga y el Delito (UNODC).