El uso cada vez mayor de modelos de inteligencia artificial para crear imágenes de abuso sexual infantil ha hecho saltar las alarmas en la comunidad internacional. unicefLa agencia de la ONU para la infancia ha pedido a los países que penalicen claramente la producción de dicho contenido generado por IA.
La preocupación aumenta particularmente ante los informes sobre un aumento de imágenes digitales que sexualizan a menores, una tendencia que, según UNICEF, requiere una respuesta inmediata y coordinada.
Inteligencia artificial y abuso infantil: UNICEF llama a la acción
Además, insta empresa digital Reforzar la moderación de contenidos e invertir en tecnología de detección para evitar que estas imágenes se difundan en Internet.
La agencia de la ONU advirtió que los abusos causados por deepfakes, imágenes, videos y audio generados por inteligencia artificial que imita a personas reales pueden causar daños reales. «El daño causado por el abuso de los deepfakes es real y requiere acción inmediata. Los niños no pueden esperar a recibir actualizaciones legislativas».Unicef destacó en un comunicado.
Deepfakes y procesamiento de imágenes
Otra preocupación de UNICEF es el uso de inteligencia artificial para quitar o alterar la ropa en fotografías para generar imágenes falsamente sexualizadas de menores. Este tipo de manipulación plantea una amenaza creciente a medida que la tecnología hace que sea cada vez más fácil crear contenido falso convincente y potencialmente dañino.
El año pasado, al menos 1,2 millones de niños y niñas en 11 países informaron que sus imágenes habían sido manipuladas para crear falsificaciones profundas Comportamiento sexual explícito. Estos datos de UNICEF resaltan la urgencia de avanzar en respuestas regulatorias y tecnológicas a nivel mundial.
Iniciativas y desafíos legales contra la pornografía infantil generada por IA
El Reino Unido ha dado un paso adelante al anunciar su intención de ilegalizar la creación de imágenes utilizando herramientas de inteligencia artificial. abuso sexual infantilconvirtiéndose en el primer país en tomar este tipo de medidas. La decisión indica una creciente preocupación internacional por el uso de inteligencia artificial, particularmente en la generación de contenido ilegal y dañino.
En los últimos años, la atención del público también se ha centrado en los chatbots de inteligencia artificial como el xAI’s Grok de Elon Musk, que ha sido cuestionado por producir imágenes pornográficas de mujeres y menores.
A medida que la tecnología avanza y los riesgos se multiplican, también aumenta la presión sobre los desarrolladores y las plataformas tecnológicas para implementar filtros y mecanismos de seguridad.
UNICEF reiteró la urgencia de tomar medidas para proteger a los niños e insistió en que las respuestas no pueden esperar hasta que las leyes se adapten al ritmo de la innovación tecnológica. protección de derechos niños y chicas sigue siendo clave para su llamado a la acción internacional.
¿Qué es UNICEF? ¿Cuál es su misión en la protección de los niños?
UNICEF, el Fondo de las Naciones Unidas para la Infancia, es una agencia internacional fundada en 1946 cuyo principal objetivo es proteger y promover los derechos de los niños y adolescentes en todo el mundo.
Su trabajo cubre una amplia gama de áreas como salud, educación, nutrición, Prevenir la violencia y las emergencias humanitariasGarantizar que los menores tengan acceso a servicios básicos y a un entorno seguro para su desarrollo integral.
La organización trabaja en más de 190 países y territorios, asociándose con gobiernos, organizaciones no gubernamentales y comunidades locales para implementar programas y políticas que mejoren la calidad de vida de los niños.
Además, UNICEF lidera campañas de sensibilización y promoción para garantizar que los derechos de los niños sean respetados y mantenidos como una prioridad en la agenda internacional, particularmente en situaciones de crisis o vulnerabilidad.
