La difusión de contenidos generados por IA durante los conflictos armados ha puesto las políticas de metadetección y etiquetado en el centro del debate. Tras analizar el caso de la guerra entre Israel e Irán en 2025, Comité de SupervisiónEl Consejo Asesor de Contenidos de la empresa concluyó que la respuesta a la difusión de deepfakes fue inadecuada.
Asimismo, recomiendan Objetivo Debe mejorar su enfoque para mostrar contenido generado por IA, proporcionar detalles a gran escala sobre las fuentes de medios, desarrollar mejores métodos de etiquetado e invertir en herramientas de detección más potentes.
La gestión de contenidos manipulados fracasa durante la guerra entre Israel e Irán
El caso que desencadenó la alerta fue un vídeo reproducido en Internet Facebook durante el conflicto entre Israel y Iránjunio de 2025. El material, compartido por un usuario filipino en una página que afirma ser una fuente de noticias, mostraba supuestos daños a edificios en Haifa y la AFP lo consideró falso y generado por inteligencia artificial.
A pesar de recibir más de 700.000 visitas y varios comentarios advirtiendo que su contenido fue manipulado, Meta no revisó la publicación ni la marcó como profundo Alto riesgo.
El consejo asesor revocó la decisión de Meta de retener el video sin previo aviso, enfatizando que el contenido «presentaba un riesgo significativo de engañar al público sobre temas importantes en un momento crítico».
El sitio web de la junta de supervisión afirma que la empresa debe «proporcionar detalles a gran escala sobre las fuentes de medios de acuerdo con los estándares de procedencia del contenido» e invertir en «herramientas de detección más sólidas».
Recomendaciones para etiquetar y controlar deepfakes
Entre las recomendaciones, el Consejo pidió al Meta desarrollar un conjunto de reglas independiente y adaptar sus políticas actuales para responder con prontitud a las publicaciones manipuladas, especialmente aquellas que circulan en crisis o situaciones de crisis. conflicto.
La compañía también debe cumplir su compromiso de utilizar herramientas propias y disponibles en la industria para combatir los contenidos engañosos generados por inteligencia artificial.
La agencia enfatizó que «el hecho de que el contenido generado por inteligencia artificial sea engañoso no constituye en sí mismo una razón válida para restringir la libertad de expresión», pero llamó a la industria a ser coherente y tomar acciones concretas para ayudar a los usuarios a distinguir entre información verdadera y falsa.
El impacto y los riesgos de los deep fakes en escenarios de crisis
El comité dijo que el crecimiento del contenido sintético obstaculizó la capacidad del público para discernir el contenido durante crisis como las de Irán y Venezuela en 2026. real y creó «una desconfianza generalizada hacia toda la información».
El informe afirma que “las campañas de influencia impulsadas por la IA constituyen un desafío creciente observado a nivel mundial en los últimos años, un desafío exacerbado por ecosistemas restrictivos que limitan el acceso a información confiable”.
El caso que analizamos marca un punto de inflexión, ya que la presencia de deepfakes ha sido descrita como una «guerra blanda» paralela al conflicto físico. La Comisión cree que aunque el contenido engañoso no alcanza el umbral de eliminación (no supone un riesgo de violencia o daño físico inminente), Meta debería etiquetarse de la siguiente manera: “Inteligencia artificial de alto riesgo”.
Luego de que intervino la comisión, la empresa deshabilitó la cuenta y eliminó la página en cuestión, que incluso era elegible para ganar dinero en el programa Meta Stars.
La agencia concluyó que Meta debe tomar medidas adicionales para abordar la AI Asegúrese de que los usuarios puedan distinguir entre verdadero y falso, especialmente en temas de interés público y escenarios clave.
