Un internauta vio una página que simulaba ser un vídeo pornográfico de una mujer famosa.luis sevillano
El descubrimiento de fotografías falsas de adolescentes desnudas en Almendralejo (Badajoz) demuestra que una plaga de violencia machista que utiliza tecnología de hiperrealidad de inteligencia artificial para crear obras maliciosas, especialmente pornográficas, se ha extendido a España. Estados Unidos, Reino Unido y Corea del Sur están a la cabeza de las denuncias, pero los casos de la cantante Rosalía, otra víctima de la difusión de una foto falsa desnuda, y de la modelo Laura Escanes, que denunció agresiones similares, demuestran que la lacra también está aquí. se extendió a todas las regiones, incluidos los grupos menores. Las armas son una aplicación de inteligencia artificial de fácil acceso, a pesar de los intentos de algunas empresas de imponer restricciones.
La cantidad de estos llamados deepfakes en Internet se duplica cada seis meses, con más de 134 millones de visitas. Según Sensity AI, una firma de investigación que rastrea videos falsos de hiperrealidad en Internet, la pornografía se produce sin consentimiento en el 95 por ciento de los casos, y las mujeres son las víctimas en nueve de cada diez producciones.
Más información
Un deepfake es un vídeo o una imagen fija (que también puede ser un sonido) en el que el rostro de la imagen original se sustituye por el rostro de cualquier otra persona, famosa o no. Se basan en tecnología de aprendizaje automático profundo basada en algoritmos complejos y son fáciles de usar una vez implementados en una aplicación.
La inteligencia artificial hace que este proceso sea fácil de lograr. Recrea secuencias aprendiendo de miles de imágenes similares y utiliza redes neuronales generativas adversarias (GAN) para desarrollar patrones y facilitar reproducciones hiperrealistas. Ni siquiera necesitas tener una computadora personal poderosa para crearlos, ya que los recursos están disponibles en plataformas en la nube, aplicaciones, sitios web e incluso Telegram. Algunas empresas, como Google, han puesto en marcha una base de datos con miles de vídeos manipulados para desarrollar herramientas que permitan detectar falsificaciones.
Responsabilidad Corporativa
Dall-e, una de las aplicaciones de creación digital, afirma que «limita la capacidad de generar imágenes violentas, odiosas o adultas» y ha desarrollado tecnología para «evitar generar rostros realistas de individuos reales, incluidas figuras públicas». Un grupo de 10 empresas se ha suscrito a un catálogo de directrices sobre cómo crear, crear y compartir de forma responsable contenido generado por IA.
Pero muchas aplicaciones circulan libremente por Internet, mensajería o plataformas de código abierto. Además, la misma inteligencia artificial utilizada para crear las imágenes puede eludir fácilmente los controles.
Los deepfakes más conocidos afectan a figuras populares. Las dos primeras celebridades afectadas fueron las actrices Emma Watson y Natalie Portman. Pero cualquiera puede crearlas accediendo a sus imágenes en redes sociales o robándolas desde un ordenador personal.
El investigador de seguridad de Kaspersky, Marc Rivero, afirma: «Proteger las imágenes y garantizar la privacidad es crucial, ya que muchos ciberdelincuentes pueden acceder a ellas a través de diversas tecnologías. Sin embargo, según un informe de la compañía, el 43,5% de los españoles no protege la cámara o la imagen de ningún dispositivo». .
ciberacoso sexista
Adam Dodge, fundador de EndTAB, una organización sin fines de lucro de educación sobre aplicaciones tecnológicas, dijo al MIT que el uso de deepfakes por parte de las mujeres «es un problema de violencia sexista».
El Instituto Europeo para la Igualdad de Género también ha tenido esto en cuenta e incluyó estas creaciones en su informe sobre la violencia online contra las mujeres como otra forma de agresión machista.
«La ciberviolencia no es más que una continuación de la violencia diaria contra las mujeres y las niñas. Se ve exacerbada, amplificada y exacerbada por el uso de Internet y de los dispositivos digitales», explica Iris Luarasi, presidenta del Grupo de Expertos contra la Violencia contra las Mujeres y la Violencia Doméstica ( Grevio) camino.
El Instituto Europeo para la Igualdad de Género (EIGE) cataloga «la difusión de imágenes falsas o la recepción de contenidos sexualmente explícitos no deseados» como un comportamiento ofensivo «emergente» contra las mujeres.
Expertos como Borja Adsuara, profesor universitario especializado en derecho digital, abogan por identificar claramente los contenidos falsos y rastrearlos automáticamente. En su opinión, la diferencia entre los deepfakes y las creaciones personales protegidas por la libertad de expresión reside en su autenticidad y finalidad. Adsuara explicó que las regulaciones actuales se centran en los resultados y la intención de las acciones del infractor. «Si esta escena nunca hubiera existido por ser falsa, el secreto nunca se habría descubierto. Se debería haber tratado como un caso de injuria o un delito contra la integridad moral porque el fin de su difusión era humillar públicamente a otra persona.» él explicó.
Los abogados señalan como solución la inclusión del concepto de pseudopornografía, que ya se aplica a menores. «Esto permitiría que el delito de invasión de la privacidad incluyera no sólo vídeos reales, sino vídeos reales con imágenes íntimas que se parecen a personas».
En mayo del año pasado, un consejo catalán propuso un proyecto de ley destinado a reformar el Código Penal para incluir la difusión de deepfakes, pero el proyecto fue rechazado y remitido al siguiente órgano legislativo para su debate. El texto propone una pena de prisión de seis meses a dos años si las obras se difunden de cualquier forma «con grave perjuicio al honor o a la intimidad». También obliga a quien reciba dicha información a través de cualquier plataforma a «difundir, revelar o transferir dicha información a un tercero sin el consentimiento del afectado» y estará sujeto a una multa de uno a tres meses. Si además existe ánimo de lucro y la víctima es menor de edad o persona incapacitada, el cónyuge o amigo será castigado con una pena más severa.
Puedes seguir a PeriodistasdeGénero Tecnología en Facebook y Twitter o registrarte aquí para recibir nuestra newsletter semanal.
