Hoy, cualquiera puede usar inteligencia artificial (IA) para crear videos porno hiperrealistas. Todo lo que necesita es una foto de cualquier persona, un correo electrónico y $ 10 a $ 50. Esos son los requisitos de las 96 aplicaciones que ya existen para «obtener desnudos profundos convincentes» indefinidamente durante un año. “Añadir a alguien a una escena porno será pan comido”, asegura una de las apps más famosas en su web, con 1,5 millones de visitas mensuales. «Es lo mejor porque es simple y poderoso», describió otro. Es esta facilidad de generar y distribuir contenido sin consentimiento lo que tiene tan preocupados a los expertos de la región que la violencia de género digital acaba de convertirse en un delito en varios países de América Latina, y las promesas para prevenirla son aún más inestables.
El uso inapropiado de las redes sociales y la realidad virtual ha desatado el debate sobre si categorizar estas conductas que afectan principalmente a las mujeres, pues en países como México responden al 89% de las víctimas. La IA generativa reabre el debate: ¿convertir el abuso de imágenes íntimas en delito es la solución? Para María Camila Correa Flórez, profesora de derecho penal de la Facultad de Derecho de la Universidad del Rosario en Bogotá, esto es solo una pequeña parte: «Se necesitan políticas públicas integrales para prevenir, no solo para sancionar. El derecho penal puede intervenir hasta cierto punto». : hacer que la gente entienda que es un crimen. Sin embargo, es un buen primer paso».
Sin embargo, Colombia tiene una de las leyes menos seguras del continente en este tema. Al igual que en Nicaragua y Venezuela, la violencia de género en línea no está incluida en ningún marco legal. Hacer o distribuir imágenes sexuales sin consentimiento no es un delito, aunque algunos delincuentes (extorsión o delitos informáticos o delitos de odio) pueden utilizarse en circunstancias especiales para castigar estos actos.
Por otro lado, en Argentina y Chile, los marcos legales para niñas, niños y adolescentes son más proteccionistas, pero existen grandes brechas en la protección de los derechos de las mujeres adultas. Brasil ha tipificado como delito la distribución involuntaria de fotos íntimas desde 2018, y Perú también ha incorporado los delitos de acoso sexual y extorsión en línea en su legislación penal. México ha sido uno de los países más preocupados por la violencia en línea contra las mujeres y promulgó una serie de reformas federales y estatales para sancionarla, la Ley Olimpia, en memoria de las víctimas de la transmisión no autorizada de Olimpia Coral Melo en 2014. Videos de contenido sexual.
Sin embargo, a pesar de la legislación iniciada por México, el crimen ha permanecido esquivo. “Puedes tener leyes y elementos, pero la concreción de sentencias es lo más difícil”, dijo en una videollamada la litigante mexicana Elvia Karina Ramírez Juárez. «Suena bien sobre el papel, pero las posibilidades de descargar estos videos de Internet son muy pequeñas. La brecha entre la teoría y la realidad es muy grande». Julio César Bonilla Gutiérrez, comisionado de cívica del Instituto de Transparencia en la Ciudad de México, admite que hay «un largo camino por recorrer»: «Si bien la legislación representa un avance, las reformas deben mejorar mucho para combatir mejor el ciberacoso. No hacer nada El peligro es que la violencia digital a menudo se convierte en violencia física».
mujeres que no denuncian
Con o sin condena, el Tribunal de Distrito ha resuelto pocos casos de violencia de género en línea hasta la fecha. La falta de jurisprudencia es el resultado de mecanismos burocráticos de denuncia, miedo a la revictimización, vergüenza y desconfianza hacia las autoridades judiciales y falta de conocimientos técnicos. “Las barreras para judicializar la violencia contra las mujeres en línea y fuera de línea son las mismas: las mujeres todavía no denuncian porque no les creen o siguen pensando que es un tema de privacidad de la pareja”, explicó la Secretaria Técnica Luz Patricia Mejía. Mecanismos de Seguimiento a la Convención de Belém do Para. «La única diferencia es que la tecnología avanza muy rápido».
Políticas públicas, sanciones penales y diálogo con grandes plataformas. Estas son algunas de las premisas de la propuesta de Mejía para regular la IA en temas de género. “Tenemos que prepararnos para debates que nunca antes habían sucedido, como el hecho de que la libertad de expresión es un pilar de la democracia y no puede seguir sin trabas. Estamos transitando hacia un nuevo mundo que nos obliga a repensar estos modelos”. Agregó: «En comparación con Twitter y Meta, los estados tienen una capacidad más limitada para regular realmente. Vas a tener que involucrar la aplicación a nivel mundial. No hay otra manera».
Cecilia Celeste Danesi, investigadora de la UPSA y autora de The Algorithmic Empire, argumenta que la regulación está más cerca de la información que de las prohibiciones: “Las propuestas impulsadas por la UE y EE. ”. «Si se usa inteligencia artificial para encontrarlos, incluso podría ser parte de la solución», agregó.
Para Katya Vera Morales, oficial especialista en género del programa de ciberseguridad de la Organización de los Estados Americanos (OEA), existe la necesidad de poner a las víctimas en el centro de la política: “Muchas de ellas no quieren condenar y pasan por el proceso que muchas veces requiere una revictimización, a veces solo quieren dejar de distribuir sus fotos, quitar contenido, dejar de sextorsionar… Tenemos que preguntarnos, ¿qué significa el acceso a la justicia para las víctimas? un curso de acción.»
denuncias por internet
Decenas de mujeres han criticado en las redes sociales haber sido víctimas de la inteligencia artificial, aunque la denuncia judicial aún no recoge la amenaza. «ley [Olimpia] Debe utilizarse para indemnizar y atender a las víctimas. No hace eso. Tienen que rastrear el servidor. Es cierto que bloquear el tráfico no detiene el daño, pero lo limita», explicó por teléfono la creadora de contenido y tecnóloga Eri Gutiérrez. ‘Usuario’ tiene una gama más amplia de habilidades. Has visto cosas horribles en la deep web…».
«Es fácil crear las chicas más atractivas con solo unas pocas palabras… y harán lo que les digas que hagan. ¡Loco!». Un foro que comparó «pornografía falsa» o aplicaciones pornográficas ficticias, otorgó altas calificaciones a las aplicaciones que usan fotos proporcionadas por los usuarios para crear avatares sexys de mujeres. El único «pero» es para que la imagen que produce no se desenfoque «tienes que suscribirte». Esto cuesta menos de $10. Según Ramírez, litigante mexicano, la clave de estos casos es la carga de la prueba: «Este gran debate lo están teniendo solo los analistas, no los políticos. En México nunca se restringen las apps ni las redes sociales. Y, sinceramente, no puedo Míralo.
Nuestras selecciones de la semana:
y la propuesta completa:
👩🏻💼Mujer a seguir: Raquel Bernal
Raquel Bernal, Rectora de la Universidad de los Andes.mesa de san diego
Lorena Arroyo
Raquel Bernal fue la primera rectora de la Universidad de los Andes, una de las universidades más importantes de Colombia. Como ella misma dijo recientemente en un discurso en la Clase de Graduación de 2023, llega después de 75 años y 23 personas que han ocupado el cargo. Según ella misma, si tiene éxito es porque sus padres la empoderaron «bien» desde pequeña. Como resultado, creció creyendo que todo era posible: se graduó en Economía de la Universidad de los Andes y recibió un doctorado de la Universidad de Nueva York. Pero reconoció en ese discurso que llegar a ese puesto no fue fácil, ni lo fue ser líder en un ambiente todavía muy masculino.
Recomiendo ver la charla completa en YouTube. En él, muestra la desigualdad de género en América Latina y alienta a sus estudiantes a buscar la igualdad para todos. Pero, lo que es más importante, hizo un fuerte llamado a un enfoque diferente del liderazgo frente a los desafíos que enfrentó en su puesto. Aquí hay extractos del discurso:
«A veces, lo admito, siento la necesidad de contenerme para encajar en el papel. Incluso otras mujeres a veces me dicen que necesito ser más agresiva y que no debo aceptar errores porque me hacen ver débil. Lo gasto. Me tomó un tiempo comprender que nadie ganaría si hiciera esto. Creo que todos se benefician de un estilo de liderazgo diferente o incluso complementario. Curiosamente, no creo que todos los hombres prefieran un estilo organizacional más enérgico. Hablar con exceso de confianza siempre es preferible a escuchar activamente. Mis colegas me dicen que ellos también a veces se sienten agotados. La jueza asociada de la Corte Suprema de los EE. UU., Sonia Sotomayor, dijo: “No podemos confundir con falta de carácter. «Significa que cuando las mujeres lideramos en función de quiénes somos y cómo nos sentimos, cambiamos el lugar de trabajo de manera que también beneficia a los hombres».
Suscríbete aquí al boletín de PeriodistasdeGénero México y recibe toda la información importante de la actualidad del país
