Genere imágenes generadas por IA del Papa Francisco. Esta no es una foto real.Pablo Xavier vía Midjourney
«Ya no puedes confiar en nada de un dispositivo digital. Compara todo», dijo el periodista Robert Scoble en un tuit, que fue acompañado por una foto supuestamente de Elon Musk sosteniendo a la política estadounidense Alexandria Ocasio-Cortez (AOC para abreviar). . Este es uno de los muchos mensajes alarmantes que se han visto inundando Internet con falsificaciones durante días. Las imágenes del arresto y eventual fuga de la cárcel de Donald Trump y el Papa Francisco vistiendo un elaborado abrigo de plumas de Balenciaga, las imágenes falsas y surrealistas que han circulado en la web desde la semana pasada sugieren que la información está entrando en una nueva era.
La inteligencia artificial generativa (IA) ha avanzado lo suficiente como para engañarnos y hacernos travesuras, al menos a simple vista, incluso digitalmente requiriendo poca o ninguna tecnología sofisticada y usuarios expertos. Evitar que las pantallas nos engañen será cada vez más difícil, según los expertos. Blockchain se considera una solución compleja y de largo plazo, pero actualmente solo hay un remedio: verificar las fuentes, prestar atención a los detalles y ser escéptico ante todo.
Esta no es la primera vez que las imágenes generadas por las herramientas de inteligencia artificial de Midjourney se vuelven virales, pero ninguna se ha vuelto viral como el Papa de Balenciaga. Primero, porque parecía más creíble que otras suposiciones sobre personas con apariencia artificial, como si fueran de un videojuego o tuvieran muchos filtros. También porque el entorno del Papa puede sugerir que podría estar vestido de esta manera.
Sin embargo, al hacer zoom, notará el tamaño de la oreja, la mano cortada que no agarró completamente la taza de café, los vasos deformes o el crucifijo, donde no hay grabado de Jesucristo ni parte de la cadena para él. Estos detalles sugieren que no es una foto real, sino una falla en la IA: una herramienta que entiende bastante bien la superficie de la realidad, pero no entiende cómo interactúan los objetos físicos o todas las idiosincrasias del cuerpo humano. Al menos hasta ahora.
Aun así, son un factor que pasa desapercibido, especialmente cuando te desplazas rápidamente en un formato móvil. La evidencia falsificada fue aún más evidente en algunas imágenes del arresto injusto de Trump que circularon en línea hace unos días. El primer aspecto también es sensible al contexto: los principales medios de comunicación informarán que el ex presidente de los EE. UU. fue arrestado, pero ese no es el caso. En segundo lugar, como ya han afirmado algunos artistas, las herramientas generativas carecen de la capacidad de representar los detalles del cuerpo humano, especialmente las manos. En algunas fotos de Trump, las proporciones de su cuerpo pueden aparecer distorsionadas o incluso derretidas y borrosas. En otros casos, se observó texto distorsionado.
Pero según los expertos, estas herramientas están mejorando, y es solo cuestión de tiempo antes de que dejen de fallar en esos detalles y comiencen a crear imágenes falsas que parecen inquietantemente reales. La nueva versión de Midjourney ha sido capaz de generar manos humanas realistas, eliminando la forma más fácil de identificar imágenes artificiales hasta el momento.
La velocidad a la que se están produciendo las mejoras es preocupante. Elena Verdú, miembro del grupo de investigación de Inteligencia Artificial y Robótica de la Universidad Internacional de La Rioja, explica a Maldita.es que solo un mes es tiempo suficiente para que algunas de estas recomendaciones para identificar imágenes falsas queden obsoletas. Nos enfrentamos a una preocupación colectiva sobre el poder que estas herramientas ejercen sobre la sociedad. Tanto es así que en una carta abierta el miércoles, los expertos en IA exigieron una suspensión de seis meses de la «carrera descontrolada» utilizando el ChatGPT que genera IA.
El periodista Robert Scoble explicó otras formas de identificar deepfakes en un tweet. Lo primero que debe hacer es consultar con múltiples fuentes acreditadas y verificar su credibilidad. También evalúe el contexto. «Use el pensamiento crítico: analice la información que recibe y considere el contexto, la coherencia y la lógica detrás de ella», aconsejan los autores.
También es útil para comprobar lo que se puede ver en Internet cuando el contenido se vuelve viral. Por ejemplo, Google ofrece una herramienta de búsqueda inversa de imágenes que le permite cargar una foto y verificar dónde se ha compartido y qué dice la gente al respecto. Es altamente sospechoso si una foto supuestamente tomada por un reportero gráfico fue publicada originalmente en línea por un extraño anónimo.
En Twitter también existe la opción de clasificar un contenido como falso, aunque muchos tienen que hacerlo para recibir un aviso en una publicación. Según la revista Time, hay una serie de software en el mercado que afirman ser capaces de detectar deepfakes. Sin embargo, hay pocas o ninguna herramienta gratuita confiable disponible para los usuarios finales. Uno de los detectores, alojado en la plataforma Hugging Face AI, pudo decir «con un 69 por ciento de confianza» que la imagen del Papa fue generada por IA. Pero cuando se le presentó una supuesta foto de Musk con OAC, la herramienta no respondió que la foto era cierta en un 54 por ciento.
Otros expertos discutieron cómo blockchain podría ayudar a combatirlos. Conocido por la tecnología detrás de las criptomonedas como bitcoin, el WEF destacó su capacidad para proporcionar verificación de autenticidad y una cadena de custodia clara «que hace posible» rastrear e inspeccionar de manera efectiva todo tipo de contenido, no solo contenido financiero. El punto es que la tecnología tiene un mecanismo que no permite cambios en el mensaje, hora de publicación o fuente. Pero esta no es la solución actual: todavía queda un largo camino por recorrer de la teoría a la práctica.
El artículo señaló que blockchain también tiene sus limitaciones. Si bien puede verificar la existencia de documentos, no puede probar la propiedad intelectual, etc. Además, para que sea realmente eficaz para los usuarios finales, debe integrarse en los chips que alimentan los teléfonos inteligentes y las computadoras. También depende de la cohesión entre la comunidad internacional, los gobiernos, las empresas y la sociedad civil para dar forma a los modelos de gobernanza para el consumo de contenido digital.
Puedes seguir a PeriodistasdeGénero Tecnología en Facebook y Twitter o darte de alta aquí para recibir nuestra newsletter semanal.
