Investigación muestra que los rostros creados con IA inspiran más confianza que los rostros reales (Imagen ilustrativa Infobae)
Las imágenes de rostros creados por inteligencia artificial son más confiables que las imágenes de personas reales, según una investigación publicada por Phys.org, un portal tecnológico profesional, que advierte que las imágenes de rostros creados por inteligencia artificial tienen consecuencias directas en la desinformación política, el fraude financiero, el robo de identidad y el phishing (la práctica de crear identidades falsas en línea para engañar a otros).
El estudio, publicado en el Journal of Vision, es el primero en examinar la fiabilidad de rostros sintéticos producidos mediante técnicas de difusión de última generación. El trabajo fue dirigido por Alexis McGuire, junto con Paul Taylor y Sophie Nightingale de la Universidad de Lancaster, Maty Bohacek de la Universidad de Stanford y Hany Farid de la Universidad de California, Berkeley.
El texto nos recuerda que los humanos son expertos en procesar rostros reales y pueden evaluarlos automáticamente en tan solo 100 milisegundos. A pesar de esta capacidad, las imágenes creadas por la inteligencia artificial han alcanzado un nivel de realismo que hace que las personas cometan errores alrededor de un tercio de las veces, según el portal.
En una prueba, 169 participantes vieron al azar 96 rostros de diversas razas, géneros y edades y tuvieron que indicar si cada imagen era real o generada artificialmente. La precisión promedio es del 58,4%, que es ligeramente superior al 50% de probabilidad de lanzar una moneda.
En pruebas con 169 participantes, la precisión promedio para distinguir rostros reales y rostros sintetizados por IA fue de 58,4% (Imagen ilustrativa Infobae)
El mismo experimento también arrojó hallazgos inesperados sobre la confianza que generan los rostros sintéticos. Los resultados producidos por quienes utilizan técnicas de difusión (las más recientes) se consideran menos realistas que los producidos por las GAN de generaciones anteriores. A pesar de esto, las caras generadas por la difusión todavía encabezan la lista en la evaluación de confianza.
En una prueba posterior, otro grupo de participantes calificó la confiabilidad de 96 caras presentadas al azar en una escala de 1 (muy poco confiable) a 7 (muy confiable). La puntuación media de rostros reales es la más baja: 4,03; la puntuación media de las imágenes creadas con GAN alcanza 4,36. Mientras tanto, utilizando el último modelo de difusión se obtuvo una puntuación de 4,70, el valor más alto entre las tres categorías analizadas.
El hecho de que los rostros producidos mediante técnicas de difusión sean menos realistas pero más fiables plantea dudas sobre la percepción de autenticidad y los juicios de confianza. «Este hallazgo plantea una paradoja y, por lo tanto, resalta que los juicios de realismo y credibilidad pueden estar impulsados por dos mecanismos psicológicos diferentes», concluyeron los investigadores.
Los rostros generados mediante difusión fueron calificados como menos realistas que los creados mediante GAN, aunque lograron mayor credibilidad (Imagen ilustrativa Infobae)
McGuire advirtió que los rostros generados a través de la tecnología de transmisión podrían conducir a una erosión general de la confianza en la sociedad. «A medida que las imágenes generadas artificialmente se vuelven más sofisticadas y accesibles, como sociedad estamos cada vez más expuestos a rostros generados artificialmente, a menudo en contextos maliciosos y de explotación, como desinformación política, fraude financiero y de identidad, y phishing», dijo, refiriéndose al estudio titulado «Los rostros generados por IA se vuelven más confiables».
«Es importante comprender las amenazas que plantea la democratización de la inteligencia artificial generada y desarrollar estrategias para mitigar posibles daños a individuos, organizaciones y democracias», advierten los investigadores.
