La proliferación de contenidos generados por IA ha hecho que la detección de fraudes y la falsificación digital es cada vez más difícil, especialmente para ciertos grupos de edad. Una prueba reciente desarrollada por The Care Side, una organización australiana de atención domiciliaria, muestra que los menores de 29 años identifican la mayoría de los deepfakes, mientras que los mayores de 65 años solo aciertan la mitad de las veces, a menudo por casualidad.
Influencia de la edad y los conocimientos digitales en la detección de deepfakes
La prueba Care Side, en la que participaron más de 3.000 personas, muestra que la capacidad de distinguir el contenido generado por AI Varía según la edad y el nivel de educación digital. Mientras que los jóvenes reconocen ocho de cada 10 fraudes, los adultos mayores tienen más dificultades.
Sin embargo, expertos como Hervé Lambert, de Panda Security, sostienen que el riesgo no es exclusivo de una generación, ya que la falta de concentración y la evolución de las amenazas afectan a todos los usuarios. Lambert dijo a El País que la inteligencia artificial aprovecha los momentos de menor atención para engañar a las personas, y destaca que la educación digital es clave, sin importar la edad.
«Creo que es un error limitar el problema a una cuestión generacional. La IA es muy inteligente y sabe perfectamente que hay contextos y momentos del día en los que tendremos mucha menos concentración. en una cosa y la usa muy bien”, dijo.
Marti DeLiema, del Centro para el Envejecimiento Saludable y la Innovación de la Universidad de Minnesota, está de acuerdo en que la IA ha cambiado drásticamente el panorama del fraude para la sociedad en general.
Por su parte, Josep Albors, de ESET España, advierte de que los delincuentes están explotando la IA para crear campañas de fraude cada vez más convincentes, utilizando imágenes, audio y vídeos difíciles de distinguir de la realidad.
«Estamos viendo vídeos realmente buenos generados con voces idénticas a las de las personas que personifican», dijo Albors durante la última edición de los premios de comunicación de su empresa global de ciberseguridad.
Cómo detectar fraudes con IA: texto, imagen, audio y vídeo
El estudio Care Side también identifica recomendaciones específicas según el tipo de mensaje falso. La sofisticación de deepfakes y otros fraudes digitales requieren prestar atención a detalles específicos en diferentes formatos. En los mensajes de texto desconfía de saludos genéricos, plazos urgentes, solicitudes de datos personales o transferencias sin verificación y errores tipográficos.
En las imágenes, las señales de alerta incluyen simetrías inusuales en los rostros, manos deformes o borrosas, texturas excesivamente suaves y fondos inconsistentes.
En el caso del audio, las voces artificiales suelen tener pausas antinaturales, ritmos robóticos, cambios repentinos de tonoRuidos extraños o respuestas descoordinadas.
Mientras tanto, los vídeos pueden mostrar movimientos faciales incoherentes, desincronización de labios y párpados o gestos poco humanos.
Educación y herramientas digitales: claves para afrontar los riesgos de la IA
Los expertos subrayan que la vulnerabilidad a las falsificaciones profundas y al fraude mediante IA se debe en gran medida a la falta de conocimiento, concienciación y formación, especialmente cuando se realizan múltiples tareas.
Aunque existen herramientas para detectar la implicación de la IA en la creación de contenidos, Hervé Lambert cree que sólo limitan el riesgo, sin eliminarlo por completo.
Por lo tanto, el educación en escenarios reales y la práctica constante para identificar señales de advertencia son esenciales. Josep Albors también lamenta la tendencia de los usuarios a no verificar la información de fuentes fiables, lo que aumenta la exposición al engaño.
¿Qué es un deepfake y por qué representa un riesgo digital?
A profundo Se trata de contenidos digitales manipulados mediante inteligencia artificial, que utiliza técnicas avanzadas de aprendizaje automático para superponer rostros, voces o movimientos de una persona a imágenes, vídeos o audio, consiguiendo resultados extremadamente realistas.
Este tipo de tecnología nos permite crear simulaciones convincentes en las que aparece una persona diciendo o haciendo cosas que nunca sucedieron en la realidad.
El auge de los deepfakes ha generado preocupación de que, si bien pueden usarse en entretenimiento o publicidad, también pueden facilitar la propagación del fraude, la desinformación y el robo de identidad. La dificultad de distinguirlos del contenido auténtico hace que los deepfakes sean una amenaza creciente para la confianza y la seguridad digital.
