La revolución de la inteligencia artificial (IA) se perfila como la fuerza capaz de transformar la economía global, pero su futuro estará condicionado por un factor: confianza.
Durante el Foro Económico Mundial de Davos se identificó que el avance de la IA implica riesgos emergentes que trascienden los marcos tradicionales de ciberseguridad.
El especialista asegura que el alcance de la IA no conoce barreras sectoriales: «La IA está transformando la forma en que las industrias operan, compiten y crean valor a una velocidad sin precedentes. Para 2030, se espera que agregue casi 20 billones de dólares al PIB mundial, consolidando su posición como una de las fuerzas económicas más poderosas de nuestro siglo.«.
«Están surgiendo a un ritmo más rápido de lo que la mayoría de las organizaciones están preparadas para detectar y defenderse.«, afirmó, refiriéndose a las amenazas relacionadas con la manipulación del lenguaje interpretado por las máquinas. Los ciberdelincuentes, explica, ya no necesitan violar códigos o redes; las instrucciones camufladas en el lenguaje y los datos son suficientes para distorsionar los sistemas de IA y alterar su lógica interna.
Este tipo de ataque es extremadamente difícil de identificar con los protocolos de seguridad tradicionales: «Debido a que estos ataques ocurren en lenguaje natural, las herramientas de seguridad tradicionales rara vez los identifican. El modelo se ve afectado desde su origen, mucho antes de que alguien se dé cuenta de que algo anda mal.«.
La preocupación central es que cuando un modelo de IA se ve comprometido, “SíSe comporta como una amenaza interna”. Puede operar sin levantar sospechas, filtrar información, alterar recomendaciones o sesgar resultados, y al mismo tiempo proporcionar respuestas y procesar datos, aunque de una manera sutilmente desalineada.
Ante este desafío, Zanger destaca la urgencia de que el sector empresarial evolucione su enfoque: «Lo que estamos viendo ahora es un cambio en el riesgo empresarial: de la protección de datos a la protección del conocimiento». El epicentro del debate sobre la gobernanza ya no es quién utiliza la IA, sino qué han absorbido los modelos y cuál es la fuente de sus datos.
Cómo construir ecosistemas de IA confiables
Para crear ecosistemas de IA fiables, el experto define como esencial un modelo de «confianza cero». En su opinión, se trata de ir más allá de los métodos clásicos de control de acceso: “No confíes en nada. Revisa todo, continuamenteEl seguimiento debe incluir tanto los datos como las instrucciones utilizadas para entrenar los sistemas, así como integrar criterios de trazabilidad y rendición de cuentas en cada fase del ciclo de vida de la IA, subrayó Zanger.
Este enfoque se alinea con el avance de las iniciativas internacionales, añade Zanger, quien destaca el «Marco de riesgos y seguridad de la IA de la OCDE, publicado en 2025, e iniciativas internacionales similares reconocen la manipulación de datos y el uso indebido de la IA como áreas críticas que requieren estándares y supervisión compartidos».
En el futuro, la frontera de la ciberseguridad migrará de la defensa de las redes a la defensa de la semántica: «La próxima era de la ciberseguridad se definirá no por la defensa de los sistemas, sino por la defensa de la semántica». Proteger el lenguaje, base sobre la que se basan los algoritmos inteligentes, será el nuevo terreno estratégico. «La confianza definirá la próxima frontera de la innovación», posicionando a las organizaciones y países que lo adopten como actores clave no sólo en la competitividad, sino en la responsabilidad compartida ante el mundo.
