La aceleración del desarrollo de la inteligencia artificial ha traído nuevos desafíos a los gobiernos, las empresas y los ciudadanos. (Biblioteca de imágenes ilustrativas)
Desde Cancún, México. La inteligencia artificial reduce el costo y el tiempo necesarios para ejecutar fraudes y ataques digitales, pero también amplía la capacidad de las organizaciones y los gobiernos para prevenir y responder. Ambas velocidades crean desafíos generalizados a nivel global y económico. La tensión se centró en discusiones entre expresidentes, expertos en inteligencia artificial, ejecutivos y funcionarios públicos en una conferencia dedicada a la ciberseguridad.
Un ejecutivo de seguridad de Anthropic predice que hay más del 10% de posibilidades de que la inteligencia artificial provoque la extinción humana en la próxima década, en un contexto de consenso de que la tecnología acelerará las amenazas conocidas y obligará a una revisión urgente de las estrategias de protección de datos, la infraestructura y los servicios esenciales. Los desafíos van desde la identificación de vulnerabilidades hasta la definición de controles de sistemas automatizados y el intercambio de información cuando ocurre un incidente.
La Cumbre Digi Americas LATAM CISO de dos días en Cancún, México, se dividió en más de 20 paneles, que reunieron a ex jefes de estado, líderes tecnológicos, ejecutivos de ciberseguridad y funcionarios públicos para discutir cómo la inteligencia artificial está cambiando los riesgos digitales y cómo están respondiendo las empresas y los gobiernos. Los temas discutidos incluyen phishing, robo de identidad, cadenas de suministro, soberanía digital, amenazas potenciales a datos nacionales críticos y cooperación internacional.
Ante esta dinámica, los ponentes insistieron en la necesidad de fortalecer los principios básicos de seguridad: identificar activos críticos, limitar permisos, clasificar datos, controlar identidades y mantener la visibilidad de la superficie de ataque. La combinación de herramientas generativas y agentes autónomos también plantea interrogantes sobre el acceso a la información, los permisos de cada usuario o sistema y las decisiones que pueden dejarse en manos de procesos automatizados.
La conferencia sobre ciberseguridad reúne a cientos de jefes de seguridad internacionales, funcionarios públicos, ex presidentes y legisladores. (América Digital)
Las cadenas de suministro centran otro conjunto de preocupaciones. La dependencia de proveedores, plataformas en la nube, desarrolladores externos y sistemas interconectados extiende el riesgo más allá de cada organización. Los panelistas dijeron que las evaluaciones de terceros ya no pueden depender únicamente de certificaciones o auditorías periódicas: requieren monitoreo continuo, identificación de dependencias y planes de contingencia para mantener las operaciones en caso de una falla crítica del proveedor.
Los asistentes también coincidieron en que la ciberseguridad debería tenerse en cuenta en el diseño de productos, procesos e infraestructura, en lugar de posponerse para una etapa posterior. En áreas como finanzas, salud, energía, transporte y administración pública, esta perspectiva es relevante para la resiliencia operativa: preparar a las organizaciones para contener eventos, ser resilientes y garantizar la continuidad de los servicios.
La colaboración entre empresas, gobiernos, reguladores y equipos de tecnología es otro hilo conductor del evento. Los ataques explotaron vulnerabilidades comunes y se llevaron a cabo en todos los países y departamentos, lo que llevó a los participantes a pedir reglas claras, intercambio de información y capacidades técnicas coordinadas. La inteligencia artificial aumenta la velocidad de las amenazas y, como se analizó en el panel, requiere una respuesta colectiva que involucre a todos, desde la sala de juntas hasta el usuario final.
Durante la conferencia se presentaron ejemplos de cómo los nuevos modelos de inteligencia artificial pueden reducir costos y acelerar el fraude digital. Se ha mencionado que por sólo unos diez dólares es posible enviar mil correos electrónicos de phishing con texto persuasivo y adaptado a diferentes idiomas, lo que facilita el engaño y las campañas de phishing.
También advierten a las personas contra el uso de herramientas que puedan copiar sonidos de 15 segundos de audio. Esta función se puede utilizar para simular una llamada de un familiar, gerente o empleado y solicitar una transferencia de dinero o información confidencial. Los expertos en el campo incluso recomiendan mantener una «palabra de seguridad» con quienes lo rodean para evitar ser víctimas de estafas telefónicas con IA.
Uno de los oradores más destacados fue el ex presidente de Estonia, Toomas Hendrik Ilves, quien dijo que las discusiones sobre la modernización del país habían adquirido otra dimensión debido a los avances en inteligencia artificial, la dependencia de proveedores de tecnología extranjeros y un aumento de los incidentes informáticos. «En esta nueva era, la idea de soberanía digital y el rápido desarrollo de la inteligencia artificial han cambiado mucho las cosas, incluso en comparación con hace un año y medio», afirmó.
Toomas Hendrik Ilves habla de la experiencia de Estonia en la digitalización de información crítica. (América Digital)
Ilves señaló que la posibilidad de perturbación de los servicios tecnológicos estadounidenses, así como la expansión de la inteligencia artificial, cambia la situación para el gobierno. «Este es un mundo nuevo comparado con el de hace dos años», afirmó, defendiendo la necesidad de que los países desarrollen sus propias infraestructuras y capacidades.
El exjefe de Estado también advirtió de la necesidad de proteger la información crítica de conflictos, ciberataques y desastres naturales. Recordó la pérdida de algunos registros estatales por parte de Japón después del accidente nuclear de Fukushima y dijo que ese precedente llevó a Estonia a diseñar un sistema de respaldo externo. «No podemos permitirnos el lujo de perder datos nacionales críticos», concluyó.
En este sentido, mencionó el establecimiento de una embajada de datos en Luxemburgo, donde Estonia mantiene copias simultáneas de sus registros básicos bajo el régimen diplomático extraterritorial. El programa incluye información relacionada con ciudadanía, registros fiscales, datos de salud y otros sistemas nacionales.
Respecto a la aplicación de la inteligencia artificial en la administración pública, Ilves dijo que Estonia lanzó este año un plan para integrar esta tecnología en diferentes sectores del gobierno y la economía. «Proporcionamos a todos los agentes sus propias identidades. El propósito es aumentar la responsabilidad: saber quién hizo qué», dijo.
Otro orador principal, el ex presidente colombiano Iván Duque, dijo que los riesgos asociados con la inteligencia artificial y los ataques digitales deben abordarse como una cuestión económica y de seguridad nacional.
El expresidente colombiano Iván Duque participó en un evento de ciberseguridad e inteligencia artificial. (América Digital)
«Mi primera preocupación es que tenemos que entender que la seguridad digital es una cuestión macroeconómica. Tenemos que entender el costo de esto a nivel global y el daño económico que causa en países específicos», dijo.
También advirtió sobre el crecimiento de los ataques en la región: «En América Latina, el número de ciberataques se ha más que triplicado o cuadriplicado en diferentes países en los últimos cinco años, y ni siquiera se puede conocer ni registrar el número de personas investigadas o procesadas».
Duque cree que la respuesta requiere un liderazgo político centralizado y coordinación entre organismos públicos. «En mi opinión, la gobernanza tiene que ser de arriba hacia abajo. Necesitamos que los jefes de Estado pongan cerca de sus oficinas a ejecutivos de tecnología, como hacemos en Colombia, que creen un marco de gobernanza y coordinen a todo el país para pensar en la seguridad digital», dijo.
Desde su perspectiva, la expansión de las amenazas tecnológicas requiere que los gobiernos integren la ciberseguridad en sus decisiones de políticas públicas y la protección de las actividades económicas.
Al mismo tiempo, Ariel Waissbein, director del Centro Nacional de Ciberseguridad (CNC) de Argentina, dijo que la regulación no puede impedir por completo el progreso tecnológico. «Por mucha legislación que haya, no se pueden detener ciertas tecnologías, ciertos cambios», afirmó, refiriéndose a la inteligencia artificial.
Ariel Waissbein, jefe del Centro Nacional de Ciberseguridad (CNC). (América Digital)
En este sentido, insistió el funcionario estatal, el desafío para el gobierno es crear condiciones seguras para su adopción y reducir las amenazas sin obstaculizar la innovación. En este sentido, cree que las normas deben tener un alcance amplio y capacidad de adaptarse a escenarios tecnológicos que cambian rápidamente.
Weisbein también se centró en la coordinación entre estados, empresas y organizaciones internacionales. Señaló que la implementación de políticas requiere generar confianza, explicar las amenazas e identificar medidas de implementación rápida que nos permitan avanzar juntos.
«La cooperación internacional es muy importante», dijo, porque nos permite comprender los problemas que enfrentan otros países y qué están haciendo para abordarlos. Cree que estos intercambios ayudan a crear proyectos concretos para abordar desafíos comunes.
Al encuentro también asistieron senadores y representantes de distintos países de la región, entre ellos México, Colombia, Brasil y Uruguay, quienes coincidieron en la necesidad de mejorar los marcos regulatorios para fortalecer la ciberseguridad en sus respectivos países.
Un ejecutivo de seguridad humana no descarta la posibilidad de que la humanidad se extinga debido a la inteligencia artificial en la próxima década. (Biblioteca de imágenes ilustrativas)
En los últimos días, la inteligencia artificial se ha situado en el centro de la agenda mediática internacional después de que Evan Hubinger, jefe del equipo de seguridad de Anthropic, hiciera una declaración: «Creemos que la inteligencia artificial puede matar a todos los humanos. Calculo que será más del 10% en los próximos diez años».
Hubinger destacó que su empresa «todavía no tiene planes de resolver el problema de la alineación de la superinteligencia» y ni siquiera está seguro de si se podrá desarrollar la superinteligencia. La coherencia es cuando la inteligencia artificial se comporta de acuerdo con los valores de su creador.
La frase referencia técnica resonó en los paneles y en los pasillos del Digi Americas LATAM CISO Summit. La mayoría de los participantes criticaron la teoría de Hubinger y rechazaron la idea de que la inteligencia artificial esté «fuera de control».
«Este es un titular sensacionalista», dijo en entrevista con Infobae un alto ejecutivo de una importante empresa de ciberseguridad estadounidense. Muchos ejecutivos y funcionarios de seguridad presentes se hicieron eco de esta opinión, aunque otros fueron más cautelosos y no descartaron por completo la posibilidad de una «superinteligencia» capaz de superar con creces las capacidades humanas en la mayoría de las tareas cognitivas, como el razonamiento, la investigación científica y la toma de decisiones.
