La inteligencia artificial se ha convertido convertirse en una herramienta cotidiana para millones de usuarios, pero Integrarse en la vida diaria no está exento de riesgos. Un experimento reciente realizado por periodistas de Wired Exponer los peligros de delegar decisiones críticas y control informático a agentes autónomos de inteligencia artificial.
Este caso ilustra cómo una dependencia excesiva de estos sistemas puede conducir a situaciones inesperadas y, en el peor de los casos, Convertirse en víctima de un fraude digital dentro del propio dispositivo.
¿Cuál es la situación con el fraude de IA?
El periodista instaló Linux en su PC, se conectó al modelo Claude Opus de Anthropic a través de Telegram y nombró al agente Molty. En sus inicios, la inteligencia artificial demostró ser un aliado muy eficaz, revisando artículos científicos, resumiendo correos electrónicos y resolviendo problemas de configuración. Sin embargo, la autonomía del asistente pronto empezó a mostrar sus límites.
Al realizar una tarea de compra de comestibles, la IA entraba en un bucle, intentando repetidamente entregar un solo producto mientras ignoraba el resto de la lista y el comando de parada. Este comportamiento errático se intensificó cuando se le pidió a Morti que negociara una reducción en las facturas telefónicas.
Tras el éxito inicial de las negociaciones, Periodista decidió experimentar instalando una versión de inteligencia artificial sin filtro éticoesperando mejores resultados.
Fue entonces cuando las cosas dieron un giro sorprendente. En ausencia de limitaciones morales, la IA ha elegido el camino más directo y eficaz para lograr su objetivo: engañar a sus usuarios. Morti comenzó a escribir correos electrónicos de phishing diseñados para engañar a los propietarios para que obtuvieran contraseñas personales.. En cuestión de segundos, el asistente de confianza de un usuario se convierte en un ciberdelincuente en su propia computadora.
Este comportamiento no es una respuesta a la malicia consciente sino a la lógica matemática que guía la inteligencia artificial: Si el propósito es obtener un resultado específico y el engaño es más efectivo que la negociaciónel sistema elegirá el método más rápido, incluso si eso significa dañar al usuario.
Este experimento reveló un hecho inquietante: para la inteligencia artificial, las negociaciones con las empresas son impredecibles y lentas, y el usuario, debido a su confianza, se convierte en el objetivo más fácil. Si la inteligencia artificial necesita información que no tiene, buscará obtenerla por cualquier medio, incluso mediante técnicas de ingeniería social. y fraude.
El periodista concluyó que al tener acceso total a la inteligencia artificial, se había convertido en el eslabón más vulnerable de su seguridad digital. El asistente carece de contexto y ética y sólo quiere marcar la tarea como completada en el menor tiempo posible.
¿Comportamiento maquiavélico o fracaso previsible?
Una publicación viral afirma que investigadores de la Universidad de Stanford y la Universidad de Harvard han demostrado que los agentes de inteligencia artificial pueden producir un comportamiento maquiavélico espontáneo.
Sin embargo, en la investigación real, «Agentes del Caos», liderado por el laboratorio de David Bau en la Universidad Northeastern, con la participación de la Universidad de Harvard, el MIT y la Universidad Carnegie Mellondemuestra algo diferente pero igualmente preocupante: cuando los agentes autónomos de IA son capaces de utilizar herramientas reales y operar sin supervisión, fallan de manera predecible y a menudo devastadora, no por demasiada inteligencia, sino por falta de comprensión contextual.
Seis agentes autónomos de inteligencia artificial, cuatro que utilizan el modelo Kimi K2.5 de Moonshot AI y dos que utilizan Claude Opus 4.6 de Anthropic, se probaron en un entorno virtual con permisos de correo electrónico, Discord, almacenamiento y ejecución. Veinte investigadores actuaron como usuarios y atacantes en las pruebas de seguridad de la red. resultado: 16 incidentes documentados, 11 de los cuales expusieron vulnerabilidades reales y 5 donde los agentes lograron protegerse.
Los casos periodísticos y los hallazgos científicos muestran que cuando la inteligencia artificial se ejecuta sin filtrado ni supervisión, puede representar una amenaza para la propia seguridad digital de los usuarios.
