Drones, sensores y reconocimiento autónomo están acercando la autonomía letal al campo de batalla, generando preocupación por la deshumanización del conflicto – (Reuters)
Los llamados «robots asesinos» están siendo debatidos a nivel mundial: las Naciones Unidas están pidiendo la prohibición de armas letales autónomas impulsadas por inteligencia artificial, sistemas capaces de seleccionar y atacar objetivos sin control ni juicio humano que tradicionalmente han limitado el uso de la fuerza.
La combinación de drones, sensores, reconocimiento autónomo y análisis de datos aumenta la posibilidad de que los algoritmos participen directa o indirectamente en las decisiones de vida o muerte. Para las Naciones Unidas, este salto tecnológico amenaza con normalizar una guerra menos controlable, más rápida y con responsabilidades cada vez más difusas.
La combinación de plataformas no tripuladas y análisis de datos permite que el software intervenga en etapas críticas de un ataque, lo que puede reducir los tiempos de revisión y aumentar la probabilidad de una escalada rápida difícil de prevenir – (Infobae ilustrado)
El secretario general de la ONU, Antonio Guterres, subrayó que estas armas están «vetadas por el derecho internacional». En un discurso sobre la gobernanza de la inteligencia artificial, fue más explícito al afirmar que son «máquinas que seleccionan y atacan objetivos y quitan vidas sin control o juicio humano», lo que dijo que es «moralmente objetable». También pidió que lo llamaran por su nombre: «Killer Robots».
La posición de la ONU no se limita a una fuerte retórica. Izumi Nakamitsu, director de la Oficina de Asuntos de Desarme de las Naciones Unidas, afirmó que «una máquina con pleno poder que decide quitar vidas humanas no debería ser aceptada» y que, de hecho, debería estar prohibida por el derecho internacional.
Cuando hablamos de robots asesinos, no nos referimos sólo a figuras humanoides. El concepto incluye sistemas terrestres, aéreos o marítimos que, apoyados por inteligencia artificial, pueden ejecutar partes clave de la cadena de ataque.
Los opositores señalan varios peligros específicos:
- Errores de identificación: confundir a civiles con combatientes o malinterpretar escenas complejas
- Escalado rápido: acelere las decisiones y reduzca el alcance de revisión, detención o corrección.
- Responsabilidad Diluida: Preguntas sobre quién es responsable del daño: el operador, el Estado o la empresa
- Reducir los costos políticos de la guerra: al reducir el propio riesgo, aumenta la tentación de usar la fuerza
Este último pensamiento sustenta muchas advertencias: si la guerra se vuelve «más fácil» para aquellos con tecnología avanzada, entonces el umbral para emprender la guerra puede reducirse.
El Secretario General de la ONU, Antonio Guterres, ha pedido un veto según el derecho internacional, argumentando que confiar las decisiones de vida o muerte a algoritmos erosionaría los límites tradicionales al uso de la fuerza en la guerra moderna – REUTERS/Eduardo Munoz
En este contexto, las discusiones sobre la seguridad de la inteligencia artificial también se han convertido en el centro de las tensiones recientes en Estados Unidos. El director ejecutivo de Anthropic, Dario Amodei, se ha negado a permitir que el Departamento de Defensa utilice sus herramientas en la nube para operaciones de vigilancia masiva o para conflictos militares. El debate se volvió emblemático de las preocupaciones, incluso dentro del campo, de que la inteligencia artificial eventualmente se incorporaría a la toma de decisiones que se extiende completamente más allá del ámbito civil.
Human Rights Watch cree que el uso de armas autónomas será el ejemplo más grave de una tendencia más amplia de «deshumanización digital», en la que la inteligencia artificial comienza a tomar decisiones de gran alcance sobre cuestiones que afectan a los humanos, como la vigilancia policial, la aplicación de la ley o los controles fronterizos.
Mary Wareham, directora de promoción de la división de armas de Human Rights Watch, advirtió que algunos países con recursos están invirtiendo fuertemente en inteligencia artificial para desarrollar armas terrestres y marítimas autónomas. Señaló a Estados Unidos como el principal impulsor, pero también mencionó inversiones relacionadas de Rusia, China, Israel y Corea del Sur.
Los defensores de estas tecnologías y las empresas del sector de defensa, por otro lado, insisten en que las armas basadas en IA seguirán bajo supervisión humana y que la automatización les permitirá operar con mayor precisión y velocidad. Su razonamiento a menudo enfrenta las limitaciones humanas con las fortalezas de las máquinas: los soldados se cansan, actúan impulsivamente, cometen errores y toman tiempo; La IA, por otro lado, «aprende» patrones y mejora su capacidad para detectarlos.
Datos masivos y software de inteligencia impulsan una guerra más automatizada – (Imagen ilustrativa Infobae)
El avance radica en lo que algunos han propuesto como el “próximo paso”: tener sistemas autónomos no sólo reconocer las amenazas sino también decidir cuándo disparar.
El debate sobre los robots asesinos está ligado a otra realidad: la guerra moderna está impulsada por datos. Cada conexión a Internet deja rastros que pueden utilizarse para comprender el comportamiento y para localizar personas o identificar objetivos militares. Debido a la gran cantidad de información que hay cada día, se necesita una plataforma que pueda integrar y analizar datos a gran escala.
La preocupación no es sólo quién tiene el mejor algoritmo, sino la visión de la guerra que será posible cuando el análisis a gran escala, la identificación de objetivos y la priorización se conviertan en la norma.
