“Robots asesinos” con IA en el campo de batalla: el debate “moralmente repugnante” de la ONU

Los llamados “robots asesinos” están en debate global: la Organización de las Naciones Unidas ha pedido prohibir las armas autónomas letales impulsadas por inteligencia artificial, sistemas capaces de seleccionar y atacar objetivos sin el control y el juicio humanos que tradicionalmente delimitan el uso de la fuerza.

La combinación de drones no tripulados, sensores, reconocimiento automatizado y análisis de datos eleva la posibilidad de que algoritmos participen, directa o indirectamente, en decisiones sobre la vida y la muerte. Para la ONU, ese salto tecnológico amenaza con normalizar una guerra menos controlable, más veloz y con responsabilidades cada vez más difusas.

Cuál es la advertencia sobre la IA en la guerra

El secretario general de la ONU, António Guterres, ha resaltado que estas armas sean “vetadas por el derecho internacional”. En un discurso sobre la gobernanza de la inteligencia artificial, fue todavía más explícito y señaló que son “máquinas que seleccionan y atacan a su objetivo y quitan una vida, sin control ni juicio humanos”, y eso, dijo, es “moralmente repugnante”. También pidió llamarlas por su nombre: “robots asesinos”.

La postura de Naciones Unidas no se limita a una frase contundente. La jefa de la Oficina de Asuntos de Desarme de la ONU, Izumi Nakamitsu, sostuvo que permitir “máquinas con plenos poderes para tomar la decisión de quitar una vida humana” no debería aceptarse y que, de hecho, debería prohibirse por el derecho internacional.

Qué se entiende por “armas autónomas letales” y por qué inquietan

Cuando se habla de robots asesinos no se alude solo a figuras humanoides. El concepto incluye sistemas terrestres, aéreos o marítimos que, apoyados por IA, pueden ejecutar partes críticas de la cadena de ataque.

Los contradictores señalan varios peligros concretos:

• Errores de identificación: confundir civiles con combatientes, o interpretar mal una escena compleja
• Escalada rápida: decisiones aceleradas que reducen el margen para revisar, detener o corregir
• Responsabilidad diluida: dudas sobre quién responde por un daño, el operador, el Estado o la empresa
• Menor costo político de la guerra: al reducir riesgos propios, aumenta la tentación de usar la fuerza

En esa última idea se apoyan muchas advertencias: si la guerra se vuelve “más fácil” para quien tiene tecnología avanzada, el umbral para iniciarla puede bajar.

La discusión sobre seguridad de la IA también estuvo, según este contexto, en el centro de una tensión reciente en Estados Unidos. Dario Amodei, director ejecutivo de Anthropic, se negó a que su herramienta Claude fuera utilizada por el Departamento de Defensa para operaciones de vigilancia masiva o para su empleo en conflictos militares. La disputa se convirtió en un símbolo: incluso dentro del sector, hay quienes temen que la IA termine integrada a decisiones que exceden por completo el ámbito civil.

“Deshumanización digital”: la advertencia de organizaciones de derechos humanos

Human Rights Watch sostiene que el uso de armas autónomas sería el ejemplo más grave de una tendencia más amplia: la “deshumanización digital”, cuando la IA empieza a tomar decisiones trascendentales sobre asuntos que afectan a las personas, como vigilancia policial, aplicación de la ley o control de fronteras.

Mary Wareham, directora de incidencia política de la División de Armamento de Human Rights Watch, advirtió que varios países con recursos están invirtiendo con fuerza en IA para desarrollar armas autónomas terrestres y marítimas. Señaló a Estados Unidos como impulsor principal, y mencionó también inversiones relevantes de Rusia, China, Israel y Corea del Sur.

Del otro lado, defensores de estas tecnologías y empresas del sector de defensa sostienen que las armas basadas en IA seguirán bajo supervisión humana y que la automatización permitiría operar con mayor precisión y rapidez. Su razonamiento suele comparar limitaciones humanas con ventajas de máquinas: el soldado se cansa, puede actuar por impulso, se equivoca y requiere tiempo; la IA, en cambio, “aprende” patrones y mejora su capacidad de detección.

El punto de quiebre está en el “siguiente paso” que algunos proponen: permitir que sistemas autónomos no solo identifiquen amenazas, sino que decidan cuándo disparar.

El debate sobre robots asesinos se conecta con otra realidad: la guerra moderna se alimenta de datos. Cada conexión a internet deja rastros que pueden servir para entender comportamientos, pero también para localizar individuos o identificar objetivos militares. Con volúmenes diarios de información gigantescos, se requieren plataformas capaces de integrar y analizar datos a escala.

La preocupación no es solo quién tiene los mejores algoritmos, sino qué visión de la guerra se vuelve posible cuando análisis masivo, identificación y priorización de objetivos se vuelven rutinarios.