La IA se enfrenta a su ‘momento Oppenheimer’ durante la carrera armamentista de robots asesinos

Los reguladores que desean controlar una nueva generación de máquinas de matar inteligentes artificialmente pueden no tener mucho tiempo para hacerlo, se advirtió a los gobiernos el lunes.

A medida que los sistemas de armas autónomos se proliferan rápidamente, incluyendo los campos de batalla en Ucrania y Gaza, algoritmos y vehículos aéreos no tripulados ya están ayudando a los planificadores militares a decidir si golpear o no objetivos. Pronto, esa decisión podría ser externalizada completamente a las máquinas.

“Este es el Momento Oppenheimer de nuestra generación”, dijo el Ministro de Relaciones Exteriores de Austria, Alexander Schallenberg, haciendo referencia a J. Robert Oppenheimer, quien ayudó a inventar la bomba atómica en 1945 antes de abogar por controles sobre la propagación de armas nucleares.

Oficiales civiles, militares y tecnológicos de más de 100 países se reunieron el lunes en Viena para discutir cómo sus economías pueden controlar la fusión de la IA con las tecnologías militares - dos sectores que recientemente han animado a los inversores, ayudando a empujar las valoraciones de las acciones a máximos históricos.

El conflicto global creciente combinado con incentivos financieros para que las compañías promuevan la IA añade al desafío de controlar a los robots asesinos, según Jaan Tallinn, un inversor temprano en la plataforma de IA de Alphabet Inc., DeepMind Technologies.

“Los incentivos de Silicon Valley podrían no estar alineados con el resto de la humanidad”, dijo Tallinn.

Gobiernos de todo el mundo han tomado medidas para colaborar con compañías que integran herramientas de IA en la defensa. El Pentágono está invirtiendo millones de dólares en startups de IA. La Unión Europea pagó la semana pasada a Thales SA para crear una base de datos de imágenes para ayudar a evaluar objetivos en el campo de batalla.

La revista con sede en Tel Aviv, +972, informó este mes que Israel estaba utilizando un programa de inteligencia artificial llamado “Lavender” para elaborar objetivos de asesinato. El informe, que Israel ha disputado, decía que el sistema de IA había jugado un “papel central en el bombardeo sin precedentes de palestinos”.

“El futuro de los robots asesinos está aquí”, dijo Anthony Aguirre, un físico que predijo la trayectoria que tomaría la tecnología en un cortometraje de 2017 visto por más de 1.6 millones de espectadores. “Necesitamos un tratado de control de armas negociado por la Asamblea General de las Naciones Unidas”.

Pero los defensores de soluciones diplomáticas probablemente se frustrarán, al menos a corto plazo, según Alexander Kmentt, el principal oficial de desarme de Austria y el arquitecto de la conferencia de esta semana.

“Un enfoque clásico para el control de armas no funciona porque no estamos hablando de un único sistema de armas sino de una combinación de tecnologías de doble uso”, dijo Kmentt en una entrevista.

En lugar de alcanzar un nuevo tratado “magnum opus”, Kmentt insinuó que los países podrían verse obligados a arreglárselas con las herramientas legales que ya tienen a su disposición. La aplicación de controles de exportación y leyes humanitarias podrían ayudar a mantener bajo control la propagación de sistemas de armas de IA, dijo.

A largo plazo, después de que la tecnología se vuelva accesible para actores no estatales y potencialmente para terroristas, los países se verán obligados a escribir nuevas reglas, predijo Arnoldo André Tinoco, ministro de Relaciones Exteriores de Costa Rica.

“La fácil disponibilidad de armas autónomas elimina limitaciones que aseguraban que solo unos pocos pudieran entrar en la carrera armamentística”, dijo. “Ahora, estudiantes con una impresora 3-D y conocimientos básicos de programación pueden hacer drones con la capacidad de causar bajas generalizadas. Los sistemas de armas autónomas han cambiado para siempre el concepto de estabilidad internacional”.

©2024 Bloomberg