Los riesgos de la inteligencia artificial en poder de regímenes autoritarios: “Puede ir en contra de las democracias”

Si es cierto lo que dijo Vladimir Putin en una frase muy citada —"quien controle la inteligencia artificial gobernará el mundo”—, entonces no extraña que la competencia entre los países para el dominio de esta tecnología se esté volviendo cada vez más feroz.

Es una competencia que involucra por un lado la relación entre la tecnología y el Estado; por otro, afecta directamente a las dinámicas geopolíticas: desde el vínculo entre la inteligencia artificial y los ciberataques y el terrorismo, hasta dilemas éticos relacionados a la armas autónomas y los temores que esta tecnología pueda terminar fortaleciendo a los regímenes autoritarios.

“La inteligencia artificial (AI) tiene una importancia única”, aseguró Ben Buchanan, profesor asistente en la Escuela de Servicio Exterior de la Universidad de Georgetown y miembro principal del Centro de Estudios de Seguridad de la misma institución, en una entrevista con Michael Morell en el podcast de CBS News “Intelligence Matters” en la que abordó los principales interrogantes entorno a esta tecnología.

Para este experto no hay duda: la importancia de la inteligencia artificial es mucho mayor a la de otras tecnologías también al centro del debate, como la blockchain, las redes 5G y las computadoras cuánticas.

“El aprendizaje automático, los datos, los algoritmos y la potencia informática han mejorado mucho y nos han permitido hacer cosas que tal vez hace diez o incluso cinco años no creíamos posibles”, dijo Buchanan.

Este impresionante desarrollo, sin embargo, no está exento de efectos potencialmente negativos. Una de las preocupaciones principales de Buchanan, autor de un libro en el que desentraña las principales operaciones cibernéticas de los últimos diez años, es cómo los regímenes autocráticos pueden aprovechar la sofisticación cada vez mayor de la inteligencia artificial.

“La pregunta más importante es cómo las democracias se adaptarán a esto. Creo que sabemos cuál será el libro de jugadas autoritario. Se trata de qué tan bien pueden integrar la tecnología y qué puede hacer la tecnología", advirtió.

Un ejemplo paradigmático es el de China. “Creo que una de las cosas que más me preocupa, en el contexto de una nación como China, es cómo la IA puede permitir el autoritarismo”, dijo Buchanan. “La IA resolverá o ayudará a resolver algunos de los problemas centrales de los regímenes autoritarios. Si se mira a la IA como una herramienta de vigilancia, la IA como una herramienta de reconocimiento facial, la IA como una herramienta que esencialmente permite un estado policial cada vez más agresivo y cada vez más intrusivo, creo que eso va en contra de los intereses de las democracias. Y debemos pensar seriamente en cómo combatir esto, y tomar esta tecnología y usarla con fines democráticos”.

Otra amenaza, según el investigador, es el uso de la inteligencia artificial para llevar adelante ciberataques y actos terroristas.

“Algunos de los ataques cibernéticos más poderosos de la historia han sido los que tienen algún componente automatizado”, dijo Buchanan, quien citó el ciberataque ruso que causó un apagón masivo en Ucrania de 2016.

La buena noticia, dice Buchanan, es que esa misma arma puede ser usada para defenderse de estas amenazas, con un uso de la inteligencia artificial en operaciones cibernéticas que puede ser alternativamente ofensivo y defensivo.

Mientas que con lo que respecta al terrorismo, Buchanan cree, con algo de escepticismo, que la IA puede ser usada en lucha contra el proselitismo de las organizaciones terroristas en Internet, ayudando a detectar los mensajes potencialmente peligrosos en foros y plataformas como Facebook. El otro aspecto tiene que ver con los algoritmos de plataformas como You Tube y Facebook, esencialmente gobernados por IA. “Determina lo que ves en internet. Y eso es, como saben mucho mejor que yo, un caldo de cultivo para el terrorismo y una herramienta de reclutamiento”.

Otro aspecto analizado por Buchanan y que despierta inquietudes es el uso de la inteligencia artificial en las armas autónomas, un debate que cobra nueva importancia en momentos en que el Pentágono intenta acelerar sus capacidades de Inteligencia Artificial a la vez que adoptó nuevos principios éticos para sus aplicaciones bélicas y no bélicas, desde recabar inteligencia y operaciones de espionaje, hasta predecir problemas de mantenimiento en aeronaves y embarcaciones.

“La verdadera pregunta con las armas autónomas no es qué pensamos al respecto en abstracto, sino cuando la gente realmente está muriendo. Esa es la pregunta mucho más profunda. ¿Estaríamos dispuestos a no usar las armas y hacer que la gente muera?”, se preguntó. Otros interrogantes son, según el investigador, en qué grado la inteligencia artificial debería usarse en los sistemas de armas cinéticas que matan, el grado en que esos sistemas deberían tener la autoridad para decidir disparar por sí mismos y cuál debería ser el papel de los humanos.

“Aquí hay preguntas profundas que creo que el estado de seguridad nacional apenas está comenzando a resolver. Y se puede imaginar que las democracias y las autocracias llegarían a diferentes respuestas a estas preguntas”, dice.

Algo positivo, para Buchanan, es que no hay un liderazgo claro de un país en el uso de la Inteligencia artificial para fines de seguridad nacional.

“Si se observa el reconocimiento de imágenes, el reconocimiento facial, parece bastante claro que los chinos están por delante en esa área”, debido a su interés en fortalecer el control policial sobre la población.

Por otra parte, Estados Unidos es el país que más está buscando integrar la inteligencia artificial en otros sistemas. “Ha realizado algunas inversiones bastante grandes en los últimos dos años, defendiendo el Centro Conjunto de Inteligencia Artificial en el Pentágono, por ejemplo, desarrollando el Proyecto Maven”, el proyecto de inteligencia artificial del Pentágono.

Pese a la frase de Putin, en cambio, Rusia aún no cuenta con el nivel de inversión que tienen Estados Unidos y China. “Probablemente por razones de que Estados Unidos y China solo tienen más recursos que una nación como Rusia. Pero ciertamente, el interés ruso en la autonomía se remonta a mucho tiempo”, concluyó Buchanan.

MÁS SOBRE ESTE TEMA: