Dictadura artificial, bots, drones y algoritmos al poder

Desde conflictos bélicos hasta las decisiones cotidianas de la vida, cómo impactan las nuevas tecnologías en el día a día y la posibilidad de afectación de nuestro desarrollo cognitivo

Guardar
El papa Francisco advirtió sobre el riesgo de que la Inteligencia Artificial provoque una “dictadura tecnológica” (Foto: Reuters/Dado Ruvic)
El papa Francisco advirtió sobre el riesgo de que la Inteligencia Artificial provoque una “dictadura tecnológica” (Foto: Reuters/Dado Ruvic)

Los ejes sobre los cuales la comunidad internacional debería trabajar frente a la revolución tecnológica remiten a la necesidad de regular el uso, funcionamiento y, en simultáneo, vigilar el impacto en la población; monitorear su empleo por parte de agresores o enemigos de las democracias del mundo y, finalmente, determinar el marco ético. El papa Francisco le puso nombre y apellido, advirtiendo sobre el riesgo de que la Inteligencia Artificial provoque una “dictadura tecnológica” que amenace la paz y las democracias en el planeta.

Es que las nuevas tecnologías nos atraviesan y el fenómeno es imparable. El Papa, pide que los líderes mundiales acuerden un “tratado internacional vinculante” sobre la IA desarrollado dentro de un marco ético. Desde algoritmos con sesgo discriminatorio o tecnología que favorece a las compañías tecnológicas ya dominantes, en las circunstancias actuales la IA podría filtrar documentos secretos de los gobiernos o crear armas biológicas de manera autónoma.

La realidad nos sugiere que países como Ucrania ya cuentan con herramientas de IA como la llamada Clearview AI, que consiste en un programa de reconocimiento facial que almacena unas 10.000 millones de fotos de usuarios, siendo una base de datos privada capaz de identificar a todos los soldados del ejército ruso que se encuentran en territorio ucraniano.

La carrera armamentista es ya un gran consumidor de IA, pero en términos mundanos, si la población se acostumbra a ceder decisiones importantes a los algoritmos, será cada vez más difícil que los humanos recuperen el control. Durante la cumbre de 2023 sobre el futuro del combate aéreo celebrado en Londres, un dron militar autónomo con IA “asesinó” a su operador durante un ejercicio de combate. Afortunadamente, las maniobras eran simuladas.

Actualmente Estados Unidos continúa integrando más la IA en sus operaciones, incluso para volar y controlar un caza F-16. Estas aptitudes podrían constituir una ventaja radical y determinante de cara a los futuros conflictos bélicos y al mismo tiempo un serio peligro si se saliera de control.

En un plano más doméstico, pero invitados a ceder nuestras decisiones, pedir asistencia y relajar el control de nuestros actos; la revolución de estos días se llama “tecnología wearable”. Se trata de dispositivos electrónicos diseñados para llevar puestos en el cuerpo, como las gafas inteligentes, los relojes y los asistentes de fitness. Meta, junto con Ray-Ban incorpora inteligencia vanguardista, diseñada para procesar información visual y auditiva, lo que permite al dispositivo ofrecer respuestas inteligentes a las consultas de los usuarios.

Los nuevos lentes inteligentes están equipados con una IA multimodal que permite a las gafas ver, escuchar e interactuar con el usuario. Puede realizar tareas como traducir texto, crear subtítulos descriptivos para imágenes e identificar objetos, sugerir combinaciones de ropa, clasificar tipos de frutas, además de traducir texto en memes.

La ética tecnológica es definitivamente una deuda que crece. Debemos ser realistas, los sistemas de inteligencia artificial fallan, en ocasiones funcionan mal, generan información errónea y la posibilidad de que nos inviten a tomar decisiones erróneas existe. Sin embargo, es necesario subrayar enfáticamente los posibles riesgos y desafíos asociados con la IA, incluyendo su fragilidad, susceptibilidad a la manipulación y necesidad de control y regulación.

Guardar