Los directivos de las principales empresas de inteligencia artificial pidieron al Consejo de Seguridad de las Naciones Unidas que impulse una regulación global para la tecnología que ellos mismos desarrollan, ante el riesgo de que su expansión descontrolada escape a cualquier forma de supervisión humana.
Dario Amodei, director ejecutivo de Anthropic, y Sam Altman, director ejecutivo de OpenAI, dieron declaraciones ante el organismo y coincidieron en que, sin salvaguardias comunes, la humanidad podría perder el control sobre el desarrollo de la inteligencia artificial.
PUBLICIDAD
Qué piden los líderes de la inteligencia artificial ante la ONU
Dario Amodei advirtió que la falta de control sobre esta tecnología podría derivar en consecuencias irreversibles. “Si se gestiona mal, creo que la IA podría incluso suponer un riesgo para la humanidad en su conjunto”, afirmó ante el Consejo de Seguridad.
Sam Altman planteó una preocupación similar sobre el rumbo que puede tomar el desarrollo de estos sistemas si no existen límites claros. “Podríamos perder el control del futuro a manos de la IA”, sostuvo el director ejecutivo de OpenAI.
Ambos ejecutivos coincidieron en un punto central: los países del mundo, a través del Consejo de Seguridad, deben establecer salvaguardias para evitar que la tecnología alcance un nivel de poder imposible de supervisar. También reclamaron que ese poder no quede concentrado en una sola empresa o un solo país.
PUBLICIDAD
La inteligencia artificial, cuando se regula de forma adecuada, es una tecnología capaz de ampliar las capacidades humanas en tareas de análisis, producción y toma de decisiones, pero también conlleva riesgos de pérdida de control si se desarrolla sin estándares comunes de seguridad verificables entre gobiernos y empresas.
Altman destacó además el potencial de esta tecnología para el progreso humano, al señalar que puede “dar a las personas mayor control sobre sus propias vidas”. Junto a ellos participó de forma remota Clément Delangue, director ejecutivo de Hugging Face, cuya conexión sufrió fallos técnicos durante la sesión.
El ministro de Asuntos Exteriores británico, Ed Miliband, respaldó ante el Consejo de Seguridad el planteo de los ejecutivos. “Nos están diciendo claramente que no se les puede dejar a ellos la responsabilidad de evitar que el mundo se vea asediado”, declaró. “No podemos ignorarlos porque tienen razón”.
PUBLICIDAD
El choque entre Europa y Estados Unidos por la gobernanza global de la IA
Miliband anunció que, cuando el Reino Unido asuma la presidencia del G20 el próximo año, colocará el control de la inteligencia artificial en el centro de las discusiones del foro. El objetivo declarado es alcanzar un conjunto único de estándares globales “para garantizar que el desarrollo de la IA sea seguro”.
Esa postura choca de manera directa con la posición de Estados Unidos, expresada en la misma sesión por Michael Kratsios, asesor científico de la Casa Blanca. Según Kratsios, las preocupaciones sobre el control de la tecnología “no son motivo para detener su desarrollo ni para limitarlo con una nueva estructura de gobernanza global”.
Kratsios remarcó que la posición de Washington apunta a extender los beneficios de la inteligencia artificial entre sus socios internacionales sin someterla a un marco regulatorio compartido. “Queremos que ustedes, nuestros aliados y socios, se beneficien de esta tecnología”, afirmó ante el Consejo de Seguridad.
PUBLICIDAD
Esta divergencia deja planteado un interrogante que atraviesa la agenda de los principales gobiernos: quién debe tener la última palabra sobre las decisiones que involucran a sistemas de inteligencia artificial, si los humanos o las propias máquinas, y bajo qué reglas comunes, si es que llegan a existir.
La advertencia sobre armas autónomas y el riesgo de las armas biológicas
Un día antes de la sesión con los ejecutivos tecnológicos, el secretario general de la ONU, Antonio Guterres, había advertido sobre los llamados “robots asesinos”. Según expertos y líderes europeos que participaron del debate, esa advertencia no describe un escenario hipotético, sino una realidad ya presente o peligrosamente próxima a concretarse.
En ese marco, Amodei pidió a los líderes mundiales que acuerden no permitir que la inteligencia artificial participe en la construcción de armas biológicas.
También reclamó mecanismos para verificar qué capacidades tienen realmente los modelos disponibles y “establecer estándares comunes” para las pruebas de seguridad, la pérdida de control de los sistemas y su uso indebido.
PUBLICIDAD
El ministro de Asuntos Exteriores francés, Jean-Noël Barrot, cuyo país convocó la reunión del miércoles, trazó un paralelismo entre el momento actual de la inteligencia artificial y dos episodios históricos: la computadora descontrolada HAL9000, de la película “2001: Una odisea del espacio”, y los primeros años de la era atómica.
“Al igual que ocurrió con el átomo en su momento, la comunidad internacional debe ahora regular la IA para aprovechar al máximo su potencial y evitar lo peor”, sostuvo Barrot ante el Consejo de Seguridad de las Naciones Unidas.
PUBLICIDAD