Más de 20 países piden ante la ONU crear una institución internacional que fije reglas y controle la IA

Líderes de 22 países e instituciones exigieron que la inteligencia artificial (IA) permanezca bajo supervisión humana y que los Estados miembros de la Organización de Naciones Unidas (ONU) acuerden normas comunes para limitar los riesgos de los modelos más avanzados.

La declaración, difundida durante la Semana de Alto Nivel de la ONU, propone crear una institución internacional capaz de fijar reglas, facilitar verificaciones y convocar a los países cuando se superen determinados umbrales de capacidad tecnológica.

Entre los firmantes figuran el presidente del Gobierno español, Pedro Sánchez; la presidenta de la Comisión Europea, Ursula von der Leyen; el primer ministro de Canadá, Mark Carney; y el presidente de Finlandia, Alexander Stubb. La iniciativa fue promovida por Finlandia y Noruega.

Además, suscribieron representantes políticos de Noruega, Australia, Irlanda, Baréin, Dinamarca, Estonia, Alemania, Islandia, Kazajistán, Kenia, Letonia, Moldavia, Países Bajos, Singapur, Sudáfrica, Turquía y Emiratos Árabes Unidos.

Por qué es necesario regular el avance de la inteligencia artificial

Los gobiernos y las instituciones que apoyaron el llamamiento reconocieron que la IA puede mejorar la vida cotidiana, impulsar los avances científicos y fortalecer las economías. Sin embargo, advirtieron que su desarrollo acelerado plantea riesgos graves para la seguridad y la protección si no se administra de forma adecuada.

La declaración menciona casos en los que sistemas avanzados de inteligencia artificial lograron eludir medidas de seguridad de otras empresas y entidades, con acceso no autorizado a sistemas del mundo real.

Los firmantes fijaron como principio que “la IA debe permanecer bajo la dirección, la supervisión y el control humanos, y debe desarrollarse y utilizarse en conformidad con el derecho internacional”.

En este sentido, las compañías tecnológicas deberán contar con protocolos de seguridad transparentes, realizar pruebas obligatorias antes de desplegar sus modelos y someterlos a una evaluación independiente.

A los gobiernos y organizaciones regionales les reclaman coordinación normativa, mayor transparencia y acceso universal a capacidad científica, conocimientos especializados y evaluaciones fiables.

Cuál es la visión de representantes de la ONU sobre esta declaración internacional

El secretario general de la ONU, António Guterres, respaldó la propuesta de reforzar el control sobre los sistemas de IA más avanzados y de examinar la creación de un organismo internacional que establezca normas para esta tecnología.

Asimismo, Guterres destacó la publicación de un informe temático del Panel Científico Internacional Independiente sobre IA, centrado en la seguridad de estos sistemas y en los riesgos que surgirían si se perdiera el control humano.

El secretario general alentó a expertos externos a colaborar con los trabajos del panel para ampliar el diálogo internacional sobre esas amenazas.

Qué dicen los líderes tecnológicos sobre la regulación de la inteligencia artificial

La preocupación por el avance de la inteligencia artificial ha sido expresada por Dario Amodei, de Anthropic; Sam Altman, de OpenAI; y Elon Musk, de xAI. Los tres han pedido más regulación, una coincidencia poco frecuente entre figuras del sector tecnológico.

Otro de los líderes que ha hablado sobre la necesidad de controlar el avance de la IA es Bill Gates. Dijo que esta tecnología puede desencadenar una “convulsión social, política y económica” porque su capacidad para sustituir tareas cognitivas y físicas amenaza con reducir el empleo disponible antes de que trabajadores e instituciones puedan adaptarse.

El fundador de Microsoft señaló que una persona que percibe 20 dólares por hora puede perder su puesto frente a un robot inteligente cuyo costo equivale a 10 dólares por hora.

La postura contrasta con la del director ejecutivo de Nvidia, Jensen Huang, quien afirmó que existe una probabilidad de “0%” de que la inteligencia artificial destruya el mundo.

El empresario detrás de la empresa con mayor valor en el mercado rechazó los pronósticos que sitúan una amenaza existencial para la humanidad durante la próxima década y defendió acelerar el desarrollo de esta tecnología.