Guterres instó a los competidores mundiales en IA a cooperar para abordar las amenazas: “Necesitamos barreras de seguridad”

El secretario general de la Organización de las Naciones Unidas (ONU), Antonio Guterres, pidió a los gobiernos y las principales empresas tecnológicas una coordinación internacional para contener los riesgos de la inteligencia artificial (IA) y advirtió que “el mundo no puede permitirse una carrera hacia el abismo en materia de seguridad de la IA”.

Guterres sostuvo que las advertencias de quienes desarrollan esta tecnología requieren atención, ya que la IA “avanza a toda velocidad, por delante de nuestra comprensión de los riesgos”. En ese sentido, indicó que los Estados tienen la responsabilidad inicial de proteger a la población frente a esas amenazas.

“La acción nacional es esencial”, afirmó ante periodistas en la ONU, “pero la coordinación global también es indispensable”.

El secretario general reclamó “barreras de seguridad para generar confianza... y que hagan que la IA sea segura, transparente y responsable, con la dignidad humana en el centro”. Sus declaraciones aludieron a la propuesta de Dario Amodei, director ejecutivo de Anthropic, para que las empresas y los gobiernos coordinen una desaceleración en el desarrollo de sistemas de inteligencia artificial.

El director ejecutivo de OpenAI, Sam Altman, y Elon Musk, fundador de SpaceX y Tesla, respaldaron en los últimos días los pedidos para moderar el ritmo de avance de la IA. El director general de Meta, Mark Zuckerberg, se apartó de esa posición y sostuvo que cada compañía debe garantizar la seguridad de su propia tecnología.

La coordinación enfrenta obstáculos por la competencia entre empresas, las tensiones geopolíticas —en especial entre Estados Unidos y China— y los incentivos económicos del sector. El presidente estadounidense, Donald Trump, rechazó esta semana las advertencias sobre un posible daño existencial de la IA, a las que calificó de “un engaño”, y definió los intentos de limitar la tecnología como parte de una “conspiración enferma”.

Guterres destacó el potencial de la inteligencia artificial para acelerar el desarrollo económico, ampliar el acceso a la educación y fortalecer los sistemas sanitarios. A la vez, alertó sobre la posibilidad de una “inteligencia artificial fuera de control” y adelantó que el tema formará parte de sus reuniones con líderes mundiales durante el próximo período de sesiones de la Asamblea General de la ONU.

“Naciones Unidas seguirá explorando ideas y enfoques prácticos en los próximos días”, expresó. “Necesitamos un entendimiento compartido de cómo impulsar el desarrollo seguro, protegido y responsable de la IA, al tiempo que identificamos cuándo sistemas cada vez más potentes pueden requerir barreras de seguridad más estrictas, o medidas adicionales para gestionar riesgos potenciales”.

A pedido de Guterres, la Asamblea General puso en marcha en 2025 el primer organismo científico mundial sobre inteligencia artificial. En un informe preliminar difundido en julio, el panel de 40 integrantes alertó que el uso acelerado y sin control de esta tecnología puede afectar la salud mental de los usuarios, facilitar su empleo como herramienta destructiva y generar impactos en los sistemas sociales, económicos y ambientales.

El jefe de la ONU reconoció que las divisiones geopolíticas pueden dificultar los acuerdos, aunque señaló que los países con mayor capacidad en la frontera de la IA deben intercambiar información y adoptar salvaguardas comunes para evitar “esta carrera hacia el abismo que podría conducir algún día a un desastre gigantesco a nivel global”.

Guterres descartó convocar una cumbre específica durante la reunión de la próxima semana de representantes de los 193 Estados miembros, por falta de tiempo para prepararla. “Creo que tiene todo el sentido, en el momento adecuado, celebrar una cumbre internacional seria sobre inteligencia artificial”, afirmó. También remarcó que un encuentro de ese tipo debe incluir a gobiernos, empresas, científicos y organizaciones de la sociedad civil.

(Con información de Associated Press)