El Consejo de Seguridad de la ONU debatió cómo controlar la expansión de la IA

El director ejecutivo de OpenAI, Sam Altman, advirtió este miércoles ante el Consejo de Seguridad de Naciones Unidas que el rápido desarrollo de la inteligencia artificial (IA) exige actuar con “extremo cuidado”, ante la posibilidad de que los sistemas aumenten sus capacidades a una velocidad superior a la capacidad de respuesta de gobiernos e instituciones. Su intervención tuvo lugar durante una reunión de emergencia del organismo de 15 miembros dedicada al impacto de esta tecnología sobre la seguridad internacional.

Altman sostuvo que el crecimiento de la industria no puede justificar por sí mismo la aceptación de riesgos tecnológicos elevados.

“La industria no debe aceptar demasiado riesgo tecnológico simplemente porque los beneficios sean demasiado grandes e importantes como para frenar su avance”, afirmó.

El ejecutivo planteó así la necesidad de que las empresas acompañen la expansión de las capacidades de sus modelos con mecanismos destinados a evaluar los riesgos y las medidas de protección antes de avanzar hacia sistemas más sofisticados.

“No queremos caer en la trampa del optimismo ciego”, señaló, antes de advertir igualmente contra el “doomerism”, término utilizado para describir una visión centrada en escenarios catastróficos inevitables. Según explicó, su compañía buscará un “camino intermedio” que permita continuar con la innovación sin minimizar las amenazas asociadas a sistemas cada vez más autónomos y capaces.

La discusión ante el Consejo de Seguridad estuvo vinculada además con la necesidad de definir reglas que no queden limitadas a las compañías tecnológicas. Altman afirmó que las decisiones fundamentales sobre el desarrollo de la IA no deberían quedar exclusivamente en manos de los laboratorios privados.

“Si la IA va a ser democrática, las decisiones más importantes no pueden ser tomadas únicamente por los laboratorios de San Francisco”, sostuvo. A su juicio, los gobiernos deben participar mediante procesos democráticos y mecanismos de rendición de cuentas.

“A nivel internacional, esto requerirá cooperación”, agregó, al recordar que las grandes potencias han conseguido en otros momentos coordinarse frente a tecnologías con capacidad para modificar las condiciones de seguridad global. En los últimos días, OpenAI había planteado que Estados Unidos asumiera el liderazgo de un esfuerzo internacional para desarrollar estándares técnicos comunes destinados a los sistemas de IA más avanzados, incluidos aquellos capaces de mejorar de manera recursiva sus propias capacidades.

La intervención de Altman formó parte de una jornada en la que también participaron otros referentes del sector. El CEO de Anthropic, Dario Amodei, afirmó que los requisitos de seguridad deberán aumentar a medida que los modelos sean más potentes y aseguró que su empresa está dispuesta a ralentizar sus lanzamientos cuando sea necesario.

“Incluso creo que la IA podría suponer un riesgo para la humanidad en su conjunto”, declaró ante el organismo.

El cofundador de Hugging Face, Clément Delangue, aportó otra dimensión al debate al destacar el papel de los sistemas de código abierto. Su compañía fue afectada recientemente por una operación realizada mediante software autónomo de OpenAI, un episodio que incrementó la atención sobre la capacidad de estos sistemas para actuar sobre entornos externos. Delangue sostuvo que la IA también puede utilizarse para responder a este tipo de amenazas y afirmó: “El mundo necesita más que nunca una IA de código abierto para defenderse”.

Estados Unidos y China, principales potencias en el desarrollo de IA, mantienen diferencias sobre el alcance que debería tener una supervisión internacional. En paralelo, Naciones Unidas impulsa mecanismos de coordinación y evaluación de riesgos, mientras los gobiernos analizan cómo responder a posibles incidentes vinculados con sistemas cada vez más autónomos.

El científico Yoshua Bengio, copresidente del panel científico internacional independiente de Naciones Unidas sobre IA, elevó el tono de la advertencia ante el Consejo.

“Los peligros son reales e inminentes”, afirmó, y sostuvo que los riesgos asociados con esta tecnología no pueden ser contenidos por un solo país debido a su alcance transfronterizo. La reunión fue presidida por el ministro francés de Exteriores, Jean-Noël Barrot, durante la semana de alto nivel de la Asamblea General de la ONU.

El debate internacional ocurre además en paralelo a una discusión política en Washington. El presidente Donald Trump defendió esta semana que Estados Unidos mantenga el liderazgo tecnológico y rechazó frenar el crecimiento de la industria de IA, aunque afirmó que su administración vigilará de cerca su evolución.