Altman (OpenAI) advierte en la ONU del peligro de la IA y reclama supervisión democrática

Naciones Unidas, 23 sep (EFE).- El director ejecutivo de OpenAI, Sam Altman, instó este miércoles al Consejo de Seguridad de la ONU a construir una cooperación internacional urgente que oriente a las empresas tecnológicas con estándares complementarios nacionales y globales, advirtiendo de que el avance acelerado de la inteligencia artificial (IA) exige un "extremo cuidado" para no perder el control humano sobre los modelos.

En su intervención en una sesión de alto nivel convocada por la presidencia francesa del Consejo, Altman remarcó que el sector se encuentra en una encrucijada y no debe asumir "demasiado riesgo tecnológico solo porque los beneficios sean demasiado grandes e importantes como para frenarlos".

A su juicio, la IA tiene el potencial de impulsar una nueva era similar al "Renacimiento" si se concibe como una herramienta que capacite a las personas, pero alertó del peligro de reproducir las fracturas de la Revolución Industrial si los sistemas sustituyen la agencia humana o si la tecnología escapa a su supervisión.

Altman puso especial énfasis en el riesgo de que los modelos más avanzados, aquellos capaces de programarse y mejorarse a sí mismos de forma recursiva, aceleren su desarrollo hasta el punto de que los humanos no los entiendan ni puedan seguir sus decisiones.

Por ello, señaló que las empresas necesitan la guía de los líderes mundiales para definir marcos técnicos rigurosos que permitan medir capacidades, evaluar amenazas, verificar salvaguardas y crear canales internacionales seguros para compartir vulnerabilidades críticas.

Altman apeló al consenso multilateral, pero lo hizo sin aludir directamente a potencias rivales como China: "A nivel internacional, esto significa cooperación. En nuestra historia, ha habido momentos en que países que compiten y no siempre se llevan bien, pero aun así se unen por intereses comunes y el bien colectivo ante una nueva y poderosa tecnología. Creemos que este debe ser uno de esos momentos".

Para encarar este dilema, Altman desgranó los tres principios rectores de su compañía: mantener a las personas "en el centro de la toma de decisiones" para garantizar que los modelos sigan bajo estricto control humano, orientar el progreso científico y económico "por y para las personas" potenciando su capacidad de acción y "empoderar a cada individuo".

"Puede que seamos los creadores de esta tecnología, pero no somos los héroes de esta historia. Nuestro papel es confiar en la magia del talento humano", subrayó.

La sesión, presidida por el ministro francés de Exteriores, Jean-Noël Barrot, y en la que también intervendrán por videoconferencia Dario Amodei (Anthropic) y Clément Delangue (Hugging Face), aborda por primera vez en el Consejo las amenazas de los ciberataques autónomos o el riesgo de que los humanos pierdan el control sobre los modelos de IA más avanzados. EFE

(foto)(video)