OpenAI propuso que Estados Unidos asuma un papel de liderazgo en la creación de normas técnicas internacionales para la inteligencia artificial (IA), con el objetivo de establecer reglas comunes para una tecnología que avanza cada vez más rápido.
La compañía plantea desarrollar estándares globales que incluyan mecanismos para medir las capacidades de los sistemas, informar sobre incidentes y abordar tecnologías capaces de mejorar de manera autónoma.
PUBLICIDAD
La propuesta llega mientras los líderes mundiales se reúnen en la Asamblea General de las Naciones Unidas, donde la inteligencia artificial ocupa un lugar destacado en las discusiones sobre seguridad internacional.
OpenAI considera que Estados Unidos debe impulsar un mecanismo que permita coordinar las normas nacionales e internacionales en lugar de que cada país establezca reglas aisladas.
OpenAI pide normas técnicas comunes para la IA
Entre las áreas que la compañía considera prioritarias está la denominada “automejora recursiva”, un concepto que describe la posibilidad de que un sistema de IA pueda mejorar sus propias capacidades de manera autónoma.
PUBLICIDAD
La preocupación está relacionada con el ritmo de desarrollo de los modelos más avanzados. Si estos sistemas adquieren la capacidad de contribuir a su propia mejora, los investigadores podrían enfrentarse a procesos de desarrollo más difíciles de supervisar y controlar.
Por ello, OpenAI plantea que los países trabajen con métricas comunes y protocolos para informar sobre incidentes, de modo que los gobiernos y las empresas puedan compartir información y responder de manera coordinada ante posibles riesgos.
La compañía considera que establecer estos mecanismos ahora será determinante para definir cómo se organizará la regulación internacional de la IA.
La empresa advierte sobre un escenario fragmentado
OpenAI sostiene que Estados Unidos tiene la oportunidad de participar activamente en la construcción de ese marco internacional. Según la empresa, no asumir ese papel podría contribuir a que surja un sistema regulatorio fragmentado, con normas diferentes entre países y dificultades para coordinar respuestas ante problemas relacionados con la IA.
PUBLICIDAD
La propuesta también está vinculada con la posición estratégica de Estados Unidos y sus aliados. OpenAI plantea que las reglas internacionales podrían servir para reforzar la cooperación entre estos países a medida que la inteligencia artificial adquiere mayor importancia económica, tecnológica y de seguridad.
La compañía no propone simplemente establecer una velocidad fija para el desarrollo de la IA. Su planteamiento es que la investigación destinada a garantizar que los sistemas actúen de acuerdo con los valores y objetivos humanos avance al menos al mismo ritmo que las capacidades de estos modelos.
Sam Altman hablará ante el Consejo de Seguridad de la ONU
El debate sobre la regulación de la inteligencia artificial también llegará al Consejo de Seguridad de las Naciones Unidas. Sam Altman, director ejecutivo de OpenAI, tiene previsto informar a los 15 miembros del organismo sobre la relación entre IA y seguridad internacional.
PUBLICIDAD
La reunión fue convocada por Francia, que ocupa durante septiembre la presidencia del Consejo de Seguridad, y estará presidida por Jean-Noël Barrot, ministro francés de Europa y Relaciones Exteriores.
El organismo ya había abordado los riesgos de la inteligencia artificial en 2023. En aquella ocasión, China advirtió que la tecnología no debía convertirse en un “caballo desbocado”, mientras Estados Unidos señaló posibles usos de la IA para censurar o reprimir a la población.
La industria debate si es necesario reducir el ritmo
La propuesta de OpenAI se produce en medio de un debate más amplio dentro del sector tecnológico sobre la conveniencia de desacelerar determinados avances en inteligencia artificial.
PUBLICIDAD
Varios líderes de la industria, incluido Altman, han planteado la necesidad de una coordinación internacional ante la posibilidad de que los sistemas futuros sean capaces de desarrollar capacidades que resulten difíciles de controlar.
En este contexto, OpenAI sostiene que “modular” el desarrollo de la IA no significa establecer una velocidad determinada. El objetivo, según la empresa, debería ser garantizar que la investigación sobre alineación, es decir, el trabajo destinado a conseguir que una IA se comporte de acuerdo con los objetivos humanos, y su aplicación práctica avancen por delante de las capacidades de los propios sistemas.
PUBLICIDAD