Según un nuevo informe del think tank global The Millennium Project Global Futures Studies and Research (Proyecto Milenio), que reúne a 71 nodos de países y regiones en el mundo, los beneficios de la Inteligencia Artificial General (AGI) son tan grandes en medicina, educación, administración y productividad, que las corporaciones están compitiendo por ser las primeras en desarrollar y aplicar sus potencialidades.
Lo mismo ocurre con los gobiernos, debido a que la AGI aumentará el poder político, y tratan de adelantarse en su utilización. Por eso, la cooperación internacional es esencial, ante las tensiones entre naciones y corporaciones, que compiten por la supremacía en esta tecnología.
Los riesgos compartidos pueden incentivar u obligar a la colaboración, pero para eso se debe superar la desconfianza. Esto plantea un enorme desafío, por eso que una gobernanza global del desarrollo de este instrumento, es fundamental.
En este informe, titulado “Cuestiones de gobernanza internacional de la transición de la inteligencia artificial estrecha a la inteligencia artificial general (AGI)”, un grupo de 55 líderes y expertos mundiales en inteligencia artificial, de Estados Unidos, China, el Reino Unido, Canadá, la Unión Europea y Rusia, entre ellos Sam Altman, Bill Gates y Elon Musk, explican las posibilidades futuras, y advierten que los sistemas avanzados de inteligencia artificial podrían surgir antes de lo esperado, lo que plantea riesgos sin precedentes, a menos que se establezcan rápidamente marcos de gobernanza prudentes.
Se pronuncian sobre cómo regular la AGI, ya que puede llegar en los próximos años a manejar nuevas situaciones tan bien o mejor que los humanos, lo que representaría una “explosión de inteligencia” que crearía una IA superior a las capacidades humanas. La falta de gobernanza podría conducir a resultados catastróficos, incluidas amenazas existenciales a la humanidad, si dichos sistemas no están alineados con los valores e intereses humanos.
El informe concluye que ningún modelo de gobernanza existente está preparado adecuadamente para gestionar los riesgos y oportunidades que plantea la AGI. Requiere el rápido desarrollo de un nuevo tipo de gobernanza flexible que pueda igualar y anticipar el ritmo del cambio de la IA y proporcionar las salvaguardias necesarias, sin sofocar sus avances.
Según Ilya Sutskever, cofundador de OpenAI, “AGI está más cerca que nunca: el próximo avance podría superar la inteligencia humana. “La alineación con los valores humanos es fundamental pero desafiante”, señaló Ben Goertzel, autor de AGI Revolution.
“Se trata más de quien controle el desarrollo y el uso de la AGI que de una lista de éticas; estamos todos juntos en este barco, si las cosas van mal, estamos todos condenados”, según el profesor de Oxford Nick Bostrom.
Es posible que se necesiten poderes ejecutivos extraordinarios para que la gobernanza sea confiable y eficaz a nivel mundial, lo que podría incluir a las capacidades militares. Aunque son controvertidas, es posible que se necesiten propuestas para limitar temporalmente la investigación y el desarrollo, a fin de dar tiempo para diseñar e implementar soluciones de gestión. El plazo para desarrollar una gobernanza eficaz es breve y exige una colaboración sin precedentes.
El Secretario General de la ONU está organizando un órgano asesor global de las partes interesadas para crear el marco de la ONU para la gobernanza internacional de la IA, por lo que habrá un evento que se celebrará el 20 de septiembre de 2023 en el contexto del 77º período de sesiones de la Asamblea General de las Naciones Unidas en Nueva York, en el que el Proyecto Milenio participará representado por Jerome Glenn, su director ejecutivo.
Dado que lo que está en juego puede incluir la extinción humana, el informe advierte que no podemos permitirnos demoras en la movilización de la cooperación global. Si no logramos una Convención de la ONU sobre AGI y una Agencia de AGI de la ONU para hacer cumplir las reglas, barreras de seguridad, auditoría y verificación, entonces podrían surgir varias formas de Superinteligencia Artificial fuera de nuestro control. En este sentido, el Proyecto Milenio pide medidas urgentes para crear esa gobernanza a nivel nacional e internacional.
Últimas Noticias
Sindicato y empleador: Causas de los conflictos laborales
El documento detalla que los tipos de desacuerdo laboral se generan por malentendidos o problemas en la comunicación, sobre los roles y las responsabilidades, cuestionamientos sobre liderazgo y gestión, entre otros
El Congreso retro. La ley retro
Existen graves retrocesos como la eliminación de la “Educación Sexual Integral” (ESI), la cual debe ser sustituida por una “educación sexual con calidad científica, ética y valores”, sin definir qué ciencia ni qué valores
La paradoja libertaria
Mientras el presidente Javier Milei transita su momento de mayor fortaleza política gracias a un Congreso, el Gobierno enfrenta una economía todavía frágil, atravesada por incertidumbres macro, advertencias externas y una actividad real que no logra encontrar señales de alivio
La Constitución no ampara la mentira
El artículo 18 de la carta magna buscaba prohibir que se obligara a un imputado de un delito a autoincriminarse. Sin embargo, fue esa la hermenéutica que primó en la jurisprudencia
Giro extremo en Chile: ¿un vecino que se acerca?
La inminente victoria de José Antonio Kast y el impacto de un nuevo eje regional de derecha en las relaciones bilaterales con Argentina
