Empleados de OpenAI, Anthropic y Google piden poder frenar la inteligencia artificial

El martes 28 de julio, se publicó una declaración titulada Pacing the Frontier (Pautar la frontera), firmada por empleados verificados de las mayores empresas de inteligencia artificial del mundo. El pedido es uno solo: que el gobierno de Estados Unidos respalde un esfuerzo internacional para desarrollar las herramientas técnicas y de gobernanza necesarias para pautar de manera deliberada la frontera del desarrollo automatizado de la IA. Al cierre de esta nota, el contador del sitio marcaba 1.293 firmas y seguía abierto a nuevos adherentes.

Lo que el texto no pide importa tanto como lo que pide. No reclama una pausa. No propone detener ningún proyecto en curso. Sostiene que la industria, los gobiernos y la sociedad podrían necesitar la opción de ganar tiempo para atender riesgos, desarrollar medidas de seguridad y reforzar la supervisión, y que hoy esa opción no existe porque nadie construyó los instrumentos para ejercerla.

El argumento central es de coordinación. Cada empresa y cada país está bajo una presión competitiva intensa para no reducir esa aceleración por su cuenta, dice el documento. Nadie frena solo sin perder terreno.

Quiénes firmaron

En la lista aparecen Dario Amodei, director ejecutivo de Anthropic, y cuatro cofundadores de esa empresa: Jared Kaplan, Jack Clark, Chris Olah y Benjamin Mann. También Jakub Pachocki, jefe de ciencia de OpenAI, y Mark Chen, director de investigación de la misma compañía. Del lado de Google están Shane Legg, cofundador de DeepMind, y Anca Dragan, vicepresidenta de seguridad y alineamiento de IA. Por Meta, el jefe de ciencia Shengjia Zhao y la vicepresidenta de investigación de IA Dawn Song. Cierra la nómina un nombre que no pertenece a ninguno de los cuatro laboratorios grandes: Ilya Sutskever, cofundador de OpenAI y hoy director ejecutivo de Safe Superintelligence.

Los firmantes provienen de cerca de una docena de compañías, entre ellas Thinking Machines, donde John Schulman es jefe de ciencia. Horas después de la publicación, OpenAI y Anthropic respaldaron el texto como empresas, no solo a través de sus ejecutivos. Anthropic vinculó el pedido a su propia investigación sobre autoperfeccionamiento recursivo, el proceso por el cual un sistema de IA mejora sus capacidades sin intervención humana. La declaración tuvo apoyo organizativo de dos entidades sin fines de lucro, Guidelight AI Standards y Encode AI.

Qué riesgo describe el documento

El texto parte de una premisa que las empresas del sector vienen repitiendo: creen que podrían estar cerca de automatizar la investigación en IA. Es decir, que los modelos diseñen y entrenen modelos mejores sin que un humano dirija el proceso. A partir de ahí, admite que el escenario optimista no está garantizado. “Existe un riesgo real de que el desarrollo de capacidades se acelere rápidamente más allá de nuestra capacidad de comprender o controlar los sistemas resultantes”, dice la declaración.

Los comentarios personales publicados junto a las firmas son más crudos que el documento. El sitio aclara que esas opiniones se emiten a título individual y no representan la posición de ninguna empresa. Leo Gao, miembro del equipo técnico de OpenAI, escribió que el mundo está atrapado en una carrera mortal hacia una explosión de inteligencia y que ningún actor individual está dispuesto a detenerse por su cuenta. Schulman agregó que le gustaría ver a los laboratorios diseñar esos mecanismos de forma voluntaria, incluso antes de que el gobierno intervenga.

El calendario regulatorio en Estados Unidos

El pedido llega en un momento preciso. El 2 de junio, Donald Trump firmó el decreto 14.409, sobre promoción de la innovación y la seguridad en inteligencia artificial avanzada. La norma le da al gobierno 60 días para diseñar un marco voluntario que permita a las agencias federales acceder hasta 30 días antes del lanzamiento a los modelos designados como cubiertos. El texto aclara que no autoriza ningún régimen obligatorio de licencias ni de autorización previa. Ese plazo vence el 1 de agosto.

La distancia entre ambas cosas es grande. El marco del decreto es doméstico, voluntario y posterior, porque revisa modelos ya terminados. Lo que pide la carta es internacional, coordinado y anterior, porque apunta al ritmo del desarrollo mismo. Esa maquinaria no existe hoy en ninguna jurisdicción.

Por sí sola, la declaración no obliga a nada. Su valor es otro: quienes fijan el ritmo dejaron por escrito que no pueden bajarlo solos. Eso ya no es una advertencia de críticos externos. Es la confesión de los que manejan el volante.