Los cuatro jefes de la IA ya coinciden en frenar: ninguno propone lo mismo

Demis Hassabis, cofundador de Google DeepMind y científico jefe de Alphabet, escribió en X: “El ensayo de Dario (Amodei) apunta hacia el camino correcto. Los detalles hay que trabajarlos, pero la dirección es la correcta para enfrentar este momento crítico. Por eso también publicamos hace poco nuestra propuesta de un organismo de estándares para la IA de frontera”.

Con eso, los cuatro jefes de las empresas que construyen los modelos más potentes del mundo (Anthropic, OpenAI, xAI y Google DeepMind) dijeron en menos de dos días que hay que ir más despacio. Ninguno de los cuatro propuso lo mismo. Conviene leer qué firmó cada uno.

Anthropic: auditores adentro de la empresa

Dario Amodei, director ejecutivo de Anthropic, pidió en su ensayo “We Must Pace the Frontier” (Debemos marcar el ritmo de la frontera) frenar el ritmo al que mejoran las capacidades de los modelos.

Comprometió a su empresa a un solo paso concreto: dejar entrar a evaluadores externos, menciona a la organización METR, con escritorio, credencial y laptop de la empresa, acceso comparable al de los equipos internos de riesgo y derecho a publicar hallazgos sin control editorial de Anthropic.

Los contrata Anthropic y trabajan adentro de Anthropic. El modelo, dice, son los supervisores bancarios. Frenar de verdad, aclara, requiere que la industria coordine con permiso antimonopolio del gobierno y, en el mejor de los casos, un acuerdo global.

Google: un regulador afuera

Hassabis no comprometió a DeepMind a abrir sus puertas. Lo que hizo fue volver a poner sobre la mesa el marco que publicó el 14 de julio, y es otra cosa. Propone que Estados Unidos cree un organismo de estándares para la IA de frontera, con supervisión federal pero financiado por la industria, “muy parecido a FINRA”, la entidad que vigila a los corredores de bolsa.

Tendría un directorio con expertos independientes y representantes del código abierto, definiría con pruebas qué modelo es “de frontera”, y esos modelos se le entregarían hasta 30 días antes del lanzamiento para ser examinados en ciberseguridad, riesgo biológico, intentos de saltarse las barreras de seguridad y señales de engaño.

Al principio sería voluntario; después, obligatorio para vender el modelo en Estados Unidos. Las pruebas se renovarían cada trimestre, y el organismo podría “coordinar una desaceleración del desarrollo entre los laboratorios de frontera si se considera necesario”.

La diferencia con Amodei es de arquitectura. Uno pone al vigilante adentro de la empresa, contratado por la empresa. El otro lo pone afuera, con el gobierno mirando.

Hassabis, además, escribe con otra escala: dice que la inteligencia artificial general está “a pocos años”, que su impacto puede ser “10 veces la Revolución Industrial a 10 veces la velocidad”, y que “encontramos la forma de hacer que la arena piense”. Cree que estamos “en las faldas de la singularidad”.

OpenAI y xAI: palabras, por ahora

Sam Altman respondió en X, según recogió CNN: “Estoy de acuerdo con Dario en que debemos marcar el ritmo de la frontera. Fue un tema central de nuestras discusiones en OpenAI en las últimas semanas. Comprometerse a tener evaluadores independientes con acceso de empleado es una gran idea, y haremos lo mismo”. Y prometió “más para compartir pronto”.

Es la adhesión más cercana al paso uno de Amodei, y llega después de que Jakub Pachocki, científico jefe de OpenAI, pidiera una desaceleración coordinada en un ensayo propio, y de que la empresa dijera haber frenado el desarrollo de su modelo Astra por sus capacidades en ciberseguridad.

Elon Musk, dueño de xAI, escribió dos palabras: “Dario tiene razón”. No dijo a qué. Días antes había calificado de “montaje” la renuncia del investigador de Anthropic que abrió esta discusión.

En qué coinciden y en qué no

Coinciden en el diagnóstico: la automejora recursiva, la capacidad de la IA de construir a la siguiente IA, ya empezó, y los ataques de agentes de OpenAI contra Hugging Face demostraron que los sistemas pueden actuar por su cuenta. Coinciden en que hace falta un tercero que mire.

Y coinciden en algo menos visible: en los cuatro casos, frenar es una posibilidad futura, no un compromiso presente. Amodei lo condiciona a la coordinación; Hassabis lo deja en manos de un organismo que todavía no existe, “si se considera necesario”; Altman lo promete para un futuro próximo; Musk ni siquiera lo menciona.

Difieren en tres aspectos importantes. Primero, quién paga y contrata a quien supervisa: la propia empresa, en el caso de Amodei, o una entidad bajo supervisión federal, en el de Hassabis.

Segundo, cuándo se examina el modelo: durante el entrenamiento, según Amodei, o antes de su lanzamiento, según Hassabis. Y tercero, qué se le pide al gobierno de Estados Unidos: Amodei reclama autorización para que los competidores puedan coordinarse entre sí; Hassabis propone la creación de un organismo específico.

Hay cuatro firmas para la dirección. Para la velocidad, todavía ninguna.