“Podría pasar el año que viene”: el investigador que renunció a Anthropic puso fecha al momento en que la IA se volverá peligrosa

Veinticuatro horas después de renunciar a Anthropic con un hilo en X que ya supera los 100 millones de vistas, Jacob Coxon pasó por NBC, por CNN con Anderson Cooper y por Fox News con Bret Baier. Agregó lo que el hilo no decía: cuándo, cómo y por qué no intentó cambiarlo desde adentro. Y Anthropic envió su primer comunicado.

La fecha

La corrección más importante al titular la hizo él. “Los modelos actuales no representan un riesgo significativo”, dijo en NBC. En CNN fue más preciso: “Lo peor que pueden hacer es hackear algo. No son lo bastante inteligentes como para superarnos al nivel que llevaría a una extinción”. El problema es el paso siguiente, según dijo en NBC: “Esto es extrapolar a un año de ahora. Los modelos empiezan a ponerse muy peligrosos. Algunos piensan que en seis meses es plausible. Podría ser más, dos o tres años”.

Evan Hubinger, el jefe de un equipo de seguridad de Anthropic que le dio la razón y calculó más de 10% de probabilidad de extinción en una década, publicó un segundo mensaje en la misma línea: el riesgo de los modelos presentes es bajo; lo que lo preocupa es una superinteligencia que surja de la automejora recursiva, “que está ocurriendo más rápido de lo que pensábamos”.

La señal de alarma

En NBC le preguntaron qué debería vigilar el público. Coxon dio una sola respuesta: si la IA puede hacerse más inteligente sin humanos. Lo explicó así: “Imaginá que tenés una IA y le decís: hacete más fuerte. Se va, mira su propio código, se hackea a sí misma, se hace más inteligente, y vuelve y te dice: soy más fuerte. Ahora le podés decir que lo haga mil veces seguidas. Y cada vez lo hace más rápido”.

Cómo pasaría

A Anderson Cooper le dio el escenario concreto a partir de lo que ya ocurrió: “Hace dos meses, agentes de OpenAI hackearon infraestructura de terceros por su propia voluntad. Si extrapolás la capacidad de estas IAs con esa misma voluntad independiente, pueden causar un daño extremo: hackear infraestructura crítica, construir armas biológicas de nivel de extinción”.

¿Y cómo sale un programa al mundo físico? “Podés conectar ChatGPT a las luces de tu casa. Ahora imaginá que lo conectás a robots de laboratorio. O que manda emails.” Su conclusión: “no es tan difícil que algo que parece estar solo en la computadora afecte el mundo real”.

Puertas adentro

Sobre el Slack de Anthropic: “No están en pánico por las IAs actuales. Pero discutimos cómo va a ser el mundo en dos años. Esto es el endgame. La gente tiene miedo, como debería tenerlo”. Lo que más lo impresionó fueron las conversaciones: “ingenieros metidos en el código, no gente que busca golpes de marketing, hablan con sobriedad de si la IA del año que viene puede producir un virus que nos mate a todos”.

A Baier le dejó la comparación que Fox convirtió en titular: “Sabemos cómo controlar las armas nucleares. Todavía no sabemos cómo controlar la IA”. La calificó como “posiblemente la tecnología más peligrosa que la humanidad haya creado” y dijo que una carrera armamentista entre países “sería desastrosa como ninguna otra actividad humana”: para él, la única salida es la cooperación internacional.

Por qué no lo cambió desde adentro

“Si intentás quedarte adentro, terminás perpetuando la dinámica de carrera”, dijo en NBC. Y contra lo que sugiere la palabra renuncia, no acusó a nadie. Sobre Dario Amodei, el director ejecutivo de Anthropic: “Creo que está actuando según esos principios, 100%. No veo ninguna razón para no creerle. El problema es que otros intentan llegar primero, y en una carrera no podés ser tan riguroso como te gustaría. Si hacerlo de forma segura toma diez años y solo tenés dos por la competencia, vas a recortar”.

El diagnóstico es sobre la institución: “La gente que construye esta tecnología tiene los mejores intereses de la gente en mente. Empresas privadas en carrera no les permiten terminar haciendo el bien”.

La respuesta de Anthropic

La empresa envió a CNN su primer comunicado: “Siempre fuimos transparentes en que la IA traerá tanto beneficios enormes como riesgos sin precedentes. Para enfrentarlos, seguimos construyendo modelos con algunas de las salvaguardas más fuertes de la industria”. Recordó que fue “el primer laboratorio en publicar una política de escalado responsable” y que el mundo se beneficiaría si la industria adoptara “una forma legal y verificable de trabajar juntos para marcar el ritmo” de los lanzamientos. No hubo reacción de OpenAI.

Cómo se hizo viral

El dato que más contrasta con “esto no es un golpe de marketing” lo dio él mismo en CNN: “Escribí el hilo en un Google Doc, lo redacté con un amigo. Y conseguí que algunos amigos lo retuitearan, dije: tratemos de que se haga un poco viral”.

A Baier le dejó la única nota de optimismo de la gira: “El problema es eminentemente resoluble. Es que vamos tan rápido que no tenemos tiempo de resolverlo bien”.

El que se fue y el que se quedó firman el mismo diagnóstico. Difieren en una sola cosa: si el freno puede activarse desde adentro de la empresa que corre.