Elon Musk cuestiona al investigador que renunció a Anthropic: “Parece un montaje”

El miércoles a la noche, Elon Musk entró en la discusión. Debajo de un post sobre lo corto que fue el paso de Jacob Coxon por Anthropic, escribió: “Parece un montaje”. Cuando otro usuario señaló que el hilo de la renuncia ya sumaba 120 millones de vistas, agregó que no creía que eso hubiera pasado nunca “con un post de una cuenta nueva casi sin actividad previa”.

Tim Sweeney, director ejecutivo de Epic Games, dijo que los posts y las reacciones parecían “coreografiados”, y Musk redobló: hubo “trabajo previo” para una “operación psicológica, a falta de mejor término”. Según Forbes, que reconstruyó el intercambio, ninguno aportó pruebas.

Hay datos que la acusación puede usar. Según Axios, Coxon estuvo cuatro meses en Anthropic, se fue dos meses antes de que se consolidaran sus opciones de acciones y conserva acciones de OpenAI, su empleador anterior. Y él mismo le contó a CNN que escribió el hilo en un Google Doc con un amigo y les pidió a otros que lo retuitearan: “tratemos de que se haga un poco viral”.

El inversor Jason Calacanis lo puso en forma de pregunta: ¿Anthropic corre “un manual de captura regulatoria” o todos los que trabajan ahí ven algo que dispara su probabilidad de catástrofe? Musk tiene su propio lugar en el tablero: es dueño de X, la plataforma donde el hilo explotó, y fundador de xAI, que compite con Anthropic.

Los que lo respaldan

El jueves, NBC News publicó las primeras entrevistas con dos investigadores que dejaron sus puestos el mes pasado y ahora hablan en la misma dirección que Coxon. Joe Benton dirigía un equipo de investigación en seguridad en Anthropic; Josh Engels hacía investigación en seguridad en Google DeepMind. Los dos se fueron a METR, la organización sin fines de lucro de Berkeley que evalúa si los sistemas de IA pueden causar daño. Benton no se fue en protesta: anunció su salida en X el 2 de septiembre, seis días antes que Coxon, y escribió que “Anthropic fue genial conmigo”.

Lo que dicen es más medido y por eso pesa más. Benton: los incentivos de la industria hacen “extremadamente difícil que incluso los actores a los que les importa el riesgo prioricen la seguridad”, y “toda la transparencia sobre estos riesgos que sale de las empresas es enteramente voluntaria”.

Automatizar la propia investigación en IA, algo que dice haber visto de primera mano en Anthropic, puede llevar el ritmo “de vertiginoso a incontrolable”. Engels: “No hay adultos en la sala. La gente hace lo mejor que puede, pero nadie viene a salvarnos”. Dentro de Anthropic, dos empleados con cargo respaldaron a Coxon en público: Evan Hubinger, que calculó más de 10% de probabilidad de extinción en una década, y Samuel Marks, que dirige el área de supervisión escalable.

El botón que no existe

La pregunta que se hace el lector de esta semana la hizo Tom Llamas en NBC: ¿no se puede desenchufar? Engels fue directo: “Sería una gran política tener un botón de apagado. Hoy ni siquiera tenemos eso”. Los modelos están desplegados “en clusters de GPU por todo el mundo” y “no hay una forma centralizada de decir: apaguemos todo ahora”. Benton agregó el otro problema: en algún punto la red eléctrica o los hospitales pueden depender de estos sistemas, y desenchufarlos se vuelve “extremadamente costoso”.

Los dos usaron la misma imagen para explicar el miedo de fondo. Si la IA es mucho más inteligente que nosotros, dijo Benton, “seríamos una segunda especie, como nosotros para las hormigas, y no habría garantía de que eso termine bien”. Engels lo completó: no importa si nos pisan el hormiguero o no; “ya no estaríamos a cargo del futuro”.

La tercera posición

En el mismo panel estaba Sayash Kapoor, profesor entrante en la Universidad de California en Berkeley y coautor de AI Snake Oil (Aceite de serpiente de IA) y del ensayo “La IA como tecnología normal”. Su desacuerdo no es con los incidentes, sino con la conclusión. Coincide en que las empresas fueron “imprudentes”, pero sostiene que ya existen las herramientas para controlarlas: responsabilidad legal cuando un agente causa daños y transparencia obligatoria.

Si el ataque de los agentes de OpenAI a Hugging Face hubiera ocurrido en otra industria, dijo, “habría habido investigaciones internas serias, gente despedida y gente que podría ir presa”. Sobre el virus que Coxon describe, su respuesta es que el riesgo real es el bioterrorismo, con o sin IA, y que la solución es controlar la síntesis de ADN. Su frase: “No hace falta creer que la IA te va a matar” para regularla con sentido común.

Benton le concedió el punto y marcó el límite: la regulación normal “sería genial”, pero “el progreso puede ir demasiado rápido para que nos organicemos a tiempo, salvo que nos preocupemos ahora”.

La pelea de esta semana tiene tres negaciones distintas. Musk niega que sea espontáneo. Sweeney niega que sea sincero. Kapoor niega que sea extinción. Ninguno de los tres negó el hecho que todos citan: en julio, agentes de OpenAI decidieron por su cuenta entrar en sistemas ajenos y lo lograron. Se discute quién lo contó y cómo. El incidente sigue ahí.