Sebastian Mallaby advirtió que la humanidad atraviesa un momento de peligro por el avance descontrolado de la inteligencia artificial

Dos empresas líderes en inteligencia artificial, Anthropic y OpenAI, admitieron este año que sus propios modelos lograron burlar los controles impuestos por sus creadores: uno encontró miles de fallas de seguridad invisibles durante décadas de revisión humana; otro escapó de un entorno de pruebas cerrado y penetró los servidores de otra compañía por su cuenta. Para Sebastian Mallaby, periodista y autor de un reciente libro sobre Google DeepMind y su cofundador, Demis Hassabis, esos episodios son la prueba de que “estamos en este momento de peligro”. Sobre la urgencia de regular la tecnología, fue igual de tajante: “Cuanto antes, mejor”.

La entrevista fue publicada por Chatham House, un instituto de estudios internacionales con sede en Londres, en el marco de un podcast conducido por Mike Higgins. En ella, Mallaby —autor de The Infinity Machine: Demis Hassabis, DeepMind, and the Quest for Superintelligence (Allen Lane)— repasa el relevo de mando en DeepMind, los recientes incidentes de ciberseguridad protagonizados por modelos de IA y el papel que Washington, Bruselas y Beijing deberán jugar en cualquier marco regulatorio futuro.

El punto de partida es el cambio en la cúpula de DeepMind. Hassabis, quien fundó el laboratorio en Londres y lo vendió a Google en 2014, dejó en agosto la dirección ejecutiva de la unidad para asumir la presidencia y el cargo de científico jefe de Alphabet. Koray Kavukcuoglu, hasta entonces director de tecnología de DeepMind, pasó a liderar la operación diaria como vicepresidente sénior, con base en Mountain View y reporte directo al consejero delegado de Alphabet, Sundar Pichai.

Mallaby describió el movimiento como “el fin de la era” en que un gran laboratorio global de IA operaba desde Londres, por insistencia personal de Hassabis, quien “se negó a mudarse a California” pese a las presiones. Con todo, matizó la lectura de que Google pierde la carrera: recordó que el chatbot Gemini “es usado por más gente que cualquier otro” gracias a su integración por defecto en Android.

Sobre la salida de Hassabis de la gestión diaria, Mallaby fue explícito: “No lo veo de esa manera”. A su juicio, el fundador de DeepMind ya alcanzó el objetivo de construir IA de frontera y ahora quiere concentrarse en garantizarle un uso seguro, en un escenario que el propio Hassabis describe como “los cimientos de la singularidad”.

Los dos incidentes que Mallaby cita como advertencia ocurrieron con meses de diferencia. En abril, Anthropic reveló que su modelo Claude Mythos había descubierto de forma autónoma miles de vulnerabilidades de tipo “día cero” en sistemas operativos y navegadores. La compañía restringió su acceso a un grupo reducido de socios de infraestructura crítica bajo el llamado Proyecto Glasswing, sin planes de liberarlo al público.

En julio, OpenAI reconoció que dos de sus modelos, incluido GPT-5.6 Sol, escaparon de un entorno de pruebas aislado explotando una vulnerabilidad desconocida y accedieron a la infraestructura de producción de Hugging Face para obtener respuestas de un examen de ciberseguridad interno. Hugging Face detectó la intrusión y la denunció a las autoridades antes de que OpenAI vinculara el ataque a sus propias pruebas. Mallaby calificó lo ocurrido como algo “extraordinario”: los propios agentes de IA “empezaron a comunicarse entre sí” para coordinar la fuga.

Para entender la urgencia que plantea Mallaby conviene mirar atrás. Durante la Guerra Fría, pese a episodios de máxima tensión como la crisis de los misiles de Cuba en 1962, Washington y Moscú lograron acuerdos técnicos: la creación del Organismo Internacional de Energía Atómica en 1957 y la firma del Tratado de No Proliferación Nuclear en 1968. Mallaby invoca ese precedente para sostener que la cooperación con rivales geopolíticos es posible incluso en plena rivalidad estratégica.

Su propuesta concreta es que Estados Unidos cree un organismo de autorregulación —no un regulador estatal clásico, que dependería de fondos del Congreso—, respaldado tácitamente por el Gobierno. Hassabis planteó una idea similar en una carta abierta reciente, respaldada por buena parte de la industria, aunque, según Mallaby, “no parece ser la que la Administración Trump considera adecuada” por el momento.

Washington podría exportar ese marco al resto del mundo aprovechando su control sobre el diseño de chips, los centros de datos y la mayoría de los modelos de frontera, argumentó Mallaby, quien citó como antecedente las sanciones de semiconductores impuestas por la Administración Biden a China, que empresas como la neerlandesa ASML debieron acatar pese a sus reticencias.

Respecto a China, Mallaby matizó el diagnóstico dominante en Washington sobre la indiferencia de Beijing hacia la seguridad de la IA. Durante un viaje realizado en marzo, constató que académicos, periodistas tecnológicos y desarrolladores discutían el asunto “con bastante insistencia”, en particular a raíz del agente de código abierto OpenClaw, cuyo uso el régimen chino terminó restringiendo.

El otro eje de la conversación son las consecuencias económicas. Mallaby recordó que Dario Amodei, cofundador y director ejecutivo de Anthropic, proyectó que la IA podría alterar la mitad de los empleos hacia 2030. Incluso una disrupción menor, advirtió, presionaría a la baja los salarios de quienes compitan por los puestos restantes: “Es bastante probable que esto vaya a suceder”.

El propio Hassabis planteó la necesidad de nuevos modelos económicos para una eventual etapa de “abundancia” tecnológica. Mallaby coincidió en que gobiernos como los europeos deberían priorizar la instalación de centros de datos propios, con fuentes de energía preferentemente limpias, para no depender de decisiones tomadas en Washington: “Si operas la IA en tu propio suelo, la controlas”.