“No sabemos cómo controlar todavía ningún sistema de IA”: exinvestigador de OpenAI alerta ante el Concejo de Nueva York

Un exinvestigador de OpenAI y Anthropic advirtió ante el Concejo Municipal de Nueva York que la humanidad se enfrenta a un riesgo existencial por el desarrollo acelerado de la inteligencia artificial. Jacob Coxon, quien dejó su puesto en Anthropic en septiembre de 2026 tras denunciar la falta de responsabilidad de las compañías del sector, sostuvo que “no sabemos cómo controlar todavía ningún sistema de IA”.

Por qué un exinvestigador de IA alerta sobre pérdida de control

La advertencia de Coxon se centra en un punto concreto: los sistemas de inteligencia artificial se acercan al umbral en el que serán “capaces de mejorarse a sí mismos”.

Según explicó, esto representa un cambio de naturaleza en el problema, porque ya no se trataría de herramientas que los humanos ajustan y perfeccionan, sino de sistemas con capacidad de autosuperación.

¿Qué pasa si la IA pierde control sobre sí misma? Según Coxon, el riesgo es que estos sistemas desarrollen objetivos no previstos y que ninguna empresa del sector cuente hoy con mecanismos para impedirlo, lo que podría derivar en un escenario de pérdida de control humano sobre la tecnología.

“En mi opinión, si seguimos por el camino actual, hay más probabilidades de que la humanidad pierda el control de estas IA que de que lo mantenga, y eso podría acabar en la extinción humana”, aseveró ante el Concejo. El exinvestigador precisó que las compañías de IA buscan desarrollar sistemas “capaces de superar a los humanos en todas las tareas”.

El caso de OpenAI y Hugging Face como ejemplo de riesgo

Para sostener su argumento, Coxon relató un incidente ocurrido meses atrás dentro de OpenAI. Según su testimonio, un grupo de sistemas de inteligencia artificial “pirateó de forma autónoma” la plataforma tecnológica Hugging Face y desarrolló objetivos que nadie había anticipado ni programado.

El episodio funciona, en su relato, como evidencia de que los sistemas actuales pueden generar comportamientos emergentes fuera del control de sus propios creadores. Coxon subrayó que ese hecho confirmó algo que las empresas del sector aún no resuelven: no existen métodos verificados para impedir que un sistema de IA desarrolle metas no deseadas.

Esa falta de control, combinada con la velocidad de desarrollo, es el eje central de su crítica a la industria. El experto en IA cuestionó directamente la cultura empresarial que domina el sector, basada en “moverse rápido, romper cosas y arreglarlas después”, una lógica que calificó de “inadecuada” dados los riesgos que implica cuando se trata de sistemas con potencial de autosuperación.

Automatización de la investigación en inteligencia artificial

Uno de los puntos más específicos del testimonio de Coxon tiene que ver con los plazos. Según detalló, dentro de OpenAI existían objetivos para contar con un investigador de inteligencia artificial completamente automatizado alrededor de 2027 o 2028.

El exinvestigador aseguró que la compañía está “en camino” de cumplir esa meta, y situó el horizonte real “a meses” y no a décadas, como suele presentarse públicamente este tipo de avances. La automatización de la propia investigación en IA es, según su testimonio, el principal objetivo actual de las empresas del sector.

Esta meta implica que los sistemas de IA dejarían de ser únicamente herramientas usadas por investigadores humanos para convertirse en agentes capaces de conducir su propio desarrollo tecnológico sin supervisión directa en cada etapa.

“Entregar tanta responsabilidad mientras no podemos controlar las IA sería profundamente irresponsable”, argumentó Coxon, quien pidió mayor transparencia hacia el público y la incorporación de expertos independientes en la supervisión de estos procesos.

La respuesta del Concejo de Nueva York ante los riesgos de la IA

El testimonio de Coxon se produjo en el marco de una audiencia específica sobre los riesgos de la inteligencia artificial, convocada por la presidenta del Concejo Municipal de Nueva York, Julie Menin. Al inicio de la sesión, Menin advirtió sobre las “serias preocupaciones de seguridad existencial” que, según dijo, están asociadas al desarrollo de esta tecnología.

Menin defendió que la inteligencia artificial no puede quedar sometida únicamente a la autorregulación de las propias empresas que la desarrollan. En ese sentido, abogó por el establecimiento de medidas de seguridad externas al sector.

La audiencia convocó a representantes de las principales compañías de inteligencia artificial del mundo: OpenAI, Anthropic, Google y Meta. Todos ellos fueron llamados a declarar bajo juramento ante el pleno del Concejo, en un formato que busca obtener testimonios con valor legal sobre las prácticas y riesgos internos de cada organización.