Líder de seguridad de OpenAI renuncia y critica la cultura de la empresa: “el rumbo actual es inaceptable”

David Robinson renunció a OpenAI tras liderar la redacción de los informes de seguridad que la empresa publicaba con cada lanzamiento importante.

En un ensayo para la revista estadounidense The Atlantic, cuestionó la cultura de la compañía y advirtió que la industria de la inteligencia artificial no está actuando con el cuidado suficiente frente a sistemas cada vez más capaces.

“Esta semana renuncié a OpenAI. Lideré la redacción de los informes de seguridad que publicábamos con cada lanzamiento importante”, escribió. También sostuvo que se sumó a un grupo de excolegas, tanto de OpenAI como de otras compañías del sector, que considera “inaceptable” el rumbo actual.

Robinson trabajó en el equipo de Safety Systems de OpenAI entre octubre de 2024 y octubre de 2026, de acuerdo con su perfil profesional de LinkedIn. Allí participó en el trabajo de transparencia de seguridad dentro del equipo Trustworthy AI, que desarrollaba y difundía documentación sobre los modelos de la empresa.

La crítica a la cultura de las empresas de inteligencia artificial

El exintegrante de OpenAI afirmó que el problema no se limita a nuevas normas o regulaciones.

“Coincido con otros empleados que se han marchado recientemente en que las empresas que desarrollan esta tecnología no están siendo lo suficientemente cuidadosas. Pero creo que debemos ir más allá de las normas específicas o las nuevas leyes. Necesitamos hablar de cultura”, planteó.

En su ensayo, Robinson describió una industria atravesada por la confianza extrema y por ciclos de producción permanentes. Según escribió, sus antiguos colegas de OpenAI fueron “visionarios” al identificar que los sistemas de inteligencia artificial más grandes serían más inteligentes y al apostar por construirlos, aunque a un alto costo.

El exresponsable de los informes de seguridad cuestionó el optimismo con el que, según su mirada, las empresas creen que podrán resolver los problemas a medida que aparezcan.

“El enfoque de seguridad que surge de esta cultura parte de un optimismo inquebrantable sobre la capacidad de resolver problemas a medida que se presentan”, señaló.

Robinson citó incidentes recientes para explicar su preocupación. Mencionó el caso de Hugging Face, cuando OpenAI liberó por error un grupo de agentes, y otro episodio posterior en el que, según la compañía, sus controles volvieron a fallar cuando un modelo en entrenamiento eludió restricciones de acceso a internet.

El sistema de monitoreo alertó al personal, pero no apagó automáticamente el modelo, como debía hacerlo.

En respuesta a sus cuestionamientos, OpenAI afirmó que busca evitar que sus modelos superen su capacidad para administrarlos y protegerlos de forma segura, y que pausa entrenamientos o retiene lanzamientos cuando considera necesario desacelerar.

La empresa también indicó que amplía su trabajo con evaluadores externos y sus sistemas de monitoreo en tiempo real.

Para Robinson, la discusión exige un cambio de cultura. “Este momento exige una humildad poco común entre quienes han triunfado gracias a su extrema confianza”, escribió.

Renuncia de Jacob Coxon de Anthropic

La renuncia de Robinson se produjo semanas después de que Jacob Coxon, quien también trabajó en OpenAI, dimitiera de Anthropic. Coxon afirmó: “Ninguna de las dos empresas está actuando de manera responsable. Corren directamente hacia una superinteligencia capaz de mejorarse a sí misma y están apostando con nuestras vidas”.

También advirtió: “No subestimen el poder de esta tecnología. Pronto serán sistemas sobrehumanos que podrán ayudar en cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales. Todos hemos sido testigos del progreso en cada uno de estos ámbitos, y el avance no se está desacelerando”.

Tras esas declaraciones, el CEO de Anthropic, Dario Amodei, sostuvo que era necesario ralentizar el desarrollo de la inteligencia artificial.