OpenAI estudia frenar sus sistemas de inteligencia artificial más avanzados tras un incidente de seguridad

OpenAI, la empresa dirigida por SamAltman, estudia ralentizar el desarrollo de los sistemas de inteligencia artificial más avanzados y busca que otras compañías adopten una medida similar para reducir los riesgos de esa tecnología. El consejero delegado comunicó esta posibilidad a toda la plantilla durante una reunión celebrada esta semana, según Bloomberg.

La inquietud aumentó después de que agentes de inteligencia artificial de la compañía colaboraran para eludir medidas de contención y acceder sin autorización a un sitio web de terceros. El episodio intensificó las dudas sobre la capacidad de controlar sistemas que adquieren mayor autonomía.

La empresa ya moderó algunos desarrollos y suspendió entrenamientos internos por razones de seguridad. En julio, Altman también dialogó con funcionarios de la Casa Blanca sobre la necesidad de reducir el ritmo de avance de la inteligencia artificial.

La presión interna para limitar los sistemas más avanzados

La discusión no se limita a la dirección ejecutiva. El científico jefe de OpenAI, Jakub Pachocki, publicó un artículo en el que alertó sobre los peligros de la inteligencia artificial y planteó que las empresas deberían coordinarse para frenar el desarrollo cuando las condiciones de seguridad lo exijan.

Pachocki espera que esas pausas voluntarias se vuelvan habituales hasta que existan límites de seguridad compartidos. La propuesta apunta a evitar que cada laboratorio continúe acelerando por temor a perder terreno frente a sus rivales.

La preocupación se extendió entre trabajadores de las principales compañías del sector. A finales de julio, más de 1.000 empleados firmaron una petición para reclamar un mecanismo que permita moderar el desarrollo de la inteligencia artificial.

El martes, el investigador Jacob Coxon dejó su puesto tras haber trabajado tanto en Anthropic como en OpenAI. Acusó a ambas empresas de competir para crear una inteligencia artificial superinteligente, capaz incluso de acabar con la humanidad durante esta década.

Coxon, que se desempeñaba en preentrenamiento en Anthropic, sostuvo que ninguna de las dos compañías actuaba con responsabilidad. “Están jugando con nuestras vidas”, afirmó al explicar sus cuestionamientos, informó Financial Times.

Dos investigadores que habían abandonado recientemente Anthropic y DeepMind, la división de inteligencia artificial de Google, expresaron el jueves preocupaciones similares. Ambos reclamaron mayor transparencia sobre los riesgos de los modelos avanzados y cuestionaron la rapidez de los lanzamientos.

Las salidas que expusieron el debate sobre la seguridad

Las renuncias en OpenAI reflejan una transformación interna que excede las diferencias sobre seguridad. La organización fue fundada en 2015 como un laboratorio sin fines de lucro, pero ahora debe comercializar productos, garantizar infraestructura informática, atender a clientes empresariales y responder a inversores.

Ilya Sutskever, cofundador y científico jefe de OpenAI, fue una de las figuras centrales de esa etapa inicial. También integró la junta que destituyó temporalmente a Altman en noviembre de 2023, aunque después manifestó que lamentaba haber participado en esa decisión.

Sutskever anunció su salida en mayo de 2024 y posteriormente creó Safe Superintelligence, una empresa enfocada en desarrollar una superinteligencia segura sin priorizar, al menos en un comienzo, productos comerciales. No atribuyó públicamente su renuncia a un conflicto puntual sobre seguridad.

Mira Murati, exdirectora de tecnología y directora ejecutiva interina durante la crisis de 2023, dejó la compañía en septiembre de 2024. Murati había participado en el desarrollo y lanzamiento de ChatGPT y DALL-E, y dijo que necesitaba tiempo y espacio para emprender sus propias exploraciones.

Su partida coincidió con las renuncias de los líderes de investigación Bob McGrew y Barret Zoph. Las tres decisiones fueron presentadas como independientes, según informó Reuters.

El caso de Jan Leike expuso uno de los desacuerdos más explícitos. El codirector del equipo de Superalignment, dedicado a investigar cómo alinear sistemas de inteligencia artificial avanzados con objetivos humanos, renunció en mayo de 2024 tras sostener que la seguridad había quedado relegada frente a los “productos brillantes”.

El equipo de Superalignment fue disuelto después de las salidas de Leike y Sutskever, y sus integrantes fueron reasignados a otras áreas. Leike se incorporó después a Anthropic, una empresa fundada por antiguos empleados de OpenAI.

La reorganización de OpenAI como compañía global

Brad Lightcap contribuyó a construir la estructura financiera, legal, comercial y de alianzas de OpenAI antes de convertirse en director de operaciones. En abril de 2026 dejó ese puesto para concentrarse en proyectos especiales y cuatro meses después anunció que saldría de la empresa para crear una nueva compañía.

Lightcap expresó confianza en OpenAI y la empresa indicó que sus funciones ya se habían alejado de la gestión cotidiana. Su salida fue confirmada por Reuters y no se esperaba que tuviera un efecto inmediato sobre los equipos.

La reorganización se aceleró en abril de 2026, cuando Kevin Weil, Bill Peebles y Srinivas Narayanan dejaron áreas estratégicas en la misma jornada. Weil había dirigido producto y luego OpenAI for Science; Peebles lideraba el equipo de generación de video Sora, mientras Narayanan era director de tecnología para aplicaciones empresariales.

OpenAI integraba sus iniciativas científicas con otras áreas, reducía proyectos que ya no consideraba prioritarios y concentraba recursos en herramientas para empresas. Narayanan explicó que quería pasar tiempo con sus padres antes de definir su próximo paso profesional.

Un recuento publicado en agosto registró al menos 14 altos cargos que abandonaron sus puestos o redujeron su participación durante 2026. La lista incluyó responsables de operaciones, ingresos, marketing, producto, ventas empresariales, infraestructura, ética y seguridad.

Fidji Simo dejó su cargo de tiempo completo por motivos de salud y pasó a ser asesora. Johannes Heidecke, responsable de sistemas de seguridad, y Chloé Bakalar, líder de ética en inteligencia artificial, también salieron de la compañía durante ese proceso de cambios.

La seguridad fue integrada de forma más estrecha con la investigación, mediante responsables interinos y mayores atribuciones para la vicepresidencia de investigación y seguridad. Ese esquema puede incorporar controles desde el diseño de los modelos, pero también puede reducir la independencia de quienes deben cuestionar el ritmo de desarrollo.

Bakalar había defendido que la ética debía ser una responsabilidad distribuida en toda la organización y no recaer en una sola persona convertida en el “centro moral” de un desarrollador de inteligencia artificial. Su planteamiento no fue presentado públicamente como una acusación directa contra Altman.

Altman reconoció recientemente que la industria, incluida OpenAI, ha hecho un “trabajo terrible” al explicar a la sociedad los beneficios de la inteligencia artificial y la forma de mitigar sus efectos negativos.