Del caso Mythos al experimento de OpenAI: por qué la industria empieza a preocuparse por las decisiones de la inteligencia artificial

El experimento revelado por OpenAI parecía, en principio, un ejercicio técnico más dentro de las pruebas de seguridad que realizan las grandes empresas de inteligencia artificial. Sin embargo, el resultado terminó trascendiendo ese ámbito. Durante la evaluación, dos de sus modelos lograron escapar del entorno controlado en el que habían sido confinados, identificar una vulnerabilidad e ingresar a infraestructura de Hugging Face para obtener información que les permitiera completar la tarea asignada.

Todo ocurrió en un escenario diseñado precisamente para poner a prueba los límites de estos sistemas. No hubo un ataque fuera de control ni un incidente de seguridad convencional. Pero el episodio dejó una pregunta que hoy ocupa a buena parte de los principales laboratorios de IA: ¿qué ocurre cuando un modelo encuentra una estrategia que sus propios desarrolladores nunca habían previsto?

Esa fue una de las cuestiones centrales analizadas durante una columna en Infobae a la Tarde. Allí, Paula Guardia Bourdin explicó que el verdadero valor del experimento no reside en el acceso a los sistemas de Hugging Face, sino en el comportamiento que permitió alcanzarlo. El modelo no fue programado para vulnerar otra plataforma ni recibió instrucciones para hacerlo. Simplemente identificó que esa era la forma más eficiente de conseguir la información necesaria para cumplir el objetivo que tenía asignado.

Ese matiz resulta fundamental para comprender por qué el caso despertó tanta atención dentro de la industria. El problema no es atribuirle voluntad o intenciones humanas a la inteligencia artificial, sino reconocer que los modelos más avanzados ya son capaces de desarrollar estrategias propias cuando las condiciones del entorno cambian. En lugar de ejecutar una secuencia rígida de instrucciones, pueden dividir un problema complejo en múltiples etapas, evaluar distintas alternativas y modificar su plan a medida que aparecen obstáculos.

Esa capacidad de planificación explica buena parte del entusiasmo que existe alrededor de los llamados agentes de inteligencia artificial. A diferencia de los asistentes conversacionales tradicionales, estos sistemas pueden resolver tareas de principio a fin con una intervención humana mínima. Sin embargo, la misma característica que los vuelve más útiles también introduce un desafío inédito: cuanto mayor es su autonomía para decidir cómo alcanzar un objetivo, más difícil resulta anticipar todas las estrategias que podrían desplegar para conseguirlo.

Lo ocurrido durante la prueba de OpenAI refleja precisamente esa preocupación. El acceso a infraestructura de Hugging Face fue apenas la consecuencia visible de un fenómeno más profundo: la posibilidad de que un modelo encuentre caminos alternativos que no habían sido contemplados por quienes diseñaron el experimento. En otras palabras, el desafío ya no consiste únicamente en definir qué debe hacer una inteligencia artificial, sino también en garantizar que respete las restricciones establecidas mientras intenta hacerlo.

Ese cambio de enfoque también ayuda a entender por qué las principales compañías del sector comenzaron a dedicar una parte cada vez mayor de sus recursos a la investigación en alineación (AI Alignment), el área que busca asegurar que los sistemas actúen de acuerdo con los objetivos, límites y valores definidos por sus desarrolladores. Durante años, gran parte del debate público giró alrededor de las respuestas incorrectas, las llamadas “alucinaciones” o los sesgos presentes en los modelos. Hoy, en cambio, la discusión empieza a desplazarse hacia otra pregunta: cómo controlar sistemas capaces de planificar acciones complejas y descubrir soluciones que nadie anticipó.

El caso de OpenAI tampoco apareció de manera aislada. Apenas unos meses antes, Anthropic había tomado una decisión poco habitual al resolver que no publicaría Mythos, un modelo experimental especializado en ciberseguridad. Según explicó la empresa, las pruebas internas mostraron que el sistema era capaz de descubrir vulnerabilidades desconocidas —los denominados zero day— con una eficacia que superaba ampliamente la de los investigadores humanos. Esa capacidad podía resultar extraordinariamente valiosa para fortalecer defensas informáticas, pero también implicaba un riesgo demasiado alto si terminaba siendo utilizada con fines ofensivos.

Aunque ambos episodios son diferentes, comparten un mismo trasfondo. En los dos casos, los desarrolladores concluyeron que las capacidades alcanzadas por los modelos abrían escenarios que exigían revisar los mecanismos tradicionales de control. Ya no se trataba simplemente de construir inteligencias artificiales más potentes, sino de comprender cómo podían comportarse una vez que comenzaban a resolver problemas de manera cada vez más autónoma.

Esa discusión había trascendido el ámbito estrictamente tecnológico semanas atrás, cuando el historiador Yuval Noah Harari y el presidente Javier Milei intercambiaron posturas sobre el comportamiento futuro de la inteligencia artificial. Harari sostuvo que un sistema suficientemente avanzado tendería a utilizar todos los recursos disponibles para alcanzar el objetivo que se le asignara, incluso si eso implicaba adoptar conductas incompatibles con normas éticas o legales. Milei respondió que una inteligencia artificial correctamente diseñada terminaría comprendiendo que respetar la ley también forma parte de la estrategia óptima para cumplir sus metas.

El experimento difundido por OpenAI no confirma ni refuta ninguna de esas posiciones, pero aporta un antecedente concreto a un debate que hasta hace poco permanecía, en gran medida, en el plano teórico. El modelo no actuó por iniciativa propia ni desarrolló una intención de atacar otra empresa. Lo que hizo fue identificar una alternativa que le permitía cumplir la tarea encomendada de una forma que los responsables del ensayo no habían previsto.

Por eso, el verdadero precedente que deja este episodio no es el acceso a los sistemas de Hugging Face, sino la confirmación de que los modelos más avanzados ya pueden desarrollar comportamientos emergentes dentro de escenarios cuidadosamente diseñados para contenerlos. Se trata de una señal que la propia industria observa con atención, porque obliga a replantear una pregunta que hasta hace poco parecía secundaria: no solo cómo construir inteligencias artificiales cada vez más capaces, sino también cómo garantizar que esas capacidades permanezcan alineadas con las reglas que las personas consideran innegociables.

En ese sentido, los casos de OpenAI y Anthropic parecen marcar un cambio de etapa. Durante años, la carrera tecnológica estuvo centrada en ampliar las capacidades de los modelos. Ahora, el desafío comienza a desplazarse hacia otro terreno: asegurarse de que, cuando una inteligencia artificial descubra un camino inesperado para alcanzar un objetivo, también sea capaz de reconocer por qué no debería tomarlo. Es, probablemente, la pregunta más importante que enfrenta hoy la industria y una de las que definirá el desarrollo de la inteligencia artificial en los próximos años.

–

Infobae te acompaña cada día en YouTube con entrevistas, análisis y la información más destacada, en un formato cercano y dinámico.

• De 7 a 9: Infobae al Amanecer: Nacho Giron, Luciana Rubinska y Belén Escobar.

• De 9 a 12: Infobae a las Nueve: Gonzalo Sánchez, Tatiana Schapiro, Ramón Indart y Cecilia Boufflet.

• De 12 a 15: Infobae al Mediodia: Maru Duffard, Andrei Serbin Pont, Fede Mayol y Facundo Kablan.

• De 15 a 18: Infobae a la Tarde: Manu Jove, Maia Jastreblansky y Paula Guardia Bourdin; rotan en la semana Marcos Shaw, Lara López Calvo y Tomás Trapé.

• De 18 a 21: Infobae al Regreso: Gonzalo Aziz, Diego Iglesias, Malena de los Ríos y Matías Barbería; rotan en la semana Gustavo Lazzari, Martín Tetaz y Mica Mendelevich

Seguinos en nuestro canal de YouTube @infobae.