"Las reglas del juego han cambiado": HuggingFace avisa a la industria tras el hackeo realizado por agentes de OpenAI

El cofundador de HuggingFace, Thomas Wolf, ha afirmado que "las reglas del juego han cambiado" con la inteligencia artificial de agentes y que el 'hackeo' que su plataforma ha sufrido recientemente realizado por los modelos de OpenAI es "una llamada de atención" para la industria.

OpenAI, la firma que dirige Sam Altman, confirmó que sus modelos habían salido de un entorno aislado de pruebas de manera autónoma y 'hackeado' los sistemas de HuggingFace, aprovechando una vulnerabilidad de día cero en la barrera que les impedía conectarse a internet.

Este incidente, impulsado por un agente de IA "de principio a fin", como explicaron desde HuggingFace tras informar de lo ocurrido, es algo más que una anécdota en el mundo de la ciberseguridad. De hecho, Wofl considera que se trata "una llamada de atención" para la industria.

Así lo ha expresado este jueves en el programa de radio Newsday de la BBC, en declaraciones que recoge Europa Press. Los sistemas de IA de HuggingFace consiguieron detectar y detener la intrusión en sus sistemas, pero no lograron identificar el modelo que estaba detrás del ataque.

Lo que sí vieron fue que el incidente dejó el registro de 17.000 eventos, es decir, ataques a la red de Hugging Face desde diversas direcciones IP y que, además, se realizaron en un "tiempo muy corto", como ha contado al medio citado.

Este incidente de seguridad se ve como un aviso para el resto de organizaciones, empresas y administraciones, en tanto que la IA de agentes adquiere cada vez mayores capacidades en tareas relacionadas con la ciberseguriadad, como la búsqueda, identificación, explotación y solución de vulnerabilidades en el código fuente de los sistemas informáticos.

Ejemplo de ello son los modelos Mythos de Anthropic y GPT-5.6 Sol de OpenAI --este último, responsable del ataque a HuggingFace--, que se han puesto a disposición de unas pocas organizaciones dentro de programas de seguridad específicos, con el fin de evitar que caigan en malas manos.

Wofl considera que "este será uno de los tipos de ciberataques más comunes que veremos", pese a que las empresas aún no son conscientes de que "las reglas del juego han cambiado".

Para OpenAI, "se trata de un incidente cibernético sin precedentes, con capacidades cibernéticas de última generación", según expresó la compañía en el comunicado en el que reconocían la autoría del hackeo. En él también indicaron que "la principal lección de este incidente es que la seguridad y la protección de los modelos deben avanzar al mismo ritmo que unas capacidades que progresan con rapidez".