HuggingFace confirmar un acceso no autorizado a sus sistemas: lo impulsó un agente de IA "de principio a fin"

HuggingFace ha confirmado un acceso no autorizado a sus sistemas impulsado "de principio a fin" por un agente de inteligencia artificial (IA) que ha afectado a un conjunto de datos internos.

La plataforma de especializada en aprendizaje automático detectó a principios de la semana pasada una intrusión que se inició a partir de un conjunto de datos maliciosos que consiguió instalar y ejecutar código en un nodo de procesamiento.

Como explican en un comunicado compartido en su blog, lo particular de este incidente de seguridad es que "fue impulsado, de principio a fin, por un sistema de agentes de IA autónomo", del que no se conoce por el momento el modelo base.

Ese agente, una vez dentro del nodo, consiguió escalar privilegios, recolectar credenciales en la nube y propagarse lateralmente por varios clústeres internos. Ello permitió robar algunos datos internos de HuggingFace y credenciales, pero

Fueron sus sistemas de IA los que detectaron la intrusión. También emplearon agentes basados en LLM para analizar el registro completo del atacante, con más de 17.000 eventos.

"Esto nos permitió reconstruir la cronología, extraer indicadores de compromiso, mapear las credenciales afectadas y diferenciar el impacto real de la actividad de señuelo. Gracias a este enfoque, logramos en horas lo que normalmente llevaría días, igualando la velocidad del adversario", han indicado.

Para HuggingFace, este ataque es una muestra de que "las herramientas ofensivas autónomas basadas en IA ya no son una teoría". Por ello, señalan que "defender una plataforma en línea ahora implica tratar los datos y la superficie del modelo como una superficie de ataque de primer orden, y utilizar la IA en la defensa para mantenerse al día".