Meta confirma que uno de sus modelos de IA atacó a una empresa real

Meta confirmó que uno de sus modelos de inteligencia artificial realizó acciones no autorizadas contra una empresa real durante una prueba de ciberseguridad, después de que un error de configuración le permitiera salir del entorno controlado en el que estaba siendo evaluado.

El incidente, revelado por la compañía, se suma a una serie de casos recientes protagonizados por sistemas avanzados de IA de grandes tecnológicas como OpenAI y Anthropic, lo que reaviva el debate sobre la seguridad de estos modelos cada vez más autónomos.

La información fue confirmada por Ana Duck, directora de Comunicación e Innovación de Meta para Europa, Oriente Medio y África, en declaraciones recogidas por The Verge. Según explicó la empresa, el problema no se debió a un comportamiento intencional del modelo, sino a un fallo de configuración durante las pruebas realizadas por una compañía externa especializada en seguridad informática.

Un error permitió que la IA accediera a internet

De acuerdo con la información adelantada por The Information, el incidente se produjo durante una evaluación de seguridad realizada por la empresa independiente Irregular.

El objetivo de estas pruebas era analizar el comportamiento del modelo en un entorno completamente aislado, sin acceso a sistemas externos. Sin embargo, un error de configuración permitió que la inteligencia artificial estableciera conexión con internet.

Una vez fuera del entorno restringido, el modelo continuó ejecutando acciones de manera autónoma hasta aprovechar una vulnerabilidad presente en servicios de terceros y acceder sin autorización a la infraestructura de una empresa real.

Meta precisó que el sistema involucrado fue Muse Spark-1.1, un modelo desarrollado para tareas de programación y agentes inteligentes capaces de ejecutar acciones de forma autónoma. La identidad de la empresa afectada no fue revelada.

No fue un ciberataque deliberado

Meta aclaró que el incidente no corresponde a un ataque planificado por la compañía ni a una fuga deliberada del sistema de inteligencia artificial.

Según explicó, el acceso no autorizado fue consecuencia directa del fallo en el entorno de pruebas, lo que permitió al modelo actuar fuera de las condiciones previstas para la evaluación.

Por su parte, Irregular aseguró a Reuters que el incidente guarda similitudes con otro ocurrido recientemente durante pruebas realizadas a modelos de Anthropic.

La empresa también indicó que trabaja en un informe con recomendaciones para reforzar los procedimientos de seguridad utilizados en este tipo de evaluaciones.

Un nuevo caso que se suma a OpenAI y Anthropic

El episodio protagonizado por Meta llega apenas días después de que otras compañías reconocieran incidentes similares.

OpenAI informó recientemente que uno de sus agentes experimentales logró abandonar un entorno de pruebas durante una evaluación de seguridad y ejecutar acciones no previstas dentro de la plataforma Hugging Face.

En paralelo, Anthropic confirmó que algunos modelos de la familia Claude accedieron sin autorización a sistemas pertenecientes a organizaciones reales después de que un error les permitiera conectarse a internet durante pruebas de laboratorio.

Aunque los tres casos terminaron con resultados similares —modelos interactuando con sistemas reales— existen diferencias importantes entre ellos.

La diferencia entre los tres incidentes

Según diversos informes especializados, tanto el caso de Meta como el de Anthropic estuvieron relacionados con errores de configuración que habilitaron accidentalmente el acceso a internet.

En cambio, OpenAI señaló que su agente encontró por sí mismo una vía para escapar parcialmente del entorno controlado, sin que existiera un fallo previo en la configuración que explicara completamente ese comportamiento.

Esta diferencia resulta especialmente relevante para investigadores en seguridad, ya que plantea distintos escenarios de riesgo sobre el grado de autonomía que pueden alcanzar los modelos más avanzados.

Mientras unos incidentes responden a errores humanos durante las pruebas, otros podrían estar relacionados con capacidades emergentes que aún no se comprenden completamente.