La IA más potente y peligrosa de Anthropic bajo revisión tras sospechas de acceso indebido

Anthropic investiga un posible acceso no autorizado a su modelo más avanzado, Claude Mythos, tras reportes que indican que un grupo de usuarios habría logrado interactuar con el sistema poco después de su lanzamiento. La compañía aseguró que, por el momento, no existe evidencia concluyente de una intrusión ni de afectaciones a sus operaciones, aunque mantiene abierta una investigación interna.

El caso fue revelado por Bloomberg, que señala que miembros de un foro privado en línea habrían accedido a Mythos combinando distintas técnicas, apoyándose en datos de un contratista externo y herramientas de análisis disponibles públicamente. Según la información, los involucrados forman parte de una comunidad en Discord enfocada en rastrear y probar modelos de inteligencia artificial aún no publicados.

De acuerdo con el reporte, el grupo habría identificado la ubicación del sistema el mismo día de su presentación, a partir de información que se habría filtrado tras una brecha de seguridad en Mercor. Desde entonces, los usuarios habrían utilizado el modelo de forma recurrente, compartiendo pruebas como capturas de pantalla y transmisiones en vivo que mostrarían su funcionamiento.

Aunque la fuente citada indica que el objetivo del grupo no sería causar daños, sino experimentar con nuevas tecnologías, el incidente ha generado preocupación debido a la naturaleza del sistema involucrado. Claude Mythos fue presentado como un modelo de propósito general con capacidades avanzadas de razonamiento, programación y autonomía, superando a versiones anteriores desarrolladas por la compañía.

Uno de los aspectos más sensibles del modelo es su desempeño en ciberseguridad. Según documentos técnicos de Anthropic, Mythos ha demostrado una capacidad significativa para detectar vulnerabilidades en software, incluyendo fallas con décadas de antigüedad y vulnerabilidades de día cero en sistemas operativos y navegadores web. Además, puede generar exploits de manera automatizada, lo que amplifica su potencial de uso indebido.

Estas características llevaron a la empresa a restringir su acceso desde el inicio. El modelo fue puesto a disposición de un grupo reducido de poco más de 40 organizaciones bajo el denominado Proyecto Glasswing, una iniciativa enfocada en el desarrollo de herramientas para defensa cibernética frente a amenazas avanzadas. La decisión respondió a la preocupación de que, en manos equivocadas, el sistema pudiera representar riesgos para infraestructuras críticas.

Anthropic ha advertido que la sofisticación de Mythos podría permitir que personas sin conocimientos técnicos avanzados identifiquen y exploten vulnerabilidades complejas. Este punto ha sido central en el debate sobre la seguridad de los modelos de inteligencia artificial, especialmente aquellos con capacidades que trascienden tareas convencionales y se adentran en ámbitos sensibles como la ciberseguridad.

El incidente también pone en evidencia los desafíos que enfrenta la industria para proteger sistemas altamente avanzados frente a posibles filtraciones o accesos no autorizados. A medida que los modelos de IA se vuelven más potentes, aumenta la necesidad de implementar controles estrictos que limiten su uso y prevengan riesgos asociados.

Por ahora, Anthropic insiste en que no hay pruebas definitivas de que el acceso haya ocurrido ni de que exista un impacto real. Sin embargo, el hecho de que un grupo externo haya afirmado interactuar con el sistema, incluso sin fines maliciosos, subraya la importancia de reforzar las medidas de seguridad.

El caso se suma a un contexto en el que las empresas tecnológicas enfrentan un escrutinio creciente sobre cómo desarrollan, controlan y distribuyen sus modelos de inteligencia artificial. La posibilidad de que herramientas avanzadas puedan ser utilizadas fuera de los entornos previstos plantea interrogantes sobre la gobernanza de estas tecnologías y su impacto en la seguridad global.