Anthropic retira Claude Mythos tras detectar riesgos críticos en ciberseguridad

La firma de inteligencia artificial Anthropic decidió retirar del acceso público su modelo más avanzado, Claude Mythos Preview, tras detectar que era capaz de identificar y explotar vulnerabilidades en sistemas de software críticos, algunas ocultas durante décadas. Según informó el diario estadounidense The New York Times, la medida se tomó después de que el modelo revelara fallos graves en programas ampliamente utilizados, lo que llevó a la compañía a limitar el acceso únicamente a más de 50 grandes organizaciones, entre ellas Amazon, Apple, Microsoft, Google y JPMorgan Chase.

El objetivo radica en reforzar la ciberseguridad global a través del denominado Proyecto Glasswing. El medio estadounidense detalló que, incluso antes de esta decisión, los modelos de inteligencia artificial accesibles al público ya podían identificar vulnerabilidades en software común.

Los investigadores de Anthropic estiman que a otros laboratorios de IA les falta entre seis y 18 meses para construir herramientas similares. Estas capacidades y los riesgos asociados podrían afectar a sectores como plataformas de streaming, servicios bancarios en línea y motores de búsqueda, con el potencial de inutilizar partes centrales de Internet.

Un nuevo escenario: cualquiera puede programar, cualquiera puede atacar

Las herramientas de inteligencia artificial han democratizado la creación de software. Ahora, cualquier persona con una idea puede describir en lenguaje sencillo lo que necesita y obtener una solución funcional. The New York Times subrayó que millones de personas —desde propietarios de pequeños comercios hasta profesionales de la salud— ya generan aplicaciones propias sin formación técnica. Estas aplicaciones, en muchos casos, no pasan por una revisión de seguridad.

La facilidad con la que la IA puede detectar fallos multiplica el riesgo de que alguien acceda a datos sensibles, tome el control de cuentas o inutilice servicios enteros.

Durante décadas, dos factores mantuvieron cierto equilibrio en la seguridad de Internet: la dificultad para escribir software y la dificultad para encontrar errores en el código. Según explicó Raffi Krikorian, director de tecnología de Mozilla, solo unas pocas personas cualificadas podían desarrollar software, y detectar fallos requería habilidades avanzadas.

Esto mantenía ocultos los errores más graves durante años y creaba una especie de tregua tácita que protegía la infraestructura. La aparición de herramientas de IA que permiten a cualquiera programar y, a la vez, encontrar fallos, ha roto esa tregua. El periódico estadounidense advirtió que agentes maliciosos pueden utilizar los mismos instrumentos para localizar y explotar vulnerabilidades de forma masiva.

Código abierto, infraestructura expuesta

Gran parte de Internet descansa sobre software de código abierto, mantenido por voluntarios y financiado con donaciones. Programas esenciales como FFmpeg —usado para transmisión de videos— y OpenBSD —un sistema operativo clave para cortafuegos y puertas de enlace— dependen de presupuestos mínimos.

Según información de Anthropic citada por The New York Times, Mythos logró encontrar una vulnerabilidad de 27 años en OpenBSD y otra de 16 años en FFmpeg, ambas pasadas por alto por herramientas de seguridad automatizadas en cinco millones de ocasiones. Ambas organizaciones corrigieron los fallos reportados.

El navegador Firefox, desarrollado por Mozilla, también estuvo en la mira. Cuando Anthropic probó su modelo anterior sobre Firefox, logró convertir en arma un fallo conocido solo en dos ocasiones de cientos de intentos. Con Mythos, el éxito fue casi constante. Estas pruebas revelaron miles de vulnerabilidades en distintos proyectos y expusieron riesgos como ataques de ransomware a hospitales e interrupciones en infraestructuras críticas.

El contrato social de Internet, bajo presión

El ecosistema de código abierto se sostiene sobre un acuerdo no escrito: los desarrolladores comparten su trabajo abiertamente, colaboran en la solución de problemas y mantienen sistemas fundamentales sin buscar una remuneración directa. 

The New York Times resaltó que tanto el veterano que lleva dos décadas manteniendo código crítico como el empresario que crea su primera aplicación enfrentan riesgos similares. Ninguno cuenta con un equipo de seguridad ni acceso a herramientas avanzadas como Mythos.

Anthropic anunció una inversión de USD 4 millones en organizaciones de seguridad de código abierto, una medida que, según el medio, supera cualquier otra iniciativa del sector. Sin embargo, la estructura económica no ha cambiado: la infraestructura digital más valiosa del mundo sigue en manos de voluntarios, mientras las grandes empresas construyen negocios sobre esa base sin asumir los costos de mantenimiento.

¿Quién protege a los nuevos creadores?

La brecha de acceso a herramientas de defensa se amplía. Los desarrolladores experimentados aún no disponen de Mythos, a pesar de que mantienen sistemas de los que dependen miles de millones de personas. Según The New York Times, las organizaciones de código abierto saben quiénes son estos mantenedores y cómo contactarlos, pero la dueña de un comercio pequeño no debería necesitar acceso a una IA avanzada para protegerse, sino confiar en que las herramientas que usa son seguras desde su diseño.

El reporte plantea una propuesta: las empresas tecnológicas que utilizan código abierto deben invertir en los trabajadores esenciales que lo sostienen, no solo con fondos sino también con recursos técnicos y humanos. Además, las compañías de inteligencia artificial deberían garantizar que las herramientas como Mythos lleguen a quienes realmente lo necesitan.

La protección debe integrarse en la base de las nuevas tecnologías. Para los millones de personas que crean software por primera vez, la seguridad debe ser un componente esencial y no una función exclusiva o de pago. La pregunta que queda abierta es: ¿quién quedará protegido y quién quedará expuesto en la nueva era digital?