Estados Unidos ordenó restringir Claude Fable 5 y Mythos 5 por temores a un acceso vinculado a China, según Semafor

La directiva emitida por el Gobierno de Estados Unidos para que Anthropic suspendiera el acceso de extranjeros a sus modelos más avanzados Claude Fable 5 y Mythos 5 está relacionada con el acceso a esta tecnología por parte de un grupo vinculado a China, considerándolo un riesgo para la seguridad estadounidense, según Semafor.

La compañía de IA anunció el pasado viernes la suspensión del acceso a sus modelos más avanzados Claude Fable 5 y Mythos 5, que fueron presentados esa misma semana como su tecnología más potente disponible para el público general y enfocada en la ciberseguridad.

Precisamente por sus altas capacidades, estos modelos se lanzaron con algunas medidas de seguridad diseñadas para evitar posibles usos maliciosos, limitando los resultados a preguntas relacionadas con la ciberseguridad, la biología o la química y remitiendo estas consultas a un modelo de IA menos capaz.

A pesar de estas salvaguardias, Anthropic recibió el pasado viernes una directiva del Gobierno de Estados Unidos solicitando su restricción a ciudadanos extranjeros por motivos de "seguridad nacional". Esto desembocó en la total suspensión del acceso a los modelos mencionados.

En ese momento, Anthropic matizó que la carta "no especificaba los motivos de la preocupación por la seguridad nacional". Sin embargo, indicó que estaría relacionada con que el gobierno hubiese descubierto un método para eludir, o desbloquear, Fable 5.

Ahora, fuentes relacionadas con la compañía y la administración Trump, han detallado en declaraciones a Semafor que la directiva del gobierno estadounidense estuvo motivada, en parte, por sospechas de que un grupo vinculado a China había accedido a las capacidades de Claude Mythos y su versión para consumidores Fable 5.

El medio citado ha aclarado que el gobierno estadounidense considera un riesgo para la seguridad nacional que las capacidades de Mythos lleguen a manos de actores extranjeros, como puede ser el gobierno chino.

Además, ha subrayado igualmente que la administración Trump también teme que China utilice el modelo para realizar ingeniería inversa y, mediante un proceso de destilación, logre copiar sus capacidades avanzadas en materia de ciberseguridad.

IDENTIFICADO UN CASO DE JAILBREAK

A pesar de que la Casa Blanca no ha compartido información al respecto, ni ha confirmado estas declaraciones, David Sacks, el asesor del presidente estadounidense, Donald Trump, compartió el sábado a través de la red social X que "un socio de confianza" que estaba probando Fable 5 descubrió un 'jailbreak' de sus medidas de seguridad.

Es decir, según Sacks, se dio un caso en el que, mediante un proceso de escalada de privilegios, se consiguió eliminar las salvaguardias impuestas por Anthropic y, con ello, acceder a todas las capacidades de Mythos, incluso las que pueden ocasionar problemas de seguridad en manos equivocadas.

Al respecto, la tecnológica negó este caso en un comunicado en su blog sobre la directiva, alegando que "ningún proveedor de modelos puede lograr una resistencia perfecta a los 'jailbreaks' en la actualidad". Además, aseguró que todas las medidas de seguridad utilizadas en la industria "son vulnerables a 'jailbreaks' no universales".

Igualmente, un portavoz de Anthropic ha detallado en declaraciones a Semafor que el gobierno estadounidense no mencionó a China en ningún momento cuando trataron la necesidad de cesar el acceso de sus modelos a usuarios extranjeros.

Cabe recordar que, también la pasada semana, un investigador de ciberseguridad afirmó haber conseguido vulnerar en menos de 48 horas los filtros de seguridad de Fable 5, mediante técnicas de descomposición multiagente y la descomposición y recomposición en el 'backend', logrando extraer datos de 'hackeo' e información de procesos químicos prohibidos.