Alibaba, Tencent y Moonshot AI quitaron a sus nuevos modelos de IA habilidades para ciberataques

Incidentes recientes revelaron que las barreras de protección pueden ser sorteadas, incluso después de que las compañías restringieran funciones ofensivas

Un hombre con traje técnico corta con unas tenazas un cable con luz roja frente a una esfera azul de circuitos electrónicos.
Los desarrolladores chinos de inteligencia artificial reducen las funciones ofensivas de sus modelos frente a nuevas restricciones oficiales (Imagen Ilustrativa Infobae)
Guardar

Los principales desarrolladores chinos de inteligencia artificial lanzan modelos con menos capacidad para ayudar en ciberataques, según informó Bloomberg el 16 de noviembre. Los últimos sistemas de Alibaba, Tencent y Moonshot AI tienen habilidades ofensivas reducidas, después de que el gobierno chino propusiera prohibir la exportación de esa tecnología.

Según Bloomberg, esos modelos mejoraron sus funciones defensivas, es decir, las que sirven para detectar fallas en programas informáticos. Alibaba presentó la última versión de su serie Qwen sin sus “pesos”, los ajustes internos que determinan cómo responde un modelo, de modo que los usuarios no pueden descargarlo ni personalizar la versión completa.

PUBLICIDAD

Los modelos de pesos abiertos, que cualquiera puede descargar y ejecutar en su propia computadora, resultan atractivos para los hackers porque se pueden configurar a voluntad. La agencia de noticias señaló que los modelos de DeepSeek son especialmente populares y que la familia Qwen figura entre las más descargadas del mundo.

Tencent eliminó las capacidades de ciberataque de su sistema Hy4 antes del lanzamiento oficial en noviembre (REUTERS/Go Nakamura/File Photo)
Tencent eliminó las capacidades de ciberataque de su sistema Hy4 antes del lanzamiento oficial en noviembre (REUTERS/Go Nakamura/File Photo)

Tencent quitó funciones de ciberataque de su modelo Hy4 antes de lanzarlo a comienzos de noviembre. Moonshot AI hizo algo parecido con Kimi K3.1 Pro, publicado en octubre, según el South China Morning Post. La empresa Z.AI, por su parte, revisó la seguridad de GLM-5.3 y alertó a organizaciones sobre fallas del sistema antes de abrirlo en agosto.

PUBLICIDAD

Un borrador de Beijing para frenar exportaciones

El 16 de octubre, el Ministerio de Comercio chino publicó un borrador para restringir o prohibir la exportación de 40 tecnologías, entre ellas inteligencia artificial, chips y energía solar, según AP. Un vocero del ministerio calificó la medida de “necesaria” y mencionó la seguridad nacional entre sus razones.

Según Bloomberg, el plan prevé vetar las herramientas de IA capaces de atacar infraestructura crítica, redes del gobierno o blancos militares. Los modelos considerados “líderes mundiales” también podrían quedar sujetos a restricciones para su uso en el extranjero. Se trata de una propuesta, no de una norma vigente.

Alibaba presentó la última versión de su serie Qwen sin pesos abiertos para impedir la modificación de su configuración interna (REUTERS/Maxim Shemetov/Archivo)
Alibaba presentó la última versión de su serie Qwen sin pesos abiertos para impedir la modificación de su configuración interna (REUTERS/Maxim Shemetov/Archivo)

A comienzos de noviembre, la Comisión Nacional de Desarrollo y Reforma, el principal organismo de planificación económica de China, informó que acelera nuevas normas de seguridad y pautas éticas para los desarrolladores de IA. Un funcionario dijo que existe un amplio consenso sobre las oportunidades y los riesgos de esta tecnología.

Charles Li, analista jefe de TeamT5, organización que sigue la actividad cibernética en Asia y el Pacífico, afirmó que China intenta equilibrar la comercialización internacional con el control estratégico de su IA. A su juicio, Beijing considera cada vez más estas capacidades como activos estratégicos que justifican controles más estrictos.

Los incidentes que precedieron a los recortes

El mes pasado, investigadores de CrowdStrike dijeron que hackers usaron un modelo de DeepSeek para atacar organizaciones en 14 países, según Bloomberg. En Estados Unidos, Anthropic y OpenAI informaron este verano de incidentes en los que sus modelos eludieron controles de seguridad y atacaron sitios de terceros.

Un modelo chino también mostró fallas: Kimi K3, de Moonshot AI, escapó de un entorno de pruebas del Instituto de Seguridad de IA del Reino Unido. Según Bloomberg, no intentó vulnerar sitios de otras empresas, pero la prueba reveló que carecía de controles de ciberseguridad, según los investigadores.

Moonshot AI recortó las funciones de ataque en Kimi K3.1 Pro después de registrar fallas de control en pruebas externas (REUTERS/Dado Ruvic/Illustration/File Photo)
Moonshot AI recortó las funciones de ataque en Kimi K3.1 Pro después de registrar fallas de control en pruebas externas (REUTERS/Dado Ruvic/Illustration/File Photo)

Yao Shunyu, científico jefe de IA de Tencent, dijo en un evento en Hong Kong este mes que la capacidad de los modelos en ciberseguridad, y pronto en biología, llegará a un umbral en el que será posible causar daño. Anthropic mantiene su modelo Mythos Preview fuera del mercado general y solo lo ofrece a organizaciones seleccionadas para tareas defensivas.

Xiaojian Li, fundador de la empresa de seguridad de IA Fangcun AI, dijo que eliminar el material ofensivo del entrenamiento es un buen equilibrio entre costo y eficacia para dificultar el mal uso de los modelos abiertos. Advirtió, sin embargo: “No existe hoy un método que elimine por completo el riesgo de los modelos”.

El South China Morning Post planteó dudas sobre la sostenibilidad de la solución, porque los modelos abiertos pueden ser descargados y modificados por cualquiera con suficiente equipo. Desde el 16 de octubre rige además un registro temporal obligatorio para exportar las tecnologías incluidas en el borrador, según Bloomberg.

PUBLICIDAD

PUBLICIDAD