El máximo jefe de espionaje de China advierte de los peligros de la IA para su partido

Aun cuando Pekín insta a EE. UU. a no exagerar los peligros de la IA, su propio jefe de espionaje presenta la tecnología como una amenaza para la seguridad del Partido Comunista.

El máximo jefe de espionaje de China ha advertido que la inteligencia artificial podría representar una amenaza directa para el control del poder por parte del Partido Comunista Chino, en lo que es la exposición más detallada y de más alto nivel hasta la fecha de cómo Pekín ve los riesgos de seguridad de la tecnología.

La inusualmente franca evaluación de Chen Yixin, jefe del Ministerio de Seguridad del Estado de China, contrasta con las advertencias que dominan el debate sobre la IA en Estados Unidos, las cuales se han enfocado en la posibilidad de que la IA pueda escapar del control humano o representar una amenaza para la humanidad misma.

En un artículo publicado el domingo en la revista estatal China Cyberspace, Chen pidió más control del partido sobre la IA y una supervisión gubernamental más estricta. Esto, dijo, era necesario para proteger la estabilidad política en el país; para defenderse de ciberataques cada vez más sofisticados y campañas de desinformación de "fuerzas hostiles", y para competir militarmente con países como Estados Unidos.

Chen se refirió específicamente a las empresas tecnológicas estadounidenses y sus modelos de IA --como Claude Mythos y GPT-5.5-Cyber-- como ejemplos de nuevas amenazas a la ciberseguridad. También describió el peligro de que agencias de inteligencia extranjeras pudieran usar la IA para el "espionaje a gran escala" y ataques a la infraestructura crítica de China.

La advertencia de la poderosa agencia de seguridad deja claro que China ve a los modelos de IA extranjeros como una amenaza activa para China, según Henry Gao, profesor de derecho en la Universidad de Administración de Singapur. Eso efectivamente traza una línea roja antes de las conversaciones entre funcionarios estadounidenses y chinos sobre los riesgos de seguridad de la IA, esperadas antes de una reunión entre el presidente Donald Trump y el líder de China, Xi Jinping, el 24 de septiembre en Washington.

"Pekín va a estas conversaciones viendo la seguridad de la IA no como una misión humanitaria compartida, sino a través de un lente de rivalidad", dijo Gao. Está dejando claro a las empresas tecnológicas chinas y a sus rivales extranjeros que "la soberanía de los datos y la seguridad política nunca se intercambiarán por acuerdos internacionales de seguridad", agregó.

Los comentarios de Chen no son la primera vez que la agencia de seguridad habla sobre los peligros de la IA, pero son los más exhaustivos y señalan la preocupación cada vez más grande de Pekín sobre la industria. El jefe de seguridad describió varias formas en que la IA podría representar una amenaza para China:

Socavar la seguridad del Partido Comunista. La máxima prioridad del gobierno ha sido por mucho tiempo mantener el poder del partido gobernante. El artículo de Chen advierte que aquellos con "motivos ocultos" podrían usar la IA para generar videos y audios falsos para librar una "guerra de propaganda" contra China. "Están preocupados, entre otras cosas, digamos por un deepfake de un funcionario chino diciendo algo que en realidad no dijo, y que eso se propague rápidamente y desestabilice todo", dijo Kyle Chan, investigador de la Institución Brookings que estudia la tecnología y la política industrial chinas. "Que alguien piense que Xi Jinping hizo algún anuncio que en realidad no hizo. Eso podría sembrar el caos". Ataques a la infraestructura crítica de China. Chen, el jefe de espionaje, escribió que las barreras técnicas y financieras para lanzar ciberataques se habían reducido drásticamente debido a la IA. Esto, dijo, planteaba "riesgos graves" para la infraestructura de información de China. La semana pasada, un pequeño equipo de investigadores en California demostró ese riesgo cuando reveló una herramienta de hackeo que podría tomar el control de millones de cuentas de usuarios en WeChat, la aplicación de mensajería más utilizada de China. Filtraciones de información confidencial. Los usuarios chinos que utilicen modelos extranjeros podrían causar filtraciones de datos a gran escala, señaló el artículo. Anthropic, la empresa detrás de Claude y otros modelos de IA, dijo la semana pasada que la empresa emergente china Moonshot AI había redirigido las consultas de sus usuarios a Claude. Esas consultas incluían datos confidenciales, incluida videovigilancia vinculada al ejército chino, así como información exclusiva de empresas tecnológicas chinas de alto perfil. Competencia militar más intensa. El uso de la IA por parte del ejército de Estados Unidos en la guerra de Estados Unidos e Israel contra Irán fue un ejemplo de cómo la guerra se ha "transformado fundamentalmente", escribió Chen. Él dice que cualquiera que pueda aprovechar el poder de herramientas como los algoritmos para lograr una detección y selección de objetivos más precisas "ganará la iniciativa en el campo de batalla". La advertencia se suma a una oleada de preocupación cada vez más grande por parte de los funcionarios chinos sobre los riesgos de la IA. Bajo el mandato de Xi, China ha considerado a la IA como una tecnología estratégica que es fundamental para el desarrollo del país y su capacidad para competir con Estados Unidos. Al mismo tiempo, los funcionarios han comenzado a emitir advertencias y nuevas pautas para regular la industria. Las advertencias anteriores de los reguladores chinos han tendido a enfocarse en problemas específicos, como cuando el Ministerio de Industria y Tecnología de la Información dijo en julio que había detectado un riesgo de seguridad en algunas versiones de la herramienta de programación de Anthropic, Claude Code. Los reguladores también han advertido repetidamente a los usuarios nacionales sobre los riesgos de los asistentes de IA como OpenClaw. "Esta es ahora un tipo de advertencia mucho más amplia, no sobre una amenaza específica de este modelo o de esta vulnerabilidad, sino de un cambio de paradigma más amplio sobre cómo la IA creará un nuevo riesgo para China", dijo Chan de Brookings. "Se trata de tomarse en serio estas nuevas y poderosas herramientas y darse cuenta de que hay muchas vulnerabilidades y de que China necesita actuar más rápido, y también usar la IA para reparar esas vulnerabilidades y defenderse de estos nuevos y poderosos ciberactores", dijo. Aun cuando el jefe de seguridad de China estaba expresando las preocupaciones del país sobre la IA, su Ministerio de Relaciones Exteriores acusaba a las empresas estadounidenses de exagerar los peligros de la tecnología. Eso fue en respuesta a los llamados de algunos ejecutivos occidentales de la IA, como Dario Amodei, el director ejecutivo de Anthropic, para que Washington tome medidas enérgicas contra las empresas chinas. En una carta abierta durante el fin de semana, Amodei dijo que las democracias deben mantener su ventaja sobre China. Respaldó las restricciones a la venta de chips de IA de alta potencia al país, entre otras medidas para frenar el progreso de China lo suficiente como para ampliar la ventaja de Estados Unidos. Al preguntársele si la industria de la IA de China representaba una amenaza para Estados Unidos, Guo Jiakun, portavoz del Ministerio de Relaciones Exteriores de China, dijo el lunes que tales "narrativas de amenaza" y "competencia maliciosa" solo dificultarían que los países trabajaran juntos en la regulación de la IA. En un editorial el domingo, el tabloide dirigido por el Partido Comunista, el Global Times, dijo que China desempeñaba un papel central como uno de los principales proveedores mundiales de herramientas de IA. Describió el llamado de Amodei para que Estados Unidos contenga el desarrollo de China como un "delirio poco realista". Lily Kuo es corresponsal del Times dedicada a China, y reporta desde Taipéi.