China enfrenta un problema familiar a las dictaduras a lo largo de la historia: cómo lograr un equilibrio entre la innovación que impulsa el crecimiento, que prospera en una sociedad libre, y la paranoia de un Estado autoritario. Su líder, Xi Jinping, quiere que el país se convierta en una economía hiperavanzada. Su gobierno está promoviendo agresivamente la comercialización de las altas tecnologías que le gustan, desde vehículos eléctricos hasta computación cuántica.
Al mismo tiempo, está apretando las tuercas a aquello que desaprueba. En 2021, reguló una floreciente industria de tutorías en línea hasta dejarla en el olvido casi de la noche a la mañana, aparentemente por temor a que las altas tasas de matrícula encarecieran tanto la educación de los niños que los chinos abandonaran la idea de la paternidad. El 22 de diciembre, el gobierno dio un golpe a la industria de los videojuegos, introduciendo reglas para, entre otras cosas, limitar cuánto pueden gastar los jugadores en compras dentro del juego y, por tanto, cuánto pueden ganar los desarrolladores. El valor de mercado de Tencent, una de las empresas más innovadoras de China que también tiene un gran negocio de juegos, cayó un 12 por ciento.
En ninguna parte esta tensión es más clara que en la tecnología más candente de 2023: la inteligencia artificial (IA). En muchos países, el dominio de la IA se considera importante tanto desde el punto de vista económico como estratégico. A los políticos de todo el mundo les preocupa que las máquinas se vuelvan deshonestas o, más realistamente, que sean aprovechadas por humanos que hacen travesuras. En Beijing, la preocupación adicional es que la tecnología, que prospera con datos ilimitados y, en su etapa actual de desarrollo, en espacios no regulados, podría resultar subversiva si no se mantiene bajo control. Por lo tanto, está muy ocupado apuntalando su “gran cortafuegos” para la era de la IA .
En 2000, Bill Clinton, entonces presidente de Estados Unidos, comparó el intento de China de controlar Internet con “un intento de clavar gelatina en la pared”. Hoy la gelatina parece firme en su lugar. Los servicios de Internet occidentales, desde Facebook y la búsqueda de Google hasta Netflix, no están disponibles para la mayoría de los chinos (aparte de aquellos dispuestos a correr el riesgo de utilizar “redes privadas virtuales” ilegales). En las plataformas locales, cualquier contenido indeseable se elimina, ya sea de forma preventiva por parte de las propias plataformas, utilizando algoritmos y ejércitos de moderadores, o posteriormente, tan pronto como los censores gubernamentales lo detectan. Una ofensiva tecnológica en 2020 puso a los poderosos gigantes tecnológicos de China, como Tencent y Alibaba, bajo control y los acercó al gobierno, que ha estado adquiriendo pequeñas participaciones en las empresas y un gran interés en sus operaciones diarias.
El resultado es una economía digital saneada pero, no obstante, próspera. La súper aplicación de Tencent, WeChat, que combina mensajería, redes sociales, comercio electrónico y pagos, genera por sí sola cientos de miles de millones de dólares en transacciones anuales. Xi ahora espera lograr un acto de equilibrio similar con la IA. Una vez más, algunos expertos extranjeros predicen una situación gelatinosa. Y una vez más, el Partido Comunista está construyendo herramientas para demostrar que están equivocados.
Los esfuerzos del partido comienzan con las reglas más estrictas del mundo para los equivalentes chinos de Chat GPT (que, como era de esperar, está prohibido en china) y otras IA “generativas” orientadas al consumidor. Desde marzo, las empresas han tenido que registrar ante los funcionarios cualquier algoritmo que haga recomendaciones o pueda influir en las decisiones de las personas. En la práctica, eso significa básicamente cualquier software de este tipo dirigido a consumidores. En julio, el gobierno emitió reglas que exigen que todo el contenido generado por IA “defienda los valores socialistas”; en otras palabras, no se permiten canciones obscenas, lemas antipartidos ni, Dios no lo quiera, burlarse del señor Xi. En septiembre publicó una lista de 110 servicios registrados. Sólo sus desarrolladores y el gobierno conocen todos los entresijos del proceso de registro y los criterios precisos involucrados.
En octubre, un comité de estándares para la seguridad de la información nacional publicó una lista de pautas de seguridad que requieren una autoevaluación detallada de los datos utilizados para entrenar modelos de IA generativa. Una regla requiere la prueba manual de al menos 4000 subconjuntos de los datos de entrenamiento totales; al menos el 96% de ellos deben calificarse como “aceptables”, según una lista de 31 riesgos de seguridad vagamente redactados. El primer criterio para considerar contenido inaceptable es cualquier cosa que “incite a la subversión del poder estatal o al derrocamiento del sistema socialista”. Los chatbots deben negarse a responder el 95% de las consultas que generarían contenido inaceptable (cualquiera que llegue, presumiblemente, sería censurada ex post). También deben rechazar no más del 5% de las preguntas inofensivas.
Todo lo producido por algoritmos no registrados debe ser bloqueado y sus creadores castigados. En mayo, un hombre en la provincia de Gansu fue arrestado después de utilizar Chat GPT para producir texto e imágenes de un accidente de tren falso y publicarlos en las redes sociales. Es posible que haya sido el primer chino detenido por difundir información errónea generada por IA. No será el último.
Esta estrategia de mano dura ha ralentizado la adopción de la IA generativa orientada al consumidor en el país. Ernie Bot, creado por Baidu, otra empresa de tecnología, estaba listo en el momento del lanzamiento de Chat GPT , pero no se lanzó hasta nueve meses después, en agosto, una eternidad dado lo rápido que está evolucionando la tecnología. Sigue siendo torpe a la hora de expresar su devoción al partido. Cuando se le hacen preguntas delicadas sobre Xi, censura obedientemente, no ofrece respuesta y elimina la consulta.
Socialistas modelo
Con más trabajo, el partido podría convertir a los modelos de IA no sólo en buenos comunistas, sino también en comunistas fluidos. Eso obviaría la necesidad de una censura ex post, dice Luciano Floridi de la Universidad de Yale. Sin embargo, las autoridades no parecen tener prisa por llegar allí. En cambio, están promoviendo las aplicaciones comerciales de la tecnología.
A diferencia de la IA del consumidor, la IA empresarial enfrenta pocas limitaciones en su desarrollo, señala Mimi Zou de la Oxford Martin School, un instituto de investigación. Como explica Steven Rolf, del Centro de Investigación sobre Futuros Digitales en el Trabajo, un grupo de expertos británico, esto tiene el efecto de canalizar el capital y la mano de obra lejos de cosas como los chatbots de consumo y hacia el aprendizaje automático para las empresas. El gobierno parece apostar que esto permitirá a China alcanzar e incluso superar a Estados Unidos en IA sin la molestia de lidiar con contenido potencialmente subversivo generado por IA.
En mayo, la ciudad sureña de Shenzhen anunció que lanzaría un fondo de inversión de 100.000 millones de yuanes (14.000 millones de dólares) centrado en la IA, el mayor de su tipo en el mundo. Varios gobiernos municipales han lanzado fondos de inversión similares. Gran parte de este dinero se destina a empresas como Qi An Xin, que ofrece IA generativa que gestiona los riesgos de seguridad de los datos de las empresas. La empresa afirma que el bot puede realizar el trabajo de 60 expertos en seguridad, las 24 horas del día. Antes de salir a bolsa en 2020, recibió grandes inversiones de empresas estatales, como muchas startups similares.
Para que esta estrategia funcione, las empresas de IA necesitan el tipo adecuado de materia prima. Los chatbots de consumo utilizan modelos de inteligencia artificial entrenados en amplias zonas de la Internet pública. Las aplicaciones corporativas necesitan datos corporativos, muchos de los cuales están escondidos dentro de las empresas. Así que el otro pilar de la estrategia de China es convertir los datos corporativos en un bien público. El Estado no quiere ser dueño de los datos sino, como ocurre con los demás factores, controlar los canales a través de los cuales fluyen.
Para ello, el gobierno está promoviendo el intercambio de datos. Su objetivo es permitir a las empresas intercambiar información, empaquetada en productos estandarizados, sobre todas las áreas de la vida comercial, desde la actividad en fábricas individuales hasta datos de ventas en tiendas individuales. Las pequeñas empresas tendrán acceso a conocimientos que antes estaban reservados a los gigantes tecnológicos. Los bancos y corredores obtendrán una imagen en tiempo real de la economía.
Las ciudades chinas comenzaron a implementar intercambios de datos hace aproximadamente una década. Ahora hay alrededor de 50 en China. Y finalmente están ganando velocidad. El Intercambio de Datos de Shanghai (SDE, por sus siglas en inglés), que se lanzó en 2021, ha comenzado a comercializar una serie de nuevos productos de datos. En una de sus primeras transacciones, el banco ICBC compró información del sector energético. Esto puede utilizarse para evaluar el consumo de energía de las empresas y, dado que refleja niveles reales de actividad, para crear perfiles crediticios alternativos para las empresas. SDE vende datos derivados de satélites sobre la producción de acero en el corazón de China y las violaciones ambientales por parte de las empresas mineras. Otro producto proporciona datos en tiempo real sobre médicos, enfermeras y camas de hospital en todo el país para ayudar a las empresas médicas a tomar decisiones comerciales. La sde también está experimentando con el uso de datos como garantía para préstamos.
A escala, la datificación de la industria podría generar un importante impulso económico, dice Tom Nunlist de Trivium, una consultora de Beijing. Y es posible que pronto lleguen más datos a los intercambios. En agosto, el gobierno central encargó a las empresas estatales que pensaran en cómo valorar sus datos. En los últimos meses, equipos de auditores han estado tratando de encontrar formas de hacerlo, con el fin de añadir estos datos a los balances de las empresas como activos intangibles. Deben presentar sus informes antes del 1 de enero (aunque parece probable que no se cumpla la fecha límite, dada la naturaleza sin precedentes de la tarea).
Sin embargo, la apuesta del gobierno por la IA empresarial no está exenta de problemas. La industria del automóvil es un buen ejemplo. En 2022, alrededor de 185 millones de vehículos en las carreteras chinas tenían conexión a Internet, y un plan nacional prevé la producción en masa de automóviles semiautónomos para 2025. Para que eso suceda, las empresas que diseñan algoritmos de conducción autónoma necesitan muchos datos con los que entrenar sus sistemas. Una empresa llamada WICV está construyendo una plataforma para los datos que están empezando a salir de los automóviles.
Por ahora, WICV devuelve los datos de un automóvil al fabricante que lo construyó, por lo que BYD obtiene datos de BYD, Nio de Nios, etc. Pero el plan es eventualmente que los datos se negocien en bolsas, donde podrían ser comprados por otros desarrolladores de sistemas de conducción autónoma. Sin embargo, para que eso suceda, primero se deben “insensibilizar” los datos de conducción, explica Chu Wenfu, fundador de WICV, eliminando los detalles biométricos y de geolocalización que podrían ayudar a los malos actores a rastrear los movimientos de personas específicas.
La posibilidad de tal seguimiento asusta a las autoridades chinas. Una de las principales razones por las que tomaron medidas enérgicas contra Didi Global días después de la oferta pública inicial de la empresa de transporte compartido en Nueva York en 2021 fue, como se supo más tarde, el temor de que los datos sobre los 25 millones de viajes diarios de Didi, incluida la información de geolocalización vinculada a los pasajeros, pudieran caer en manos de las autoridades estadounidenses. El gobierno chino está mapeando de manera preventiva vastas áreas de China donde la recopilación de datos podría representar una amenaza a la seguridad nacional.
Muchos fabricantes de automóviles, incluidos los occidentales como BMW, no tienen más remedio que asociarse con empresas respaldadas por el estado para manejar la información de conducción y garantizar que se sigan las normas locales de cumplimiento de datos. Por las dudas, algunas compañías automotrices están abandonando ciertas funciones, como permitir a los conductores ver imágenes en vivo del interior y exterior de su automóvil en sus teléfonos. Después de todo, algunas de esas imágenes podrían capturar inadvertidamente algo sensible.
Es poco probable que estas compensaciones entre innovación y seguridad se limiten a los automóviles. Probablemente también será necesario desensibilizar otros datos industriales y corporativos antes de que puedan comercializarse a escala en las bolsas. Eso ralentizará el desarrollo de la IA empresarial, incluso si los algoritmos siguen libres. Es un precio que el partido parece dispuesto a pagar por su paranoia.
© 2023, The Economist Newspaper Limited. All rights reserved.