“Palabras sensibles”: cómo TikTok controla y censura lo que se dice en la plataforma

ByteDance, la empresa matriz de TikTok, mantiene una biblioteca con listas de vocabulario que dicta lo que los usuarios de sus plataformas pueden y no pueden ver. Ésta es una práctica común en muchas compañías de redes sociales, que utilizan este método para, entre otros, evitar vocabulario ofensivo o que incite al odio, o prevenir terrorismo o pornografía infantil. Pero este caso es diferente.

Según reveló una investigación de Forbes, registros internos de la empresa muestran que el personal de ByteDance monitorea y a veces suprime publicaciones sobre el régimen chino, el ex presidente de Estados Unidos Donald Trump o el grupo étnico minoritario uigur, perseguido por el régimen de Xi Jinping, entre otras temáticas.

Las listas en la herramienta ByteDance que rastrea estas palabras tienen títulos como los siguientes, según pudo saber Forbes:

“Palabras prohibidas dirigidas a Trump”

“Palabras prohibidas dirigidas por Putin”

“Palabras especiales prohibidas para Xi y Peng”

“Palabras delicadas en videos de Douyin en Xinjiang”

“Estrategias de tematización de parejas uigures-han”

“Estrategia Temática para la Política Estratégica de China”

“Vida local: independencia de Taiwán y Hong Kong”

“Vigilancia doméstica de YouTube”

Existe una guía interna escrita por personal de ByteDance con sede en China que describe su “vocabulario central global” de “palabras sensibles comunes de alto riesgo”, así como su “tesauro mundial de uso común” que contiene vocabulario ilegal “totalmente clasificado”.

Este documento, al que tuvo acceso el medio estadounidense, dice que el sistema se creó en 2017 para ayudar a detectar, evaluar y recordar estas palabras en los productos de ByteDance porque “pueden generar riesgos para la seguridad, la reputación y los ingresos de la empresa”.

Forbes encontró más de 50 listas en la herramienta ByteDance con la palabra “TikTok” o “US” (Estados Unidos, por sus siglas en inglés) en el título, y los materiales internos muestran que los empleados de la compañía accedieron a la herramienta en el último año. Otras listas mencionan a la contraparte china de TikTok, Douyin.

En respuesta a este reporte de Forbes, el portavoz de TikTok, Jamie Favazza, sugirió que los extensos materiales podrían estar “significativamente desactualizados o incompletos” y dijo que ninguna de las listas de palabras identificadas se usa actualmente o se ha usado alguna vez en TikTok. Cuando se le preguntó por qué estas listas tienen “TikTok” o “EEUU” en sus nombres si nunca se usaron en la plataforma, Favazza dijo: “No puedo especular sobre los títulos de la lista” sin ver los documentos.

“TikTok y Douyin son aplicaciones diferentes, en mercados diferentes, con políticas de contenido y código fuente separados”, dijo en un comunicado. “Estas aplicaciones usan plataformas de palabras clave y listas de palabras clave separadas que son administradas por equipos separados”. Pero los expertos le dijeron a Forbes que es casi imposible garantizar que la configuración restrictiva de Douyin esté desactivada para TikTok.

La portavoz Jennifer Banks dijo que “Jiyun Hudong, que es una subsidiaria de Douyin Information Service Co., Ltd., administra las operaciones en relación con la moderación de contenido de nuestras plataformas de China, incluida la de Douyin. Equipos que administran la moderación para plataformas exclusivas de China y las plataformas fuera de China son diferentes y separadas, empleadas por diferentes entidades y tienen herramientas separadas para la moderación”.

Pero según varios empleados actuales y anteriores de TikTok y ByteDance, cualquier supuesta separación entre las dos compañías es en gran medida cosmética. Lo cierto es que cientos de documentos revisados por Forbes muestran una falta de separación funcional interna en el acceso a la información, los datos del usuario y las herramientas, incluidos sus sistemas de palabras clave.

Un informe de Citizen Lab de 2021 también encontró que TikTok y Douyin “comparten muchas partes de su código fuente”, construido sobre una base común y modificado según el mercado.

Los registros muestran que las herramientas de moderación y otros programas internos también recopilan datos sobre la “tasa de aciertos” de palabras confidenciales, incluida información sobre los usuarios estadounidenses que las publican. El régimen chino ha utilizado las redes sociales para atacar a personas en los EEUU que se han pronunciado en línea contra el Partido Comunista Chino, incluso al conmemorar la masacre de la Plaza Tiananmen en Beijing.

Esta revelación ocurre un mes después de que el director ejecutivo de TikTok, Shou Zi Chew, testificara por primera vez ante el Congreso de EEUU, donde aseguró: “No promovemos ni eliminamos contenido a pedido del gobierno chino. Es nuestro compromiso… que mantendremos esto libre de cualquier manipulación por parte de cualquier gobierno”.

Una guía de la herramienta describe su “vocabulario básico” que incluye lenguaje como “seis cuatro palabras”, una aparente referencia al 6/4 o 4 de junio, la fecha de la violencia de 1989 en la Plaza de Tiananmen. Otras listas en la herramienta están relacionadas con temas geopolíticos como la guerra entre Ucrania y Rusia, el debate alrededor a Taiwán y Hong Kong, y referencias al Tíbet y a la minoría uigur, víctima del genocidio por parte del régimen chino.

El acceso a la herramienta ByteDance y los materiales contenidos en ella parecían estar estrictamente controlados por casi dos docenas de empleados de ByteDance y Jiyun Hudong en China, según la guía. “El glosario es información confidencial y existe el riesgo de fuga”.

El problema de este monitoreo tiene que ver con la relación entre ByteDance y el régimen chino. Como le dijo a Forbes William Evanina, ex jefe de contrainteligencia del gobierno de EEUU, “la diferencia es la cuestión fundamental de que ByteDance esté subordinado al gobierno y al Ministerio de Seguridad del Estado. Sí, Facebook y Google hacen lo mismo para proteger sus activos globales en sus plataformas, pero no están en deuda con la CIA o la NSA. Y la NSA y la CIA no le están dando a Facebook este libro”.

“Esta lista de palabras es una prueba positiva de que hay cosas específicas que les preocupan y quieren monitorear quién las dijo, cuándo y con qué frecuencia”, dijo Evanina sobre la herramienta.

Seguir leyendo: