Agregar Infobae enGoogle

“Palabras sensibles”: cómo TikTok controla y censura lo que se dice en la plataforma

Un sistema de moderación dirigido por ByteDance desde Beijing utiliza listas de términos para detectar o suprimir contenido de distintas temáticas: desde cuestiones geopolíticas hasta menciones de su rival YouTube

Ilustración fotográfica con banderas chinas y el logo de TikTok. 16 julio 2020 (REUTERS/Florence Lo)
Ilustración fotográfica con banderas chinas y el logo de TikTok. 16 julio 2020 (REUTERS/Florence Lo)
Guardar

ByteDance, la empresa matriz de TikTok, mantiene una biblioteca con listas de vocabulario que dicta lo que los usuarios de sus plataformas pueden y no pueden ver. Ésta es una práctica común en muchas compañías de redes sociales, que utilizan este método para, entre otros, evitar vocabulario ofensivo o que incite al odio, o prevenir terrorismo o pornografía infantil. Pero este caso es diferente.

Según reveló una investigación de Forbes, registros internos de la empresa muestran que el personal de ByteDance monitorea y a veces suprime publicaciones sobre el régimen chino, el ex presidente de Estados Unidos Donald Trump o el grupo étnico minoritario uigur, perseguido por el régimen de Xi Jinping, entre otras temáticas.

Las listas en la herramienta ByteDance que rastrea estas palabras tienen títulos como los siguientes, según pudo saber Forbes:

“Palabras prohibidas dirigidas a Trump”

“Palabras prohibidas dirigidas por Putin”

“Palabras especiales prohibidas para Xi y Peng”

“Palabras delicadas en videos de Douyin en Xinjiang”

“Estrategias de tematización de parejas uigures-han”

“Estrategia Temática para la Política Estratégica de China”

“Vida local: independencia de Taiwán y Hong Kong”

“Vigilancia doméstica de YouTube”

Existe una guía interna escrita por personal de ByteDance con sede en China que describe su “vocabulario central global” de “palabras sensibles comunes de alto riesgo”, así como su “tesauro mundial de uso común” que contiene vocabulario ilegal “totalmente clasificado”.

Este documento, al que tuvo acceso el medio estadounidense, dice que el sistema se creó en 2017 para ayudar a detectar, evaluar y recordar estas palabras en los productos de ByteDance porque “pueden generar riesgos para la seguridad, la reputación y los ingresos de la empresa”.

Forbes encontró más de 50 listas en la herramienta ByteDance con la palabra “TikTok” o “US” (Estados Unidos, por sus siglas en inglés) en el título, y los materiales internos muestran que los empleados de la compañía accedieron a la herramienta en el último año. Otras listas mencionan a la contraparte china de TikTok, Douyin.

Protesters gather outside the Parliament buildings in Ottawa, Ontario, Monday, Feb. 22, 2021. Parliament is expected to vote on an opposition motion calling on Canada to recognize China's actions against ethnic Muslim Uighurs as genocide. (Adrian Wyld/The Canadian Press via AP)
Monitorean todo el contenido relacionado con los uigures (Adrian Wyld/The Canadian Press via AP)

En respuesta a este reporte de Forbes, el portavoz de TikTok, Jamie Favazza, sugirió que los extensos materiales podrían estar “significativamente desactualizados o incompletos” y dijo que ninguna de las listas de palabras identificadas se usa actualmente o se ha usado alguna vez en TikTok. Cuando se le preguntó por qué estas listas tienen “TikTok” o “EEUU” en sus nombres si nunca se usaron en la plataforma, Favazza dijo: “No puedo especular sobre los títulos de la lista” sin ver los documentos.

TikTok y Douyin son aplicaciones diferentes, en mercados diferentes, con políticas de contenido y código fuente separados”, dijo en un comunicado. “Estas aplicaciones usan plataformas de palabras clave y listas de palabras clave separadas que son administradas por equipos separados”. Pero los expertos le dijeron a Forbes que es casi imposible garantizar que la configuración restrictiva de Douyin esté desactivada para TikTok.

La portavoz Jennifer Banks dijo que “Jiyun Hudong, que es una subsidiaria de Douyin Information Service Co., Ltd., administra las operaciones en relación con la moderación de contenido de nuestras plataformas de China, incluida la de Douyin. Equipos que administran la moderación para plataformas exclusivas de China y las plataformas fuera de China son diferentes y separadas, empleadas por diferentes entidades y tienen herramientas separadas para la moderación”.

Pero según varios empleados actuales y anteriores de TikTok y ByteDance, cualquier supuesta separación entre las dos compañías es en gran medida cosmética. Lo cierto es que cientos de documentos revisados por Forbes muestran una falta de separación funcional interna en el acceso a la información, los datos del usuario y las herramientas, incluidos sus sistemas de palabras clave.

Un informe de Citizen Lab de 2021 también encontró que TikTok y Douyin “comparten muchas partes de su código fuente”, construido sobre una base común y modificado según el mercado.

Los registros muestran que las herramientas de moderación y otros programas internos también recopilan datos sobre la “tasa de aciertos” de palabras confidenciales, incluida información sobre los usuarios estadounidenses que las publican. El régimen chino ha utilizado las redes sociales para atacar a personas en los EEUU que se han pronunciado en línea contra el Partido Comunista Chino, incluso al conmemorar la masacre de la Plaza Tiananmen en Beijing.

Así testificaba Shou Zi Chew (REUTERS/Evelyn Hockstein)
Así testificaba Shou Zi Chew (REUTERS/Evelyn Hockstein)

Esta revelación ocurre un mes después de que el director ejecutivo de TikTok, Shou Zi Chew, testificara por primera vez ante el Congreso de EEUU, donde aseguró: “No promovemos ni eliminamos contenido a pedido del gobierno chino. Es nuestro compromiso… que mantendremos esto libre de cualquier manipulación por parte de cualquier gobierno”.

Una guía de la herramienta describe su “vocabulario básico” que incluye lenguaje como “seis cuatro palabras”, una aparente referencia al 6/4 o 4 de junio, la fecha de la violencia de 1989 en la Plaza de Tiananmen. Otras listas en la herramienta están relacionadas con temas geopolíticos como la guerra entre Ucrania y Rusia, el debate alrededor a Taiwán y Hong Kong, y referencias al Tíbet y a la minoría uigur, víctima del genocidio por parte del régimen chino.

El acceso a la herramienta ByteDance y los materiales contenidos en ella parecían estar estrictamente controlados por casi dos docenas de empleados de ByteDance y Jiyun Hudong en China, según la guía. “El glosario es información confidencial y existe el riesgo de fuga”.

El problema de este monitoreo tiene que ver con la relación entre ByteDance y el régimen chino. Como le dijo a Forbes William Evanina, ex jefe de contrainteligencia del gobierno de EEUU, “la diferencia es la cuestión fundamental de que ByteDance esté subordinado al gobierno y al Ministerio de Seguridad del Estado. Sí, Facebook y Google hacen lo mismo para proteger sus activos globales en sus plataformas, pero no están en deuda con la CIA o la NSA. Y la NSA y la CIA no le están dando a Facebook este libro”.

“Esta lista de palabras es una prueba positiva de que hay cosas específicas que les preocupan y quieren monitorear quién las dijo, cuándo y con qué frecuencia”, dijo Evanina sobre la herramienta.

Seguir leyendo:

Últimas Noticias

El fundador de la fallida promotora inmobiliaria china Evergrande fue condenado a cadena perpetua por fraude y sobornos

Además de la condena, Xu Jiayin deberá entregar todos sus bienes tras ser declarado culpable de delitos como falsificación de información financiera, emisión fraudulenta de acciones, sobornos y desfalco, según la sentencia dictada por un tribunal de Shenzhen

El fundador de la fallida promotora inmobiliaria china Evergrande fue condenado a cadena perpetua por fraude y sobornos

El príncipe Harry y su esposa Meghan podrían regresar a vivir al Reino Unido en las próximas semanas

Según medios británicos, la pareja evalúa mudarse a una residencia privada en las afueras de Londres e inscribir a sus hijos en un colegio británico para el inicio del curso escolar, aunque la decisión aún no fue confirmada oficialmente

El príncipe Harry y su esposa Meghan podrían regresar a vivir al Reino Unido en las próximas semanas

Israel abatió a cuatro miembros de Hamas en Gaza y confirmó que uno de ellos participó en los ataques del 7 de octubre de 2023

Las Fuerzas de Defensa identificaron a los cuatro terroristas y aseguraron que representaban una amenaza para sus tropas desplegadas en la Franja

Israel abatió a cuatro miembros de Hamas en Gaza y confirmó que uno de ellos participó en los ataques del 7 de octubre de 2023

Incendios forestales y caza: cómo las llamas en Fontainebleau reabrieron el debate sobre la protección de la fauna silvestre en Francia

La presión de Futur, la Fundación Brigitte Bardot y otras iniciativas se intensificó tras difundirse imágenes de ciervos desorientados, mientras el debate crecía por los focos activos en Gironda

Incendios forestales y caza: cómo las llamas en Fontainebleau reabrieron el debate sobre la protección de la fauna silvestre en Francia

Cómo los búfalos de agua están reconfigurando los humedales australianos y ponen en peligro a una tortuga sagrada

Un estudio publicado en Ecological Management & Restoration reveló que estos animales modifican el suelo, reducen los recursos alimentarios y aplastan nidos enteros en el área protegida indígena de Arafura Swamp, en Arnhem Land

Cómo los búfalos de agua están reconfigurando los humedales australianos y ponen en peligro a una tortuga sagrada
MÁS NOTICIAS