Nueva York acusa a TikTok de haber simulado una herramienta de seguridad para menores

Documentos judiciales revelan que un empleado advirtió internamente sobre el engaño antes de que la empresa repitiera la prueba miles de veces

TikTok enfrenta una demanda en Nueva York por entregar a menores una versión falsa de su herramienta de seguridad. (Reuters)
TikTok enfrenta una demanda en Nueva York por entregar a menores una versión falsa de su herramienta de seguridad. (Reuters)
Guardar

La fiscal general de Nueva York, Letitia James presentó documentos judiciales que acusan a TikTok de haber entregado a miles de adolescentes y niños una versión falsa de una herramienta de seguridad, mientras la plataforma medía cuánto tiempo pasaban conectados.

Según la demanda, la función en cuestión se llama “Algo Refresh” y permite reiniciar el algoritmo de recomendaciones para dejar de ver contenido no deseado o potencialmente dañino. Miles de usuarios activaron la opción creyendo que su feed cambiaría.

PUBLICIDAD

En los hechos, sus recomendaciones permanecieron igual, a diferencia de las de los usuarios que sí recibieron la versión real de la herramienta, según documentos citados por la agencia Reuters y el diario británico The Independent.

La función "Algo Refresh" promete reiniciar el algoritmo de recomendaciones para evitar contenido dañino. (Reuters)
La función "Algo Refresh" promete reiniciar el algoritmo de recomendaciones para evitar contenido dañino. (Reuters)

Los registros judiciales, antes sellados y desclasificados por orden de un juez, muestran que TikTok repitió el experimento sobre miles de cuentas durante 2023, comparando el tiempo de uso y el impacto publicitario entre quienes recibieron la versión real y quienes recibieron el placebo.

La advertencia interna que la empresa ignoró

Un gerente de producto del área de Bienestar Digital de TikTok objetó la prueba antes de que se ejecutara, según un mensaje interno citado en la demanda. “Esta función trata sobre transparencia y control del algoritmo. Un grupo placebo entra en conflicto total con eso”, escribió el empleado.

PUBLICIDAD

La compañía avanzó con los ensayos de todos modos. La demanda sostiene que TikTok comparó a los usuarios que recibieron la función real con quienes recibieron la versión falsa para analizar el tiempo de permanencia en la plataforma y su efecto en los ingresos publicitarios.

Documentos judiciales revelan que TikTok comparó usuarios con la versión real y falsa de la herramienta durante 2023. (Europa Press)
Documentos judiciales revelan que TikTok comparó usuarios con la versión real y falsa de la herramienta durante 2023. (Europa Press)

Un vocero de TikTok dijo a Reuters que la empresa prueba habitualmente nuevos productos y funciones para “validar la experiencia y entender cómo funcionan en el mundo real”, y afirmó que la caracterización de la demanda sobre “Algo Refresh” es incorrecta.

Parte de una ofensiva judicial en más de veinte estados

La causa de Nueva York forma parte de más de dos decenas de demandas estatales que acusan a TikTok de diseñar su plataforma para fomentar el uso adictivo entre menores y de engañar a los usuarios sobre sus medidas de protección.

James inició la demanda original en 2024. Los detalles sobre las pruebas con placebo se sumaron a una versión actualizada y sellada de la presentación a fines de agosto, que un juez ordenó desclasificar esta semana.

Un empleado interno advirtió sobre los riesgos del experimento antes de su ejecución. (Reuters)
Un empleado interno advirtió sobre los riesgos del experimento antes de su ejecución. (Reuters)

El expediente menciona además otro experimento, informado previamente por Bloomberg, en el que TikTok desactivó de forma aleatoria funciones de seguridad reales a 15 millones de usuarios en Estados Unidos.

Entre ellos había un adolescente de Nueva York que murió por suicidio después de recibir, según registros internos citados en la causa, una “avalancha” de contenido sobre autolesiones y suicidio.

TikTok asegura públicamente que la seguridad es una prioridad y que su plataforma es apta para adolescentes. Sin embargo, los documentos judiciales sostienen que la empresa bloqueó deliberadamente el acceso a herramientas de protección a usuarios que las habían solicitado de forma explícita.

Dos personas usan el teléfono móvil, a 1 de febrero de 2024, en Barcelona. David Zorrakino / Europa Press)
La causa forma parte de más de veinte demandas estatales contra TikTok en Estados Unidos. (David Zorrakino / Europa Press)

El litigio continúa abierto en Nueva York, donde la oficina de la fiscal general adelantó que seguirá presentando pruebas desclasificadas del expediente a medida que avance el proceso contra la plataforma.

Meta, otra compañía cuestionada

Meta ha enfrentado severas acusaciones legales por diseñar deliberadamente Instagram y Facebook con funciones algorítmicas destinadas a generar adicción en menores de edad para maximizar sus ganancias económicas.

Diversas demandas, incluida una masiva coalición de fiscales estatales en EE. UU., argumentan que la empresa implementó características como el desplazamiento infinito (scrolling) y notificaciones constantes para enganchar a los jóvenes, explotando su vulnerabilidad psicológica.

Meta también enfrenta demandas por el diseño adictivo de Instagram y Facebook entre menores de edad. (Reuters)
Meta también enfrenta demandas por el diseño adictivo de Instagram y Facebook entre menores de edad. (Reuters)

Asimismo, se le acusa de encubrir investigaciones internas que ya advertían sobre el grave impacto en la salud mental juvenil (ansiedad, depresión y trastornos alimenticios), de mentir públicamente sobre la seguridad de sus productos y de recopilar ilegalmente datos de niños menores de 13 años sin el consentimiento de sus padres.

PUBLICIDAD

PUBLICIDAD