Brasil suspendió las transmisiones en vivo de una red social tras el suicidio de una niña de 13 años

El Gobierno de Brasil ordenó este miércoles la suspensión de las salas en vivo y el intercambio de videos en la plataforma Discord tras el suicidio de una niña de 13 años que se automutiló a petición de otros usuarios durante una transmisión en directo.

La menor se quitó la vida el 22 de julio en Naviraí, municipio del estado de Mato Grosso do Sul, tras una sesión de 45 minutos en la que otros participantes la indujeron a lesionarse y también la animaron a torturar y matar a un gato.

La decisión cautelar fue impuesta por la Agencia Nacional de Protección de Datos (ANPD), que dio un plazo de tres días a la empresa para aplicar la medida. Las restricciones permanecerán vigentes hasta que Discord demuestre haber adoptado mecanismos efectivos para proteger a los menores de edad.

La agencia argumenta que los directos de la plataforma han sido usados de manera recurrente para perpetrar delitos graves que ponen en riesgo la integridad física y mental de menores de 18 años.

La investigación se abrió después de que la primera dama de Brasil, Rosângela “Janja” Lula da Silva, reclamara públicamente el bloqueo de la plataforma durante un acto oficial junto al presidente Luiz Inácio Lula da Silva, en el que este sancionó una ley que amplía las penas a los agresores sexuales de menores.

En ese acto, Janja afirmó: “Necesitamos bloquear Discord como sea. No puedo aceptar que una niña de 13 años se mutile en directo en Internet, en Discord, se cuelgue y muera. No consigo admitir un país así”.

La Policía Federal detuvo a seis personas vinculadas al directo: cinco adolescentes de entre 13 y 17 años y un adulto de 18. Todos son investigados por homicidio agravado y pertenencia a una organización criminal.

El grupo, liderado por un joven de 14 años arrestado en Río de Janeiro, operaba desde distintos puntos del país —Mato Grosso do Sul, Minas Gerais, Ceará y Pará—, lo que evidencia el alcance geográfico de la red.

Los investigadores señalan que había una segunda menor en la sesión, pero que la abandonó. Los acusados incluso le enviaron dinero a la víctima para que, sin conocimiento de su madre, comprara las cuchillas con las que se lesionó. En los allanamientos, los agentes incautaron ordenadores, celulares, armas blancas y parafernalia neonazi.

En paralelo al proceso judicial, la ANPD inició una inspección a Discord el viernes anterior y el martes mantuvo una reunión con los representantes legales de la empresa. Según el organismo, la plataforma no presentó “pruebas sólidas” de haber adoptado medidas razonables para prevenir el acceso de menores a contenidos que violen sus derechos. La agencia también señaló que, a principios de marzo, Discord realizó cambios técnicos en la función ‘Go Live’ —como se conocen las salas de transmisión en vivo— que la hicieron “aún menos segura para los niños y adolescentes”, en incumplimiento de la legislación vigente.

En un documento enviado al Ministerio de Justicia brasileño y fechado el 10 de agosto, Discord reconoció que existían indicios de riesgo en la transmisión, pero que estos no fueron suficientes para activar una alerta en sus sistemas.

“Durante el período relevante, el servidor contenía nombres, etiquetas de roles y comunicaciones en texto que, tras la revisión posterior al incidente, fueron identificados como indicadores asociados a un ecosistema más amplio de alto daño. En el momento del incidente, esas señales no activaron de forma aislada o combinada”, admitió la empresa.

Según el mismo documento, la transmisión recibió una puntuación de riesgo de 0,12 en el sistema interno de la plataforma, muy por debajo del umbral de 0,95 requerido para la identificación automatizada. Discord informó que ese resultado está siendo reexaminado para evaluar posibles mejoras en la sensibilidad del sistema.

Una nota técnica de la Agencia Nacional de Protección de Datos concluyó que Discord carece de herramientas que viabilicen mecanismos de análisis de contenido y detección de violaciones en tiempo real, y que la plataforma “depende de sistemas automatizados fallidos y de denuncias por los propios participantes”.

El documento añadió que “cuando están en cuestión el riesgo inminente de lesión grave, automutilación o muerte de un niño o adolescente, el costo de un falso negativo es incomparablemente superior al costo de someter determinado servidor a análisis humano adicional”.

Discord, por su parte, calificó la decisión de la ANPD de “prematura” y señaló que la actividad criminal que derivó en la muerte de la adolescente había sido coordinada en otras plataformas antes de la creación del servidor en Discord, y que continuó en esos entornos tras el bloqueo de los usuarios. La empresa afirmó haber identificado y desactivado el servidor privado —accesible solo mediante invitación— antes de la muerte de la joven, tras recibir una comunicación de un organismo de seguridad a las 3:50 de la madrugada, y haber eliminado el servidor menos de 25 minutos después.

Discord, que nació como una plataforma para jugadores de videojuegos, cuenta con unos 200 millones de usuarios activos mensuales en todo el mundo. Brasil es uno de los mercados más relevantes para las grandes tecnológicas: sus más de 200 millones de habitantes figuran entre los mayores consumidores de internet del planeta.

El actual Gobierno lleva adelante un proceso de regulación de plataformas y redes sociales que ya generó fricciones tanto con las empresas como con la administración de Donald Trump. En 2024, Brasil bloqueó durante 40 días, por orden judicial, la red X.

*En México, el Sistema Nacional de Apoyo, Consejo Psicológico e Intervención en Crisis por Teléfono (SAPTEL) ofrece atención telefónica las 24 horas del día en el número: 0155 5259-8121. En los Estados Unidos se puede marcar al +1-888-628-9454.

En el Centro de Asistencia al Suicida de Buenos Aires atienden a cualquier persona en crisis en las líneas gratuitas 135 desde Buenos Aires y GBA o al (54-11) 5275-1135 las 24 horas del día. Está también el Centro de Atención al Familiar del suicida (CAFS): Tel. (011) 4758-2554 (cafs_ar@yahoo.com.ar – www.familiardesuicida.com.ar).

En Estados Unidos, existe la Red Nacional de Prevención del Suicidio para pedir ayuda; puedes llamar al 1-888-628-9454 o al 1-800-273-8255, la línea del Servicio Nacional de Prevención del Suicidio, para hablar con alguien que te brindará apoyo gratuito y confidencial las 24 horas del día, los siete días de la semana. Los CDC también recomiendan sus propias políticas, programas y prácticas de prevención.