México prohíbe el contenido violento para los niños en las redes sociales

Uniéndose a un movimiento global, la presidenta Claudia Sheinbaum firmó un decreto que exige la eliminación de una serie de materiales para menores de 18 años y planteó la posibilidad de medidas más severas.

El miércoles, México prohibió el contenido violento y sexual en las redes sociales para niños y adolescentes, con lo que se sumó a un movimiento global sobre la regulación de la tecnología pero también suscitó interrogantes sobre el enfoque del gobierno y la legalidad de la medida.

La presidenta Claudia Sheinbaum firmó un decreto que prohíbe a las plataformas digitales permitir que los menores de 18 años estén expuestos a contenidos que "generen o promuevan" una serie de conductas dañinas, o se les recomiende dicho contenido. Eso incluye el discurso de odio, la violencia extrema, el abuso, la violencia sexual, el suicidio, las autolesiones deliberadas, los trastornos alimentarios, la violencia escolar, el ciberacoso y el material sexualmente explícito.

El decreto exigirá a las empresas de redes sociales eliminar de inmediato el contenido o las cuentas que promuevan la violencia y verificar la edad de los usuarios. Tendrán que ofrecer herramientas de supervisión parental, proporcionar mecanismos para denunciar contenido violento y mantener un punto de contacto disponible las 24 horas para las autoridades. Además, se les exigirá alertar de inmediato a las autoridades cuando se detecte contenido que ponga en peligro la vida.

El decreto no entrará en vigor hasta dentro de un mes. Sheinbaum dijo que las empresas de redes sociales estuvieron de acuerdo durante las reuniones con el gobierno, pero pidieron tiempo para ajustar sus plataformas.

También advirtió a las empresas tecnológicas.

"Vamos a estar vigilando", dijo Sheinbaum, cuyo partido político también controla el poder judicial y el poder legislativo. "Si no se cumple, entonces pasamos al siguiente paso, que ya no solo es un decreto presidencial, sino una ley. Y si hay una ley, entonces ya vendrían sanciones".

Varias de las empresas de redes sociales nombradas por el gobierno --Meta, Google, TikTok, X y Apple-- no respondieron a las solicitudes de comentarios el miércoles. Microsoft se negó a hacer comentarios.

Los gobiernos de todo el mundo están tomando medidas severas contra las empresas tecnológicas con la esperanza de proteger a los niños de los posibles daños de las redes sociales. Australia, Reino Unido y Francia han adoptado leyes de verificación de edad, al igual que varios estados de Estados Unidos.

En Estados Unidos, las empresas tecnológicas están impugnando las leyes estatales en los tribunales, con el argumento de que infringen los derechos de libertad de expresión. Pero algunos otros países no tienen las mismas protecciones para la libertad de expresión que Estados Unidos.

A finales de agosto, Meta, propietaria de Facebook, Instagram y WhatsApp, llegó a un acuerdo histórico con 47 estados, el Distrito de Columbia y territorios de Estados Unidos donde acordó pagar hasta 17,1 millardos de dólares en multas y hacer cambios importantes en sus productos por las afirmaciones de que ponían en peligro a los niños.

En México, algunos legisladores han estado analizando regular el acceso de los niños a las redes sociales. El mes pasado, el gobierno restringió los teléfonos celulares y las pantallas en el sistema educativo del país.

Sheinbaum ha dicho que el nuevo decreto es una respuesta a un ataque a principios de este mes en una escuela secundaria en el norte de México --poco común en el país-- en el que dos hermanos que eran exalumnos mataron a un subdirector e hirieron a otros. El miércoles, también relató otro incidente en el que un niño le dijo a un maestro que otro estudiante había hablado de llevar un arma a la escuela. Con la orden de un juez, dijo Sheinbaum, las autoridades encontraron una pistola en la casa del niño.

"En este caso", dijo, "y en otros casos que ya hemos vivido en México, se demostró que había comunicación a través de las plataformas digitales de estos jóvenes".

José Merino, quien forma parte del gabinete de Sheinbaum como titular de la Agencia de Transformación Digital y Telecomunicaciones de México, dijo en una conferencia de prensa la semana pasada que el decreto se centraría en el contenido accesible al público y en su rápida eliminación. Las plataformas, dijo, tienen algoritmos que identifican contenido de alto riesgo y comportamiento riesgoso. "Es algo que ya hacen de manera rutinaria".

Una asesora legal de Sheinbaum, Luisa María Alcalde, dijo el miércoles que el decreto se basaba en una ley existente que garantiza a los niños mexicanos un "acceso seguro" al internet, pero prohíbe "el ciberacoso y todas las formas de violencia".

Dijo que el gobierno había mantenido dos reuniones con representantes de empresas tecnológicas y que no se resistieron. "Entendieron perfectamente la necesidad", dijo.

Pero algunos expertos en derechos digitales han expresado preocupación por el enfoque del gobierno.

Vladimir Chorny, investigador y experto legal de R3D, un grupo mexicano de derechos digitales, dijo que la ley sobre los niños que citó el gobierno castigaba las infracciones pero no permitía la censura. La Constitución mexicana, dijo, prohíbe eso. Se necesita una orden judicial, dijo, para eliminar contenido relacionado con el abuso sexual infantil o la incitación a la violencia.

Chorny dijo que una mejor ruta sería aprobar una ley, después de un debate público, que exija a las empresas de redes sociales ser más transparentes sobre sus algoritmos y responsabilizarlas por sus acciones.

"A esta respuesta hay que llegar colectivamente", dijo. "No es una respuesta que se deba tomar en la mesa chica, no es algo que se pueda decretar".

Dijo: "Yo creo que la única forma de proteger verdaderamente a las adolescencias e infancias es fortaleciendo su autonomía para que ellos puedan distinguir qué cosas son contenidos que les afectan y cuáles no. Y para eso, la única manera es atacando los diseños adictivos y este modelo de negocios de las grandes plataformas que lo que hacen es tomarles como beneficios económicos".

Cecilia Kang colaboró con reportería.

James Wagner cubre noticias y cultura en América Latina para el Times. Radica en Ciudad de México.

Cecilia Kang colaboró con reportería.