Meta deberá mitigar los daños que puedan causar las notas de la comunidad en regímenes represivos

La publicación de anotaciones públicas por parte de usuarios podría volverse un instrumento susceptible de manipulación en países donde las libertades civiles enfrentan mayores restricciones. Según detalló el Consejo Asesor de Contenido, el abuso de la herramienta de notas comunitarias podría agravar la situación en aquellos territorios donde existen crisis políticas o limitaciones a los derechos humanos, lo que motivó un llamado a Meta para establecer mecanismos que mitiguen estos posibles daños al expandir su programa de verificación global.

Tal como publicó el Consejo en un comunicado recogido por el medio, Meta deberá incorporar medidas que prevengan los riesgos asociados con el despliegue de las notas comunitarias, una función de verificación colaborativa, especialmente en aquellos lugares donde la libertad de expresión y el acceso a la información se vean comprometidos. El Consejo Asesor respondió a una consulta interna presentada por Meta en noviembre del año anterior, en la que la empresa planteaba la posibilidad de excluir a ciertos países de la expansión mundial del sistema si determinados factores contextuales ameritaban cautela.

El medio informó que el Consejo considera que las anotaciones públicas pueden fortalecer el debate en línea y la libertad de expresión si se acompañan de salvaguardias robustas, rapidez de reacción y un alcance adecuado. Sin embargo, advierte que existen situaciones en las que esta función no resulta aconsejable fuera de Estados Unidos. Destacó el caso de regímenes represivos, especialmente en contextos electorales o en países con crisis y conflictos, así como el impacto de redes organizadas de desinformación, situaciones donde el mal uso de las notas podría conducir a daños significativos y a vulneraciones de derechos humanos.

De acuerdo con el Consejo, Meta debe asumir la responsabilidad de anticipar y corregir los efectos nocivos que pueda causar el abuso de las notas mediante cambios en el diseño y la funcionalidad de la herramienta. El comunicado al que accedió el medio subraya que la empresa debe operar evaluando siempre los posibles riesgos en cada región antes de implementar la función, especialmente en momentos de tensión política.

El Consejo Asesor expuso un conjunto de recomendaciones para Meta, las cuales incluyen la implementación de protecciones eficaces para los colaboradores que generan notas en la plataforma. Propone asegurar el anonimato para quienes participan en la verificación a fin de protegerlos de hostigamiento o represalias, una medida que adquiere especial relevancia en contextos reñidos con la democracia.

El informe difundido por el medio indica que, durante procesos electorales en países sin garantías de acceso libre a la información o sin libertades civiles protegidas, Meta debería analizar detalladamente los riesgos y la eficacia de las medidas de protección antes de decidir activar la función. Si no fuera posible garantizar la integridad y neutralidad del programa, el Consejo recomienda no implementarlo en dichos contextos ni antes ni durante votaciones cruciales.

El Consejo también subrayó que la posibilidad de que las anotaciones públicas sean manipuladas aumenta en escenarios de crisis prolongadas o conflictos, recomendando que Meta evite desplegar la herramienta en países donde el acceso a internet se encuentre limitado o no pueda asegurarse. Sugiere, además, aplazar la inclusión de naciones marcada por una diversidad lingüística y cultural considerable en tanto Meta no logre una representación adecuada de todos los grupos relevantes dentro de cada contexto.

En lo relativo al funcionamiento del algoritmo que sustenta la herramienta, el Consejo aconseja analistas y técnicos de Meta a evaluar minuciosamente cada país donde las divisiones sociales y el desacuerdo puedan alimentar tensiones políticas graves, áreas donde un diseño inadecuado del sistema de verificación podría agravar la violencia.

El medio reportó que, entre las peticiones del Consejo, destaca la necesidad de que Meta elabore evaluaciones e informes regulares sobre la eficacia y los riesgos asociados a las notas comunitarias. Este monitoreo constante se perfila como un elemento clave para ajustar el despliegue y funcionamiento de la función conforme evoluciona la realidad de cada región, intentando así minimizar los impactos negativos y salvaguardar derechos fundamentales de los usuarios de sus plataformas.