Una investigación reveló que un algoritmo de Facebook promueve el negacionismo del Holocausto

Cuando alguien escribe “Holocausto” en la barra de búsqueda de Facebook, esperaría encontrar páginas que aludan a la persecución sistemática, promovida por el estado nazi, con la colaboración de sus aliados, y el asesinato de seis millones de personas judías en Europa, en campos de concentración y exterminio. Sin embargo, según una investigación del Instituto para el Diálogo Estratégico (ISD), una organización anti extremista del Reino Unido, la red social puede brindar sorpresas: su algoritmo “promueve activamente” contenidos como teorías conspirativas que imaginan que la Shoah nunca existió y otros referidos a personajes como David Irving, un conocido antisemita y negacionista.

El ISD identificó 36 páginas y grupos de Facebook que niegan el hecho histórico sucedido durante la Segunda Guerra Mundial (por el cual se crearon los conceptos legales de genocidio y delitos contra la humanidad para juzgar a algunos de sus máximos responsables) además de muchos enlaces a vendedores de artículos y literatura revisionistas. También encontraron que el contenido de negación del Holocausto es fácilmente accesible en Twitter, Reddit y YouTube.

El informe, Hosting the ‘Holohoax': A Snapshot of Holocaust Denial Across Social Media (El servidor del ‘Holofraude': una instantánea del negacionismo del Holocausto en las redes sociales), analizó lo que considera “una de las teorías conspirativas más insidiosas” con partidarios “de todo el espectro ideológico, desde las comunidades de derecha hasta la izquierda radical y los islamistas”.

Tras advertir que “las investigaciones demostraron que las plataformas digitales sólo han servido para amplificar y popularizar esta clase de pensamiento retorcido en los últimos años”, el ISD resumió sus hallazgos principales, entre ellos que las páginas y grupos de Facebook tienen un total de 366.068 miembros y una cantidad promedio de 10.168 integrantes cada uno. En Reddit, la expresión ‘holohoax’ (‘holofraude') apareció en 2.300 contenidos, mientras que en YouTube apareció en 9.500 y en Twitter, en 19.000.

El estudio, realizado con el método de muestreo en cadena, que a partir de un elemento busca otros asociados y crea un efecto de bola de nieve, hallaron “que cuando un usuario sigue las páginas públicas con contenidos negacionistas del Holocausto, Facebook promueve activamente más contenido de negación del Holocausto” a esa persona.

“Al analizar el empleo del término ‘holohoax’, encontramos que la diseminación de contenidos negacionistas del Holocausto se redujo de manera significativa en YouTube luego de que hiciera cambios a sus términos de servicio en 2019″, escribieron Jakob Guhl y Jacob Davey, autores del informe. “Si otras plataformas adoptan políticas similares, eso probablemente limitaría la propagación de tales materiales”. En el caso de Reddit, si bien la cantidad de publicaciones con la palabra ‘holohoax’ no se redujo en dos años, su visibilidad, en cambio, sí, mediante recursos como la prohibición de subreddits negacionistas y la intervención de moderadores de contenido.

La publicación del informe coincidió con una campaña que iniciaron sobrevivientes de la Shoah del mundo entero, que con el hashtag #NoDenyingIt (no hay cómo negarlo) publican cada día un video en el que le solicitan a Mark Zuckerberg, fundador y director ejecutivo de Facebook, que elimine de la plataforma los mensajes antisemitas que insisten en que el genocidio cometido por los nazis no tuvo lugar. Además de subir los videos a Facebook, la campaña los comparte en Instagram (otra plataforma propiedad de Zuckerberg) y Twitter.

Zuckerberg se ha negado sostenidamente a hacer algo así. En 2018, en una entrevista para Recode, dijo que Facebook no eliminaría por default los contenidos negacionistas de la Shoah: “Los encuentro profundamente ofensivos. Pero al fin de cuentas, no creo que nuestra plataforma deba borrarlos, porque pienso que hay cosas que distintas personas entienden mal. No creo que lo entiendan mal intencionalmente”. Luego insistió: “No creo que sea lo correcto decir: ‘Vamos a eliminar a alguien de la plataforma si se equivoca, aun si lo hace varias veces’”.

Aunque el miércoles 12 de agosto la red social anunció que prohibiría las teorías conspirativas según las cuales las personas judías “controlan el mundo”, se ha negado a clasificar el negacionismo como una forma del discurso de odio. Para el ISD, eso es “un punto ciego conceptual”. Una posible razón —que explicaría también por qué las recomendaciones logarítmicas muestran más publicaciones antisemitas y negacionistas— es que la gente clickea en contenidos afines, y eso genera ingresos publicitarios para la compañía.

Guhl dijo a The Guardian: “Nuestros hallazgos revelan que cuando las plataformas intervienen se puede reducir efectivamente el volumen y la visibilidad de este tipo de contenido antisemita. Estas empresas deben entonces preguntarse qué tipo de plataforma quieren ser: una que gana dinero al permitir que prospere el negacionismo del Holocausto o una que asuma una postura de principios en contra”.

En las conclusiones, el trabajo de ISD resumió que, aunque sólo se trata de un estudio de caso, la investigación “muestra una instantánea de cómo podemos hallar negacionismo del Holocausto en cuatro redes sociales”. Y distinguió: “Específicamente, el informe destaca cómo Facebook, que no ha querido reconocer lo como una forma del discurso de odio contra los judíos, tiene una comunidad pequeña pero bien establecida e ideológicamente diversa” de esta variante de antesemitas.

La investigación de Guhl y Davey comprobó que YouTube, luego de marcar el negacionismo como discriminatorio, logró limitar la propagación de esas publicaciones; también mencionó que la cuarentena que Reddit impone a esos contenidos los hizo menos visibles. La postura de Facebook, en cambio, podría estar impulsada por “un punto ciego conceptual en su comprensión de estos temas”: la red social cree que hay una cuestión de inexactitud histórica y no “un arma directa que algunos individuos emplean para atacar a comunidades minoritarias”.

El texto cerró con una propuesta: “El estudio de ISD mostró de qué manera los algoritmos de recomendación de Facebook pueden activamente guiar a los usuarios hacia contenidos de negacionismo del Holocausto. Prevenir su recomendación sería el mínimo primer paso que Facebook podría dar para reducir la visibilidad y el acceso a tales contenidos”.

Un vocero de la compañía de Zuckerberg dijo a The Guardian que se eliminan las publicaciones que “celebran, defienden o intentan justificar el Holocausto”, y que lo mismo se aplica a cualquier contenido que “se burle de las víctimas del Holocausto, acuse a las víctimas de mentir o promueva la violencia contra el pueblo judío de cualquier forma”.

En algunos países, donde la ley no permite la circulación de ciertos mensajes sobre el nazismo y la Shoah, como Alemania, Francia y Polonia, Facebook borra esos contenidos. Pero en general la plataforma “no elimina contenido simplemente por ser falso”, según el vocero. “Lograr el equilibrio exacto entre mantener la seguridad de las personas y permitir la libre expresión es difícil, y sabemos que mucha gente está fuertemente en desacuerdo con nuestra postura”.

MÁS SOBRE ESTE TEMA: