Facebook intensifica el combate a la "porno venganza" con herramientas de inteligencia artificial

Facebook diseñó una nueva herramienta de inteligencia artificial que permite detectar casos de porno venganza en la red social.

En medio de una grave crisis de confianza que ha afectado considerablemente su reputación, la plataforma de Marck Zuckerberg ha destinado gran parte de sus esfuerzos a combatir la publicación de imágenes íntimas de una persona sin su consentimiento.

Las víctimas de la venganza pornográfica se topan en Facebook con fotografías en las que aparecen desnudas o con poca ropa. Se dan cuenta entonces que la imagen personal que compartieron con alguien de su confianza, se sube a la red sin su permiso.

Ante la extensión de este tipo de ciberacoso, la red social implementó una nueva herramienta y un centro de control online.

Según anunció este viernes la plataforma a través de su blog corporativo, la inteligencia artificial de esta  tecnología permite detectar "imágenes o videos de individuos casi desnudos que se comparten sin permiso en Facebook e Instagram", antes de que el usuario los reporte.

"A través del aprendizaje automático y la inteligencia artificial, nosotros podemos detectar de manera proactiva imágenes y videos de personas casi desnudas que se hayan compartido sin su consentimiento. Esto significa que podemos encontrar el contenido antes incluso de que alguien lo denuncie, lo cual es importante por dos razones: a menudo las víctimas tienen miedo de las consecuencias así que son reacias a denunciar por ellas mismas el contenido, o no son conscientes de que el contenido es compartido" explicó Facebook en su post.

Un equipo de expertos revisará las imágenes señaladas por el sistema. La borrarán y "en la mayoría de los casos" eliminarán la cuenta por compartir las imágenes.

Una opción de emergencia

Este desarrollo se une al programa piloto que proporciona a las víctimas de estos contenidos una "opción de emergencia" para reportar las imágenes.

"Estamos encantados de ver cómo se expande la prueba piloto y cómo alcanza a más mujeres alrededor al mundo, ya que muchas de las solicitudes que recibimos provienen de fuera de los EEUU" dijo la fundadora de la Iniciativa de Derechos Civiles Cibernéticos en el blog de Facebook.

A pesar del optimismo reflejado por la red social, expertos como Paul Barret, subdirector del NYU Stern Center for Business and Human Rights han señalado que catástrofes como la que ocurrió este viernes en Nueva Zelanda, donde un usuario transmitió a través de un video en directo en Facebook la matanza de 49 musulmanes, demuestra que la inteligencia artificial no permitirá remover eficientemente los contenidos violentos y pornográficos.

"Este es uno de los de los lados oscuros de las redes sociales, y es algo que para las empresas resulta casi imposible de contrarrestar. No van a ser capaces de bloquear estos materiales en tiempo real. Es un enigma auténtico sobre los peligros que las redes sociales pueden provocar" sentenció Barret.

Víctimas del revenge porn

Aunque se sabe que este tipo de acoso es un crimen extendido en gran parte del mundo, son pocos los datos recabados. En 2017, el informe publicado por Data & Society y el Centro de Investigación de Salud Pública Innovadora en EEUU vino a arrojar un poco de luz sobre el revenge porn.

El estudio reveló que en ese país, uno de cada 25 usuarios reconoció haber sufrido algún tipo de acoso en redes sociales. Además explicó que una de cada diez personas de la comunidad LGBTTTIQ en EEUU son amenazados con subir a la red imágenes de ellos desnudos sin su consentimiento.

La autora principal de la investigación explicó que "la venganza porno" la realizan los ex amantes vengativos la mayoría de las veces. También puede darse cuando un hacker o atacante entra en el email de la víctima o en las cuentas de almacenamiento en la nube.