Reddit eliminará imágenes sexuales generadas por inteligencia artificial

Uno de los problemas sobre difusión de contenido en internet es la generación de contenido sexual por medio de tecnología deepfake, de manera no consentida para simular imágenes e incluso videos con los rostros de personas (muchas de ellas, famosas) en algunos foros como Reddit. Es por ello que la plataforma decidió implementar una estrategia para combatir estas publicaciones y eliminarlas por completo.

Según la página oficial de soporte de Reddit, todo el contenido explícito publicado sin el consentimiento de la persona que aparezca en las imágenes, incluidas aquellas generadas con tecnología deepfake han sido catalogados como en contra de las políticas de Reddit y pueden ser denunciadas y eliminadas de la plataforma.

El mismo tratamiento será realizado para aquellas imágenes que se puedan incluir en la categoría de “no consentido”, como la pornografía de venganza, el voyerismo (observar a personas sin su consentimiento durante alguna práctica sexual), al igual que exposición involuntaria de partes íntimas. Reddit afirma que la detección de este tipo de contenidos ha mejorado, por lo que cada usuario podrá tener una experiencia más segura dentro de la aplicación.

Le puede interesar: Reddit sufrió un hackeo y hay dudas sobre los datos de los usuarios

De hecho, en su Informe de Transparencia 2022, Reddit indicó que eliminó más imágenes sexuales no consentidas (NCII) que durante el año 2021. Un 473% más subreddits dedicados a la difusión de este contenido fueron eliminados y 244% más cuentas fueron suspendidas por este tipo de prácticas.

En lo que respecta a las publicaciones que fueron eliminadas de la plataforma por ser parte de la categoría de pornografía (incluidas las generadas con tecnología deepfake) se llegó a la cifra de 187,258 según el informe revelado por Reddit. “Es probable que este aumento refleje principalmente nuestras políticas actualizadas y una mayor efectividad en la detección y eliminación de medios íntimos no consensuados de Reddit”, se lee en el documento.

Reforzando métodos de protección para los usuarios

Como parte de su intento para mejorar la detección y eliminación del contenido sexual no consentido publicado en su plataforma, Reddit también se unió a la iniciativa de StopNCII.org, un sistema de datos que bloquea imágenes como esas y evita su difusión.

Le puede interesar: Disney obliga a Reddit a identificar a usuarios que filtren información sobre sus películas

Según un representante de Reddit, la herramienta es considerada por la compañía como útil para seguir desarrollando sus esfuerzos por eliminar el contenido de este tipo y proteger a las víctimas que son afectadas por la violación de su intimidad.

Por otro lado, uno de los motivos por los que Reddit considera que las cifras de eliminación de imágenes pornográficas no consentidas han aumentado en el último año es porque se ha dedicado a la contratación de más personal dedicado a combatir la explotación sexual de menores, además de aumentar la cantidad de dinero que se invierte en el desarrollo de herramientas de detección más proactivas, de modo que no se dependa únicamente de los reportes de los usuarios.

De hecho, las estadísticas reveladas por Reddit indican que el 60.6% de las publicaciones NCII fueron identificadas gracias al sistema automático de Reddit, al igual que el 58.2% de las publicaciones eliminadas por sexualización de menores (266,473 en total), también fueron detectadas automáticamente por el software de la plataforma.

Le puede interesar: Papa Francisco: cómo usaron inteligencia artificial para crear estas fotos virales del Pontífice

En el caso de los mensajes privados enviados entre usuarios de la plataforma, el contenido sexual no consentido ocupa el cuarto lugar con la mayor cantidad de casos eliminados con la intervención del sistema de Reddit con el 71.7% de ellos, solo por debajo de casos de acoso (78.5%), sexualización de menores (85.9%) y spam (99.7%).