Instagram implementa nuevas medidas para proteger a los jóvenes de contenidos explícitos

Instagram anunció nuevas herramientas diseñadas para prevenir el acoso cibernético y la distribución no deseada de imágenes explícitas en su plataforma. Estas medidas están especialmente dirigidas a proteger a los menores de edad, quienes son más vulnerables a este tipo de situaciones.

“Las medidas de seguridad propuestas por Meta dentro de su entorno encriptado son alentadoras. Esperamos que estas nuevas medidas aumenten las denuncias por parte de los menores y frenen la circulación de la explotación infantil en línea”, aseguró John Shehan, vicepresidente senior del Centro Nacional para Menores Desaparecidos y Explotados, en una publicación oficial de Meta.

Cuáles son las novedades que llegan a Instagram

Una de las principales características presentadas es la Protección de Desnudos en los mensajes directos de Instagram. Esta función tiene como objetivo desenfocar automáticamente las imágenes que contienen desnudos enviadas o recibidas a través de los mensajes directos, con el propósito de proteger a los usuarios de ver contenido no deseado.

Según Meta, esta herramienta también tiene como finalidad “proteger a las personas de estafadores que pueden enviar imágenes de desnudos para engañar a las personas para que envíen sus propias imágenes a cambio”.

Además, se menciona que la función de Protección de Desnudos estará activada por defecto para los adolescentes menores de 18 años en todo el mundo. En el caso de los adultos, estos usuarios tendrán la opción de activar esta función a través de la configuración de la aplicación.

En lo anunciado por la empresa, se destaca que tanto los remitentes como los destinatarios de imágenes con desnudos recibirán notificaciones y advertencias sobre los posibles riesgos asociados con el envío de este tipo de contenido.

Los usuarios que envíen imágenes de desnudos recibirán un mensaje recordándoles ser cautelosos y ofreciéndoles la opción de eliminar las imágenes, mientras que aquellos que reciban estas imágenes verán las imágenes automáticamente desenfocadas bajo una pantalla de advertencia, dándoles la opción de bloquear al remitente y reportar el chat.

Meta aseguró que para llevar a cabo esta función se empleará el aprendizaje automático en el dispositivo para analizar si una imagen enviada en un DM contiene desnudos. Esto significa que la Protección de Desnudos funcionará incluso en chats cifrados de extremo a extremo, sin que Meta tenga acceso a las imágenes, a menos que sean reportadas por los usuarios.

Por otro lado, Instagram también está implementando medidas adicionales para prevenir el acoso y la manipulación en su plataforma. Entre estas medidas se incluye la introducción de herramientas para identificar posibles cuentas involucradas en estafas de sextorsión, así como la restricción de mensajes potencialmente peligrosos enviados por estas cuentas a la carpeta de solicitudes ocultas del destinatario, evitando que sean notificados de los mensajes.

Además de estas iniciativas, la aplicación está colaborando con otras empresas tecnológicas en el programa Lantern, una iniciativa dirigida por la Coalición Tecnológica que permite a las empresas compartir señales sobre cuentas y comportamientos que violan sus políticas de seguridad infantil.

A esto se suma, que entre los consejos dados al compartir contenido explícito, los usuarios también tendrán acceso a enlaces con recursos de entidades especialidades en estos temas, como el Centro de Seguridad de Meta, StopNCII.org para mayores de 18 años y Take It Down para menores de 18 años.

Esta cooperación intersectorial busca combatir las estafas de sextorsión no solo en plataformas individuales, sino en todo internet, donde los delincuentes pueden cambiar de plataforma para encontrar nuevas víctimas.

La aplicación de Meta aseguró que todas estás herramientas están todavía en fase de pruebas, por lo que oficialmente todavía no están disponibles. Sin embargo, sí se están desplegando el acceso a un número limitado de usuarios para continuar con los testeos finales y lanzarlas posteriormente a todas las cuentas en el mundo.