Meta usará inteligencia artificial para saber si un menor de edad miente al crear una cuenta en Instagram

Meta, la empresa fundada por Mark Zuckerberg y matriz de la red social Instagram, en su esfuerzo por proteger a los adolescentes en su plataforma, está implementando nuevas herramientas basadas en inteligencia artificial.

Según informó la compañía en una publicación en su blog oficial, estas funciones buscan detectar si un menor de edad proporciona información falsa al crear su perfil, con el objetivo de garantizar que los usuarios jóvenes interactúen en un entorno seguro y adecuado para su edad.

Cómo Meta usa inteligencia artificial para mejorar la seguridad de los menores

La tecnología de inteligencia artificial de Meta analiza una serie de señales para determinar si un usuario es adolescente o adulto. Entre estas señales se incluyen la fecha de creación del perfil, patrones de interacción con contenido y otros datos relacionados con la actividad en la plataforma.

Además, la empresa ha desarrollado conjuntos de datos específicos para entrenar y evaluar el rendimiento de su modelo, utilizando publicaciones etiquetadas por revisores humanos, como mensajes relacionados con cumpleaños.

Este enfoque permite a la compañía ajustar su sistema de clasificación y mejorar su precisión antes de implementarlo en diferentes países, teniendo en cuenta las variaciones culturales y de comportamiento.

Qué pasa cuando la IA de Meta detecta una cuenta de Instagram sospechosa

Una de las principales novedades de esta iniciativa es que, en ciertos casos, la IA de Meta podrá realizar configuraciones manuales realizadas por los usuarios y aplicar automáticamente restricciones propias de las cuentas de adolescentes.

Esto significa que si el sistema detecta que un perfil pertenece a un menor de edad, ajustará la configuración de la cuenta para alinearse con las medidas de seguridad diseñadas para este grupo etario.

Las cuentas de adolescentes en Instagram cuentan con varias limitaciones preestablecidas. Los perfiles son privados de manera predeterminada, lo que significa que solo las personas aprobadas por el usuario pueden ver su contenido.

Asimismo, los usuarios desconocidos no pueden enviarles mensajes directos, y el contenido que se muestra en su feed está restringido para evitar la exposición a material inapropiado. Según detalló Meta, estas medidas buscan reducir los riesgos asociados al uso de redes sociales por parte de menores de edad.

Qué nuevas medidas de control en funciones clave ofrece la red social

Meta ha ampliado recientemente las restricciones para adolescentes en funciones específicas de Instagram. Entre las actualizaciones más destacadas se encuentra la limitación del acceso a Instagram Live, la herramienta de transmisión en vivo de la plataforma.

Ahora, los menores de 16 años necesitarán el permiso de sus padres o tutores para realizar transmisiones en directo. Asimismo, se ha reforzado la protección en los mensajes directos, incluyendo una función que difumina automáticamente imágenes limpias, como desnudos, enviadas a través de esta vía.

Esta característica, que ya estaba disponible, ahora solicitará autorización parental para ser desactivada. Estas medidas reflejan la intención de Meta por crear un entorno más seguro para los adolescentes, sobre todo en un contexto donde las redes sociales son cada vez más utilizadas por menores de edad.

La compañía ha señalado en sus canales oficiales que su objetivo es garantizar que los jóvenes puedan disfrutar de la plataforma sin exponerse a riesgos innecesarios.

Cuáles son las pruebas que hace Meta antes de la implementación global

Antes de lanzar estas herramientas de inteligencia artificial a nivel global, Meta realiza pruebas en diferentes países para evaluar su efectividad y realizar los ajustes necesarios.

Según explicó la compañía, este enfoque permite adaptar el sistema a las particularidades culturales y de comportamiento de cada región, lo que resulta crucial para garantizar su precisión y eficacia.

El desarrollo de estas herramientas también ha implicado un proceso de evaluación exhaustivo. Meta ha utilizado revisores humanos para etiquetar publicaciones anónimas, como mensajes relacionados con cumpleaños, con el fin de entrenar y probar el modelo de inteligencia artificial.

Este método ha permitido a la compañía identificar patrones y señales que ayudan a clasificar con mayor precisión las cuentas de adolescentes y así reducir riesgos.