Meta, la empresa fundada por Mark Zuckerberg y matriz de la red social Instagram, en su esfuerzo por proteger a los adolescentes en su plataforma, está implementando nuevas herramientas basadas en inteligencia artificial.
Según informó la compañía en una publicación en su blog oficial, estas funciones buscan detectar si un menor de edad proporciona información falsa al crear su perfil, con el objetivo de garantizar que los usuarios jóvenes interactúen en un entorno seguro y adecuado para su edad.
Cómo Meta usa inteligencia artificial para mejorar la seguridad de los menores
La tecnología de inteligencia artificial de Meta analiza una serie de señales para determinar si un usuario es adolescente o adulto. Entre estas señales se incluyen la fecha de creación del perfil, patrones de interacción con contenido y otros datos relacionados con la actividad en la plataforma.
Además, la empresa ha desarrollado conjuntos de datos específicos para entrenar y evaluar el rendimiento de su modelo, utilizando publicaciones etiquetadas por revisores humanos, como mensajes relacionados con cumpleaños.
Este enfoque permite a la compañía ajustar su sistema de clasificación y mejorar su precisión antes de implementarlo en diferentes países, teniendo en cuenta las variaciones culturales y de comportamiento.
Qué pasa cuando la IA de Meta detecta una cuenta de Instagram sospechosa
Una de las principales novedades de esta iniciativa es que, en ciertos casos, la IA de Meta podrá realizar configuraciones manuales realizadas por los usuarios y aplicar automáticamente restricciones propias de las cuentas de adolescentes.
Esto significa que si el sistema detecta que un perfil pertenece a un menor de edad, ajustará la configuración de la cuenta para alinearse con las medidas de seguridad diseñadas para este grupo etario.
Las cuentas de adolescentes en Instagram cuentan con varias limitaciones preestablecidas. Los perfiles son privados de manera predeterminada, lo que significa que solo las personas aprobadas por el usuario pueden ver su contenido.
Asimismo, los usuarios desconocidos no pueden enviarles mensajes directos, y el contenido que se muestra en su feed está restringido para evitar la exposición a material inapropiado. Según detalló Meta, estas medidas buscan reducir los riesgos asociados al uso de redes sociales por parte de menores de edad.
Qué nuevas medidas de control en funciones clave ofrece la red social
Meta ha ampliado recientemente las restricciones para adolescentes en funciones específicas de Instagram. Entre las actualizaciones más destacadas se encuentra la limitación del acceso a Instagram Live, la herramienta de transmisión en vivo de la plataforma.
Ahora, los menores de 16 años necesitarán el permiso de sus padres o tutores para realizar transmisiones en directo. Asimismo, se ha reforzado la protección en los mensajes directos, incluyendo una función que difumina automáticamente imágenes limpias, como desnudos, enviadas a través de esta vía.
Esta característica, que ya estaba disponible, ahora solicitará autorización parental para ser desactivada. Estas medidas reflejan la intención de Meta por crear un entorno más seguro para los adolescentes, sobre todo en un contexto donde las redes sociales son cada vez más utilizadas por menores de edad.
La compañía ha señalado en sus canales oficiales que su objetivo es garantizar que los jóvenes puedan disfrutar de la plataforma sin exponerse a riesgos innecesarios.
Cuáles son las pruebas que hace Meta antes de la implementación global
Antes de lanzar estas herramientas de inteligencia artificial a nivel global, Meta realiza pruebas en diferentes países para evaluar su efectividad y realizar los ajustes necesarios.
Según explicó la compañía, este enfoque permite adaptar el sistema a las particularidades culturales y de comportamiento de cada región, lo que resulta crucial para garantizar su precisión y eficacia.
El desarrollo de estas herramientas también ha implicado un proceso de evaluación exhaustivo. Meta ha utilizado revisores humanos para etiquetar publicaciones anónimas, como mensajes relacionados con cumpleaños, con el fin de entrenar y probar el modelo de inteligencia artificial.
Este método ha permitido a la compañía identificar patrones y señales que ayudan a clasificar con mayor precisión las cuentas de adolescentes y así reducir riesgos.
Últimas Noticias
Investigadores de Google detectan a hackers rusos robando datos de usuarios de iPhone en Ucrania
Los ciberdelincuentes emplearon el malware Darksword para realizar sus ataques, en una campaña que evidencia la sofisticación y el alcance del espionaje digital en el conflicto armado
Por qué Meta desactiva el cifrado en los chats de Instagram y desde cuándo ya no estará disponible
A diferencia de WhatsApp, donde el cifrado de extremo a extremo está activado por defecto, en la red social los usuarios debían habilitar manualmente esta protección
Cómo es el sistema de computación que Nvidia quiere usar para construir centros de datos en el espacio
Con Vera Rubin Space-1, su nuevo módulo informático, la empresa busca llevar la computación de IA más allá de la Tierra
¿Mitad humano, mitad máquina? El nuevo robot que te convierte en centauro para cargar objetos pesados
A diferencia de los exoesqueletos convencionales, este sistema añade dos patas robóticas independientes que se conectan a la espalda de la persona
Construyen la primera batería cuántica del mundo: se carga más rápido cuanto más grande es
Los investigadores buscan combinar la velocidad de carga cuántica con la capacidad de almacenamiento de las baterías convencionales
