Meta planea reducir la presencia de revisores de contenido externos e impulsar el uso de sistemas de IA avanzados

La compañía destacó que sus sistemas de inteligencia artificial detectan ya contenido en los idiomas que utiliza el 98% de los usuarios de internet, superando ampliamente la cobertura previa de 80 idiomas. Este avance en el alcance lingüístico forma parte de una serie de medidas que Meta implementará con el objetivo de fortalecer la moderación y revisión de contenido en sus plataformas, mediante algoritmos avanzados capaces de identificar fraudes, suplantaciones y actividades ilícitas. Según informó Meta a través de un comunicado replicado en medios internacionales, el despliegue de estos sistemas ha permitido duplicar la detección de infracciones y reducir de forma significativa la intervención humana y los errores asociados, en comparación con los equipos de revisión externos y manuales.

Tal como explicó Meta en su reporte institucional, la compañía lleva varios meses probando tecnologías de IA diseñadas para aplicar normas de contenido y detectar casos graves de incumplimiento de manera proactiva. De acuerdo con la información proporcionada por Meta, estos sistemas han logrado identificar y frenar diariamente 5.000 intentos de estafa que previamente no habrían sido detectados por ningún equipo de revisores humanos. Además, la implementación de la inteligencia artificial ha permitido una reducción superior al 80% en las denuncias de usuarios por suplantación de identidad en perfiles de celebridades y figuras públicas, así como la prevención de la creación de nuevas cuentas falsas dedicadas a este tipo de actividad.

El medio detalló que estas tecnologías avanzadas han permitido también la identificación del doble de contenido que viola las normas sobre incitación sexual dirigida a adultos, comparado con los métodos tradicionales de revisión por parte de empleados. Paralelamente, Meta reportó que la tasa de errores en la revisión y eliminación de contenido inapropiado ha disminuido en más del 60%, como resultado de la automatización de los procesos. Estas herramientas también ofrecen protección ante accesos no autorizados a cuentas personales, basándose en el análisis de ubicaciones sospechosas o modificaciones inusuales —como cambios de contraseña o actualizaciones en el perfil— para identificar posibles intrusiones.

En materia de seguridad frente a actividades fraudulentas, la IA de Meta ha conseguido detectar sitios web falsos que pretenden suplantar direcciones legítimas, lo cual ha derivado en una reducción del 7% en las visualizaciones de anuncios fraudulentos y otras infracciones graves en las plataformas administradas por la compañía. Además del incremento en la eficacia y rapidez de la detección, Meta subrayó el impacto positivo en la experiencia de usuario y en la protección de datos personales.

Según publicó Meta, en los próximos años la compañía avanzará hacia un modelo en que la inteligencia artificial asumirá una parte significativamente mayor de las tareas de moderación y vigilancia, permitiendo un “enfoque más inteligente” y reduciendo progresivamente la dependencia de proveedores externos. A pesar de este cambio, Meta afirmó que mantendrá un equipo humano de revisión de contenido, especialmente en funciones donde la supervisión personal resulta insustituible, pero espera que los sistemas automatizados se encarguen de operaciones repetitivas o áreas donde los ciberdelincuentes modifican continuamente sus estrategias, como ocurre en la venta de drogas ilícitas o las estafas digitales.

Meta también anunció que la integración de nuevas soluciones de IA no se limitará a la moderación de contenido. El jueves informó sobre el lanzamiento del asistente de soporte Meta AI para usuarios de Facebook e Instagram. Esta herramienta estará disponible las 24 horas y ofrecerá asistencia inmediata para incidencias vinculadas a cuentas personales, con un tiempo de respuesta inferior a cinco segundos, según consignó Meta en su comunicado.

La compañía consideró estos desarrollos un paso relevante en su estrategia para optimizar la protección, la integridad y el cumplimiento de normas en sus plataformas. Según reportó Meta, la finalidad es que la IA asuma las tareas donde la tecnología pueda superar al ojo humano, particularmente en el reconocimiento de patrones en grandes volúmenes de datos y el seguimiento automático de conductas ilícitas que evolucionan con rapidez. Meta aseguró que, aunque parte de la supervisión seguirá en manos de especialistas, el futuro inmediato estará marcado por una colaboración cada vez mayor entre los sistemas automatizados y los equipos internos.

En cuanto a la cobertura lingüística, Meta aclaró que sus sistemas IA ahora pueden operar en los idiomas principales utilizados globalmente en internet, lo que representa una ampliación en el alcance de la vigilancia automatizada, destinada a adaptarse a la diversidad y escala actual de la base de usuarios. El medio comunicó que, como parte de este cambio, la compañía también aspira a reforzar las capacidades y recursos de sus equipos internos, priorizando una estrategia combinada en la que la tecnología y la intervención humana se complementen.

Finalmente, Meta reafirmó su compromiso de perfeccionar sus mecanismos de protección y su intención de responder de manera ágil a los desafíos que presentan los delitos informáticos, la suplantación de identidad y las nuevas formas de contenido ilícito. El desarrollo de los sistemas de Inteligencia Artificial, según detalló la compañía, continuará orientándose a tareas que demandan procesamiento masivo y adaptabilidad, mientras se preserva la intervención humana para los casos que requieren un juicio contextual más complejo o específico.