Sistemas de Meta no logran detectar cientos de anuncios de abuso infantil generados por IA

Meta no consiguió frenar la propagación de más de 250 anuncios con material de abuso sexual infantil aparecidos en sus plataformas desde comienzos de agosto, según una investigación de la organización Tech Transparency Project (TTP) compartida con la revista WIRED en septiembre de 2026.

El hallazgo se produjo apenas semanas después de que la compañía eliminara unos 50 avisos similares y asegurara que había desplegado herramientas de inteligencia artificial para “detectar y bloquear mejor” este tipo de contenido.

A diferencia de los primeros 53 anuncios detectados, los investigadores de TTP lograron identificar en esta nueva tanda imágenes de niños reales, entre ellas una pieza que transformaba una fotografía oficial de un menor de una familia real europea en un video con una escena sexual explícita.

Los investigadores decidieron no revelar la identidad de la familia para proteger a la víctima y notificaron a las autoridades del país. WIRED confirmó que la imagen original provenía del sitio web oficial de la casa real.

Los anuncios acumularon miles de reproducciones antes de ser removidos

Desde fines del año pasado, Meta publicó más de 350 anuncios en video con contenido de abuso infantil, muchos de los cuales redirigían a aplicaciones de “desnudado” vinculadas a desarrolladores chinos. En varios casos, según los investigadores, la compañía tardó hasta una semana en revisar avisos ya denunciados a través de sus propias herramientas, lapso durante el cual acumularon cientos de visualizaciones adicionales.

Los anuncios seguían un patrón común: una fotografía inocua de una niña o adolescente —solo uno de los casos incluía a un varón— con un texto superpuesto que aseguraba que “no es solo una foto” y que “no hay restricciones” sobre lo que se puede hacer con la imagen. Al reproducirse, el rostro del menor se fusionaba con un video sexual explícito. Las piezas dirigían a los usuarios a descargar aplicaciones de intercambio de rostros mediante IA desde las tiendas de Apple y Google.

Según Katie Paul, directora de TTP, los investigadores lograron identificar a cuatro menores reales cuyas imágenes fueron utilizadas: tres adolescentes influencers de Estados Unidos, uno de ellos registrado como modelo de fotografía de stock bajo la etiqueta de “preadolescente”, y el miembro de la familia real europea. Todos los casos fueron reportados al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) de Estados Unidos.

Los anuncios alcanzaron a más de 29.000 cuentas en países de la Unión Europea y unas 7.000 en el Reino Unido, según datos de la biblioteca publicitaria de Meta. La cifra real de visualizaciones habría sido mayor: más de 250 anuncios circularon en Estados Unidos, 120 en Australia y 80 en India, donde la empresa no publica datos de rendimiento detallados.

Una portavoz de Meta, Tracy Clayton, afirmó que la compañía “no tolera aplicaciones de desnudado ni ningún tipo de explotación infantil, real o generada por IA”, y sostuvo que gran parte de los anuncios hallados por los investigadores ya habían sido retirados y que la mayoría tuvo menos de 200 impresiones, con ingresos publicitarios “menores a 5.000 dólares”.

La empresa atribuyó la dificultad de detección a que los videos combinaban contenido de adultos con fragmentos breves o difuminados de menores.

La presión regulatoria llevó a Meta a reforzar sus sistemas

El episodio se dio en paralelo a un acuerdo de hasta USD 18.000 millones que Meta alcanzó en agosto para cerrar una demanda de 29 estados de Estados Unidos vinculada a la protección de menores en sus redes, según informó TechCrunch. La compañía también apela una decisión judicial en Nuevo México que la obligaría a mejorar sus procesos de denuncia de material de abuso infantil e incorporar revisión humana en ese estado.

Legisladores y reguladores anunciaron investigaciones tras conocerse el informe. El senador Mark Warner envió una carta al director ejecutivo de Meta, Mark Zuckerberg, que hasta el momento no obtuvo respuesta. Las fiscalías generales de Michigan y Florida, así como el regulador australiano eSafety, confirmaron que examinan el caso.

En octubre, Meta anunció nuevas herramientas basadas en modelos de lenguaje capaces de analizar no solo el contenido de un anuncio sino también el destino al que dirige, en respuesta a una táctica que la empresa denominó “señalización”: avisos aparentemente inofensivos que conducen a sitios externos con material ilegal.

La compañía afirmó haber actuado sobre 33,2 millones de piezas de contenido de explotación sexual infantil en Facebook e Instagram durante el primer semestre de 2026, más del 97% detectadas por sus propios sistemas antes de recibir una denuncia. En India, la cifra ascendió a 5,3 millones de contenidos, con una tasa de detección proactiva superior al 98%.

Nuevas capas de verificación y un “agente de equipo rojo”

La empresa sumó barridos adicionales de inteligencia artificial para localizar material no detectado previamente, además de un “agente de equipo rojo” diseñado para poner a prueba sus propias defensas. También reforzó los mecanismos para identificar a usuarios que reabren cuentas tras haber sido expulsados por este tipo de violaciones. Un equipo que incluye exinvestigadores del FBI realiza, según la compañía, investigaciones manuales para desarticular redes de cuentas predatorias.

Meta no precisó una fecha para una próxima actualización pública sobre los resultados de estas herramientas, aunque indicó que continuará incorporando nuevas señales de detección a medida que identifique cambios en el comportamiento de las redes dedicadas a la explotación infantil.