En el reciente informe del Centro Nacional para Niños Desaparecidos y Explotados de Estados Unidos (NCMEC, por sus siglas en inglés), se reveló que la explotación sexual infantil en línea está experimentando un alarmante aumento, adoptando formas novedosas mediante el uso de imágenes y videos generados por inteligencia artificial.
Durante el año 2023, se reportaron más de 36,2 millones de casos de abuso a menores en Internet, lo que representa un incremento del 12% en comparación con el año anterior.
Este crecimiento incluye una preocupante tendencia: la creación de material de abuso infantil utilizando inteligencia artificial, que ahora se monitorea como una nueva categoría desde el 2023, registrando 4.700 informes de imágenes o videos generados por IA que explotan sexualmente a menores.
Por qué los deepfakes agravan el problema
Uno de los aspectos más perturbadores destacados en el reporte es el uso de la inteligencia artificial para fabricar deepfakes, imágenes o videos sexualmente explícitos de niños, basados en fotografías reales, o para generar contenido que presenta a niños computarizados en actos sexuales gráficos.
“Para los niños vistos en estos deepfakes y sus familias, es devastador”, destaca el reporte del NCMEC, señalando además cómo este tipo de contenido dificulta la identificación de verdaderas víctimas de abuso infantil. Además, tal explotación financiera y emocional puede extenderse ante la falta de acciones contundentes.
El volumen de reportes que implican material de abuso sexual infantil (CSAM, por sus siglas en inglés) recibidos solo durante el 2023 ascendió a más de 35,9 millones, de los cuales más del 90% fue subido desde fuera de los Estados Unidos.
Se señaló también que aproximadamente 1,1 millones de estos reportes fueron referidos a la policía de EE.UU., destacando que 63.892 de estos reportes eran urgentes o involucraban a un niño en peligro inminente. Este año, 245 empresas han reportado al CyberTipline del NCMEC, de un total de 1.600 compañías registradas mundialmente en el programa de reporte de ciberdenuncias.
Cabe señalar que los proveedores de servicios de Internet con base en EE.UU., incluidas las plataformas de redes sociales, están legalmente obligados a reportar instancias de CSAM al CyberTipline cuando tienen conocimiento de ellas.
Qué pasa con el chantaje sexual financiero
El NCMEC expresó su preocupación no solo por la alarmante tendencia en el aumento de material generado por IA, sino también por el uso del chantaje sexual financiero. En este esquema, un depredador en línea engaña a un niño para que envíe imágenes o videos desnudos y luego exige dinero.
Este año, se han identificado algunos casos en los que las familias y los niños fueron extorsionados económicamente por delincuentes que utilizaban CSAM creado con IA.
Sin embargo, el NCMEC y las fuerzas del orden enfrentan desafíos para actuar basándose en algunos reportes, incluidos aquellos generados por algoritmos de moderación de contenido, sin intervención humana. Esto ha evidenciado una desconexión entre el volumen de informes presentados y la calidad de estos, lo que en ocasiones impide que la policía investigue potenciales abusos infantiles generados por algoritmos de moderación de contenido.
“La relativamente baja cantidad de empresas que informan y la pobre calidad de muchos reportes subrayan la continua necesidad de acciones por parte del Congreso y la comunidad tecnológica global”, señala el informe del NCMEC.
En el contexto legal de Estados Unidos, la creación de material que muestre menores de edad participando en conductas sexualmente explícitas constituye un delito federal, según ha informado un fiscal de Massachusetts del Departamento de Justicia, quien prefirió mantenerse en el anonimato.
Sin embargo, la creciente preocupación por la explotación infantil en línea, exacerbada por la complicidad de la inteligencia artificial, pone de relieve la urgencia de abordar esta problemática con medidas concretas y efectivas.
Últimas Noticias
Llamadas internacionales de WhatsApp: por qué las recibes y cómo evitarlas
Si alguien que no conoces, especialmente del extranjero, te envía enlaces por mensaje directo o insiste en llamarte varias veces, es muy probable que sea un ciberdelincuente que intenta obtener tu información personal
Apple revela las mejores aplicaciones de 2025 para iPhone, iPad y Mac
La edición 2025 de los App Store Awards volvió a poner el foco en herramientas impulsadas por inteligencia artificial
Los 10 animes más populares para ver en maratón este fin de semana
Estas son las series que han ganado popularidad en la plataforma de streaming que apuesta fuertemente por las producciones japonesas
La advertencia de Geoffrey Hinton: “El verdadero peligro es que la IA desarrolle metas propias y se vuelva incontrolable”
El pionero británico detalla por qué urge investigar mecanismos para evitar que los sistemas inteligentes decidan prescindir de las personas
Apple ya tendría reemplazo para Tim Cook: se trataría del padre del iPod
Tony Fadell, exjefe de hardware de Apple, llegó a la compañía en 2001 para liderar el desarrollo de un reproductor digital con disco duro y una tienda de música en línea
