Amazon detectó y denunció el año pasado una base de datos de entrenamiento con material de abuso sexual infantil

En 2025, el National Center for Missing and Exploited Children (NCMEC) recibió más de un millón de reportes sobre material de abuso sexual infantil, según consignó Bloomberg, siendo Amazon responsable de la mayoría de estos informes. Uno de estos casos implicó la detección, denuncia y eliminación por parte de Amazon de contenido ilegal en una base de datos que planeaba utilizar para entrenar sistemas de inteligencia artificial, tal como detalló el medio citado.

El material ilícito apareció en un conjunto de datos obtenidos de fuentes abiertas en internet, sobre el cual Amazon llevó a cabo una revisión antes de emplearlo en el desarrollo de sus modelos avanzados de inteligencia artificial. Según lo publicado por Bloomberg, la empresa detectó fotografías y videos que constituían material de abuso sexual infantil y notificó al NCMEC, la institución estadounidense encargada de centralizar las denuncias de esta índole. La investigación y denuncia de Amazon ocurrieron en 2024, en el marco de un aumento significativo de casos vinculados al uso de grandes repositorios de datos para entrenar inteligencia artificial.

El portavoz de Amazon, en declaraciones a Bloomberg, explicó: “Adoptamos un enfoque deliberadamente cauteloso al escanear los datos de capacitación del modelo básico, incluidos los datos de la web pública, para identificar y eliminar [material de abuso sexual infantil] conocido y proteger a nuestros clientes”. El vocero indicó que el contenido inapropiado fue identificado y descartado antes de que llegara a ser utilizado en el entrenamiento de los modelos de IA desarrollados por la empresa.

En el informe de Bloomberg, se señala que Amazon figura entre las principales compañías tecnológicas dedicadas a la inteligencia artificial, actividad que requiere el acceso y procesamiento de volúmenes masivos de información. Esta necesidad impulsa a la empresa a emplear grandes bases de datos extraídas de la web pública, lo que incrementa el riesgo de encontrar materiales ilícitos entre los datos recolectados. Ante la magnitud del problema —calificado a nivel global—, la compañía tomó la medida de notificar a las autoridades pertinentes y fortalecer los protocolos de escrutinio.

El número de reportes de material de abuso sexual infantil relacionados con inteligencia artificial mostró un incremento considerable: en 2023 sumaron 4.700, en 2024 ascendieron a 67.000, y en 2025 superaron el millón, conforme lo detalla Bloomberg. Sin embargo, el medio recalca que estos casos relacionados con la IA constituyen solo una fracción de los datos procesados por el NCMEC, donde la mayor parte de las alertas corresponde al intercambio y almacenamiento de material ilegal a través de servicios de mensajería, redes sociales y plataformas en la nube.

Bloomberg subraya que, al analizar los reportes presentados por Amazon, el portavoz de la empresa aclaró que ninguno incluía contenido generado por inteligencia artificial, sino que consistían exclusivamente en material preexistente identificado como ilícito en los datos de entrenamiento. Estos informes pueden abarcar desde fotografías y videos hasta conversaciones sexualmente explícitas mantenidas con chatbots, aunque hasta la fecha no se detectó en Amazon evidencia de que tales contenidos hubieran sido creados por sistemas de IA.

La tendencia de crecimiento en los reportes relacionados con la inteligencia artificial refleja un desafío emergente para la industria tecnológica. Con el avance de los modelos de IA y el aumento en el uso de datos provenientes de internet, los proveedores de tecnología enfrentan la presión de implementar controles rigurosos que permitan la detección temprana y el reporte inmediato de contenidos ilegales, minimizando así el riesgo de exposición y uso secundario en los sistemas inteligentes en desarrollo.

Bloomberg destaca el papel que desempeñan grandes tecnológicas como Amazon al denunciar estos incidentes, lo que permite a las autoridades y a organizaciones como el NCMEC identificar y abordar los riesgos asociados. La colaboración entre empresas privadas, agencias de supervisión y organismos de protección infantil surge como una respuesta ante el uso indebido de datos en procesos de inteligencia artificial, añadiendo capas adicionales de verificación y resguardo.

La situación observada por Amazon sucede en un contexto donde los sistemas de IA requieren un acceso cada vez mayor a contenido digital masivo, extraído de entornos poco regulados y de difícil monitoreo, como la web pública. Según Bloomberg, esta práctica, extendida en el sector, pone de manifiesto la necesidad de reforzar los mecanismos de control interno y alertar sobre la exposición de menores en plataformas digitales ampliamente utilizadas para entrenar tecnología avanzada.

El reporte publicado por Bloomberg concluye que el fenómeno —aunque en aumento— permanece acotado en relación con el total de reportes recibidos en instancias como el NCMEC, donde la mayoría de los casos continúa vinculada a canales tradicionales de circulación de material ilegal. No obstante, la aparición de este tipo de incidentes en los repositorios de datos de entrenamiento para IA motiva a empresas como Amazon a reorganizar sus estrategias de prevención, escaneo y denuncia, adoptando medidas más estrictas para evitar que el contenido sensible se utilice en la generación o entrenamiento de tecnologías inteligentes.