¿Cansado de la basura generada por la IA? A los gigantes tecnológicos les está pasando lo mismo.

SAN FRANCISCO -- Lo peor de la basura generada por la inteligencia artificial ha saturado las búsquedas de Google con recetas de pizza con pegamento, listas de Amazon con biografías falsas y los muros de Facebook con imágenes del Jesús camarón.

Esta cantidad de basura digital ha inundado las plataformas tecnológicas, devaluando el contenido relevante y contaminando el ecosistema de la información, a medida que los chatbots y los generadores de videos siguen avanzando.

Ahora, Silicon Valley quiere deshacerse de la basura.

Spotify, una plataforma de transmisión de música, afirmó que el año pasado eliminó 75 millones de cargas masivas, canciones duplicadas y otras pistas "basura", una parte importante del total de su catálogo. LinkedIn dijo en julio que "la basura generada por la IA es una prioridad absoluta para todos nosotros" y desarrolló un botón para que los usuarios la denuncien. Investigadores de Google, la empresa matriz de YouTube, describieron cómo un servicio de videos eliminó 130.000 canales de contenido de baja calidad de su plataforma en un lapso de seis meses.

Las empresas tecnológicas están llevando a cabo una desintoxicación en todo internet del contenido basura generativo, abrumadas en muchos casos por ese mismo contenido basura que sus propias herramientas de IA hicieron posible en primer lugar. Las aplicaciones de mensajería móvil, los sitios de reseñas de restaurantes, los archivos académicos y los servicios de citas están eliminando o minimizando el contenido basura generado por la IA; muchos de ellos recurren a la misma tecnología para llevar a cabo la purga.

La gente se está cansando del impacto de la IA en el medio ambiente y de la presión que ejerce sobre los empleos y la salud mental. La basura generada por la IA es simplemente otra "herida infectada", afirmó Aidan Walker, creador de contenido e investigador que estudia las tendencias en línea para la Fundación Carnegie para la Paz Internacional, un centro de estudios sobre asuntos globales.

"Los usuarios cada vez se molestan más por esto", expresó. "La opinión pública ha cambiado de manera evidente y estas empresas finalmente están haciendo frente a dichos problemas".

La IA generativa puede producir imágenes, audio y videos cada vez más realistas, pero solo una parte se considera contenido basura. Las empresas tecnológicas se están enfocando principalmente en ese tipo de contenido sensacionalista de baja calidad que es fácil de crear, difundir, consumir y olvidar, como la moda rápida que desplaza a la alta costura o la baba rosa al filete.

Si no se controla, el pantano sintético en línea podría "desplazar la creatividad humana, corroer los valores culturales y desestabilizar el discurso público", escribieron investigadores europeos el año pasado.

La basura en internet (slop) se ha vuelto tan común que la editorial del diccionario Merriam-Webster eligió el término como la palabra del año en 2025. Deezer, un servicio francés de "streaming", dijo esta primavera que casi la mitad de las canciones que se actualizan a diario en su sistema son generadas artificialmente, muchas de ellas los usuarios nunca las escuchan. La IA genera más de un tercio de lo que se sube a Apple Music.

Adam Mosseri, director de Instagram, dijo a finales del año pasado que pronto "será más práctico" rastrear "contenidos reales que contenidos falsos". La observación se hizo poco después de que Meta, la empresa matriz de Instagram, lanzara una transmisión de video totalmente basada en IA, ridiculizada por muchos como un escaparate de contenido basura.

Muchas empresas de tecnología que ahora intentan gestionar el contenido de baja calidad generado por la IA son también las que lo hacen posible. En julio, Meta prometió apoyar un pacto europeo para que el contenido generado por la IA se pueda identificar mejor a través de la detección, el etiquetado y la clasificación. Ese mismo mes, la empresa también lanzó un generador de imágenes que automáticamente incluía cuentas públicas de Instagram como referencia para la herramienta. (Meta eliminó la función tras tres días de críticas.)

"El contenido basura generado por la IA es un arma de dos filos, ya que muchas de estas plataformas experimentaron un aumento en la participación gracias a él", dijo Paul Shovlin, experto en IA de la Universidad de Ohio. "Pero luego, llegó un punto en el que se convirtió en un lastre porque hay tanta basura que ahora es difícil para los usuarios encontrar el tipo de calidad que buscan".

Google, por ejemplo, ha apostado fuerte por la IA, vinculando su modelo Gemini a los servicios de correo electrónico, mapas, viajes y búsqueda. Más del 20 por ciento de los videos cortos iniciales que YouTube muestra a los nuevos usuarios son basura generada por la IA, según un experimento que realizó el año pasado Kapwing, un editor de videos en línea que funciona con IA.

Kapwing estimó que uno de los canales de contenido basura más populares de YouTube ganaba 4,25 millones de dólares al año. (Desde entonces, se suspendió de un programa de monetización de YouTube.) Neal Mohan, director ejecutivo de YouTube, escribió en un blog que "gestionar el contenido basura generado por la IA" era una prioridad absoluta este año.

Recientemente, investigadores de Google analizaron este desafío. En lugar de evaluar los videos de forma individual, se enfocaron en el ritmo de carga, las plantillas repetitivas y otros patrones que pudieran indicar un comportamiento abusivo coordinado. Encontraron 50.000 grupos de cuentas, que fueron eliminados. Sin embargo, a algunos expertos en medios digitales les preocupaba que este enfoque pudiera ir demasiado lejos y también penalizara a creadores de contenido legítimos que publican un gran volumen de material.

"Si bien la investigación académica ayuda a mejorar la comprensión de la industria, no refleja las múltiples capas de defensa que utilizamos para hacer cumplir nuestras políticas", afirmó YouTube en un comunicado. "Esto incluye medidas de protección sólidas para garantizar que los creadores bien intencionados que utilizan herramientas de IA no se vean afectados".

Otras empresas están recurriendo a distintas estrategias para abordar el contenido basura generado por la IA, incluyendo la movilización de sus propios usuarios para ayudar a identificarlo. En octubre, Pinterest actualizó su sistema para permitir a los usuarios limitar la cantidad de publicaciones generadas por IA que ven. TikTok dijo que estaba probando una función en Estados Unidos que permite a los usuarios aumentar o disminuir la cantidad de contenido generado por IA que consumen. (La empresa también dijo que había marcado automáticamente más de 3 mil millones de videos generados por IA.) TikTok eliminó más de 377.000 videos en los primeros tres meses del año por violar las políticas de IA.

Según Pangram, una empresa emergente especializada en la detección de IA, la IA se utilizó para crear casi la mitad de las publicaciones con más de 50 palabras en X, la plataforma de redes sociales de Elon Musk. Para hacer frente a "una enorme cantidad de contenido basura generado por IA y respuestas no deseadas", la plataforma de redes sociales prohibió este año las aplicaciones que en la práctica alientan a los bots a publicar a cambio de pago por el contenido, escribió Nikita Bier, que fungió como jefa de producto de X hasta este mes.

Chris Best, director ejecutivo de Substack, escribió el mes pasado que "cada vez es más difícil distinguir qué es real en Internet" y que "las plataformas que premian lo falso provocarán una carrera hacia el abismo". La plataforma de boletines anunció su propia herramienta de detección de IA para los usuarios, impulsada por Pangram, que está diseñada para analizar respuestas, comentarios y publicaciones de más de 100 palabras y determinar si se escribieron a mano o con ayuda de la IA.

Algunos autores de boletines se quejaron de que la herramienta confundía las publicaciones escritas por humanos con las generadas por IA; no tomaba en cuenta el posible papel de la IA en el proceso creativo y ejercía una presión indebida sobre los autores para que defendieran su reputación frente a una métrica opaca.

Esta primavera, Camille François y casi dos docenas de otros expertos en IA se reunieron en un evento de Slop Salon en Menlo Park, California, donde discutieron la dificultad de clasificar, y por lo tanto de gestionar, el contenido basura generado por la IA.

"La mezcolanza de tácticas es un síntoma de que nos estamos enfrentando a un problema sistémico en nuestro entorno informativo y no solo a una mala categoría de contenido llamada 'slop' que podamos simplemente definir y eliminar", dijo en una entrevista François, estudiante de tecnologías digitales dañinas en la Universidad de Columbia. "Al fin y al cabo, la IA es una herramienta de creatividad y es multifacética; las plataformas que manejen esto de manera deficiente verán cómo la gente se va y busca otros lugares".

Spotify, LinkedIn y otras empresas están tratando de salir de un vertedero digital lleno de contenido de baja calidad creado con inteligencia artificial. (Lia Sued C./The New York Times)

El campus de Google en Mountain View, California, el 22 de julio de 2025. (Kelsey McClellan/The New York Times)