Google refuerza la seguridad infantil en YouTube con inversión en animación de IA

Google ha dado un paso estratégico para mejorar el contenido dirigido a niños en YouTube, invirtiendo un millón de dólares en Animaj Studio, un estudio especializado en animación generada por inteligencia artificial.

La iniciativa, impulsada por el fondo AI Futures, busca elevar la calidad de los videos infantiles en la plataforma y hacer frente a la preocupación creciente sobre la proliferación de material sin valor educativo ni control de calidad, conocido como “contenido basura de IA”.

Animaj y el objetivo de mejorar el contenido infantil en YouTube

Animaj, cofundada en 2022 por Gregory Dray y Sixte de Vauplane, se posiciona como una de las pocas empresas capaces de utilizar la inteligencia artificial de manera efectiva en el sector de los medios infantiles.

En el último año, sus canales superaron los 22.000 millones de visualizaciones, lo que atrajo el interés de Google no solo para financiar el proyecto, sino también para ofrecer acceso anticipado a las versiones más avanzadas de sus modelos de IA, como Veo, Gemini e Imagen.

El respaldo de Google incluye la colaboración directa de equipos como DeepMind y Google Labs para ayudar a Animaj a adaptar y escalar sus herramientas de IA.

Jonathan Silber, director del Fondo de Futuro de IA de Google, definió a Animaj como “un verdadero modelo para el futuro” del entretenimiento familiar, subrayando que “acertar con esto para la próxima generación es una prioridad absoluta”.

El desafío del contenido basura de IA en YouTube Kids

La popularidad de YouTube y YouTube Kids entre los más pequeños ha provocado un auge en la producción de videos generados por IA para este público.

Sin embargo, padres y expertos en desarrollo infantil advierten sobre los riesgos de exponer a los niños a videos sin valor educativo, que explotan la atención de los espectadores jóvenes sin aportar contenido significativo.

Vauplane, cofundador de Animaj, explica: “Google conoce el problema y la problemática de la IA deficiente que está ocurriendo actualmente en YouTube. Saben que, en este momento, no hay muchos actores en la industria de los medios infantiles que hayan demostrado su capacidad para usar la IA de manera efectiva. Creo que somos de los pocos”.

El director ejecutivo de YouTube, Neal Mohan, resaltó en enero que “gestionar los errores de la IA” y “garantizar que YouTube siga siendo un lugar donde la gente se sienta bien pasando su tiempo” son prioridades clave para la plataforma en 2026.

Herramientas de detección y protección frente a la IA

En paralelo al impulso de contenido de mayor calidad, Google ha ampliado el acceso a su herramienta de detección de semejanza. Este sistema, antes limitado a creadores selectos, ahora permite a periodistas, líderes gubernamentales y candidatos políticos solicitar la revisión y potencial eliminación de videos que utilicen su imagen sin consentimiento en material generado por IA.

Aunque la eliminación no es automática, representa un avance en la protección de la identidad digital ante los riesgos que plantea la inteligencia artificial.

Animaj es la primera empresa de medios infantiles respaldada por el acelerador de IA de Google, situándose como competidora de gigantes como Moonbug Entertainment, responsable de éxitos como CoComelon y Blippi.

YouTube Kids: cómo funciona la plataforma de videos para niños

YouTube Kids es una plataforma diseñada específicamente para ofrecer contenido seguro y apropiado para niños. Su funcionamiento se basa en una combinación de algoritmos y revisión manual, que filtran videos y canales para garantizar que el material disponible sea adecuado para distintas edades.

Los padres pueden crear perfiles personalizados para cada hijo, estableciendo límites de tiempo de uso, restringiendo búsquedas y seleccionando categorías temáticas según el interés y la edad del menor.

Además, YouTube Kids permite a los adultos bloquear videos o canales que consideren inapropiados y reportar contenido que no cumpla con los estándares de la plataforma. La aplicación también ofrece la opción de aprobar manualmente cada video, asegurando un mayor control sobre lo que los niños pueden ver.

Todo esto se complementa con una interfaz simple e intuitiva, pensada para que los más pequeños puedan navegar y disfrutar de sus programas, canciones y dibujos animados favoritos con facilidad y seguridad.