YouTube frena las suplantaciones de famosos y deportistas en videos con IA, desde 2025

YouTube ha anunciado un nuevo paso en la lucha contra el uso indebido de inteligencia artificial en su plataforma, mediante el desarrollo de herramientas avanzadas que permitirán identificar y gestionar contenido generado por IA que utilice la imagen de creadores de contenido, celebridades y figuras públicas.

Esta tecnología estará disponible en 2025, inicialmente en colaboración con la Agencia de Artistas Creativos (CAA), como parte de un plan piloto enfocado en proteger los derechos de imagen y la privacidad de sus usuarios.

El proyecto incluye la implementación de controles para que celebridades y atletas puedan detectar material que emplee sus rostros, voces u otras características de manera no autorizada. Estas herramientas, que serán probadas con figuras públicas antes de extenderse a creadores destacados de YouTube, permitirán a los afectados presentar solicitudes de eliminación de contenido generado por IA.

YouTube ya había adelantado durante el mes de septiembre planes para gestionar representaciones creadas con IA, incluyendo imitaciones de voces de artistas y creadores. Este anuncio refuerza el compromiso de la plataforma con la protección de la identidad digital en un entorno cada vez más impactado por los avances tecnológicos.

El rol de CAA y su tecnología de monitoreo

CAA, que lanzó la herramienta CAAVault en el 2023, jugará un papel clave en esta iniciativa. CAAVault permite escanear y almacenar imágenes digitales de sus clientes, incluyendo rostros, cuerpos y voces, lo que facilita la identificación de contenido manipulado. Esta asociación representa un esfuerzo coordinado entre la industria tecnológica y la del entretenimiento para enfrentar los desafíos que plantea la IA en términos de privacidad y derechos de imagen.

Además, YouTube está desarrollando una herramienta denominada “identificación de canto sintético”, diseñada para detectar contenido que utiliza inteligencia artificial para replicar las voces de canto de los creadores. Las discográficas ya pueden solicitar la eliminación de material no autorizado bajo estas características, y la compañía ha exigido a los creadores etiquetar videos que contengan contenido generado por IA desde principios de este año.

Implicaciones de la tecnología y los desafíos legales

Uno de los principales retos que enfrenta YouTube es equilibrar la privacidad y los derechos de imagen de las personas con la libertad de expresión y la naturaleza satírica o paródica de ciertos contenidos. Según las políticas actuales, las solicitudes de eliminación de material generado por IA se evalúan en función de varios factores, como la identificación explícita del contenido como sintético, el nivel de precisión con que representa a una persona y su relevancia como figura pública.

El interés público es otro elemento clave. Por ejemplo, el contenido que usa IA para representar a figuras públicas en contextos políticos o comerciales puede tener un impacto significativo en la opinión pública, especialmente en periodos electorales, lo que podría derivar en una regulación más estricta de este tipo de material.

Un paso hacia la IA responsable

Este desarrollo forma parte del compromiso más amplio de YouTube con la inteligencia artificial responsable. Al integrar estas herramientas y políticas, la plataforma busca garantizar un entorno más seguro para sus usuarios, donde la innovación tecnológica no sea utilizada como un arma para vulnerar derechos.

Con estas iniciativas, YouTube no solo responde a la creciente preocupación por el uso indebido de la IA, sino que también sienta un precedente para otras plataformas que enfrentan desafíos similares en un ecosistema digital en rápida evolución.

YouTube ha lanzado el ‘código parental’, una herramienta para Smart TV que permite a los padres proteger el acceso a cuentas normales o de adultos mediante un PIN. Esto asegura un entorno seguro para menores y evita que usen cuentas no adecuadas. Al eliminar el código, el televisor queda sin restricciones, permitiendo el acceso a cuentas de adultos y la eliminación de perfiles.

YouTube también promueve su app YouTube Kids, diseñada desde 2015 para ofrecer contenido seguro y educativo para niños, con opciones de configuración parental y perfiles personalizados, disponibles en dispositivos móviles, Smart TV o navegadores web.