YouTube habilita su herramienta de detección de deepfakes para todos los usuarios adultos

YouTube habilitó su sistema de detección de deepfakes impulsado por inteligencia artificial a cualquier usuario mayor de 18 años, lo que representa un cambio relevante en la lucha contra los contenidos sintéticos en la plataforma. La herramienta, antes reservada a creadores y figuras públicas, ya se encuentra disponible para la base completa de adultos registrados en el sitio propiedad de Google.

La función permite que cada usuario suba un escaneo facial tipo selfie a través de la interfaz de YouTube. Tras ese paso, el sistema de inteligencia artificial escanea todos los videos cargados en la plataforma y busca coincidencias no autorizadas de la imagen facial aportada.

Cuando detecta un video que utiliza la apariencia del usuario sin permiso, emite una alerta directa. El usuario puede revisar el contenido marcado y solicitar su eliminación si se confirma que se trata de un deepfake sin consentimiento.

YouTube indicó que el número de solicitudes de eliminación recibidas en las fases previas fue “muy reducido” desde el inicio de las pruebas. De acuerdo con la compañía, estos datos sugieren que los deepfakes dañinos detectados siguen siendo una fracción mínima en relación al volumen total de videos subidos diariamente.

El funcionamiento de la nueva función

El despliegue de la función siguió un proceso progresivo. En una primera etapa, YouTube la probó con creadores de contenido, quienes fueron los primeros afectados por la proliferación de videos sintéticos. Posteriormente, el acceso se extendió a funcionarios públicos, políticos y periodistas, grupos considerados de alto riesgo frente a la manipulación mediática y campañas de desinformación política.

Esta estrategia permitió a YouTube afinar los algoritmos de reconocimiento facial y ajustar el sistema de alertas antes de abrir la herramienta a todos los adultos. Ahora, cualquier usuario mayor de edad puede activar la función para proteger su identidad digital.

El auge de los deepfakes y la respuesta de la industria

La decisión de YouTube ocurre en un contexto donde la tecnología de deepfakes se ha vuelto accesible para el público general. Actualmente, existen aplicaciones capaces de generar videos con rostros falsos de apariencia creíble en cuestión de minutos. La preocupación por la posible utilización de estos videos para fraudes, suplantación de identidad o desinformación política llevó a varias plataformas digitales a experimentar con mecanismos de control.

Mientras Meta ha probado el etiquetado de deepfakes en redes como Facebook e Instagram, ninguna otra plataforma ha implementado un sistema de detección y reporte individual tan amplio como el de YouTube. El enfoque marca una diferencia: pone en manos de los usuarios la detección y la gestión de su propia imagen digital, en vez de confiar exclusivamente en sistemas automatizados.

Un sistema reactivo y voluntario

La herramienta de YouTube es opcional y depende de la acción proactiva de los usuarios. Cada persona debe conocer la existencia de la función, realizar el proceso de escaneo facial, revisar los avisos y solicitar la retirada de contenidos si detecta un uso indebido. No se trata de un sistema que elimina automáticamente los videos, sino de un mecanismo de aviso y petición.

Este modelo refleja las dudas de la industria tecnológica sobre cómo abordar la gestión de los deepfakes. Plataformas como YouTube buscan equilibrar la protección contra abusos y la libertad de expresión, evitando decisiones editoriales unilaterales sobre qué constituye un contenido sintético dañino.

Alcances y desafíos

El bajo número de solicitudes de eliminación registrado hasta el momento abre interrogantes sobre la verdadera magnitud del problema o la eficacia de la herramienta. Podría indicar que la mayoría de los deepfakes detectados no generan daño, que todavía son raros en comparación con la cantidad de videos publicados o que muchas personas desconocen haber sido víctimas de este tipo de manipulación.

La compañía anunció que continuará monitoreando el uso de la función y evaluando su impacto a medida que más usuarios la activen. El despliegue masivo de este sistema convierte a YouTube en el primer gran servicio digital en ofrecer una herramienta de protección contra deepfakes a escala global y bajo control directo de los propios usuarios.