YouTube extiende su herramienta de detección de 'deepfakes' para políticos y periodistas

Una persona inscrita en el programa de detección de 'deepfakes' en YouTube que detecta una posible manipulación de su imagen en un video puede solicitar que el contenido sea retirado de la plataforma. Esta solicitud requiere aprobarse por parte de YouTube, conforme a las políticas de privacidad de la empresa, y busca brindar un mecanismo formal para la protección de la identidad ante casos de suplantación con inteligencia artificial. Esta novedad forma parte de una fase piloto lanzada por la compañía para funcionarios gubernamentales, políticos y profesionales de los medios de comunicación, según informó el medio.

De acuerdo con la información publicada por YouTube en su blog oficial y consignada por la prensa, esta herramienta opera como una extensión del programa iniciado en octubre del año pasado. En aquel momento, la funcionalidad se encontraba disponible únicamente para creadores de contenido, quienes tenían la posibilidad de supervisar el uso de su imagen y voz en videos generados o modificados mediante inteligencia artificial sin consentimiento. Ahora, la prueba piloto permite también la incorporación de representantes públicos y periodistas al programa, ampliando así el alcance de la medida, reportó el medio.

El sistema desarrollado por la plataforma se basa en una metodología similar a Content ID, el mecanismo que usa YouTube para la identificación y protección de vídeos con derechos de autor. El enfoque en el caso de los 'deepfakes' reside en analizar imágenes para detectar rostros de personas previamente registradas en el programa. Cuando la tecnología identifica alguna coincidencia, la persona afectada tiene la opción de iniciar una petición formal para que ese video sea eliminado, aunque la decisión definitiva recae en el equipo de YouTube, que evalúa cada caso a partir del cumplimiento o no de las normas internas de privacidad, según explicó la compañía.

A pesar de la utilidad que ofrece la herramienta para identificar posibles suplantaciones no autorizadas, su uso no implica necesariamente la eliminación automática del material señalado, detalló el medio. La plataforma explicó en su comunicado que protege la libertad de expresión y mantiene en línea contenidos que cumplen con reglas específicas sobre parodia y sátira, incluso cuando estos videos incluyen críticas dirigidas a líderes mundiales o personas de alto perfil público. Esto significa que, en el caso de figuras públicas, la presencia de videos manipulados podría estar permitida bajo determinadas circunstancias, siempre que no infrinjan las normas de privacidad.

La inscripción al programa exige que los interesados, ya sean políticos o periodistas, pasen por un proceso de verificación de identidad. Para ello, deben proporcionar un video propio y una identificación oficial, datos que la empresa usará únicamente para permitir el acceso a la herramienta y no para alimentar modelos de inteligencia artificial generativa de Google, informó la propia compañía en su comunicado.

Desde la introducción de la función para creadores el año pasado, YouTube ha buscado dar respuesta al aumento en la circulación de videos manipulados mediante inteligencia artificial que usan la imagen o la voz de personas sin su consentimiento, lo que puede contribuir a la difusión de desinformación o suplantación de identidades. El sistema se implementa en un contexto de preocupación global por el impacto de los 'deepfakes' en la integridad de personas públicas y el funcionamiento del debate público, según ha reportado la compañía en anteriores ocasiones.

La nueva fase piloto busca ampliar la protección hacia actores claves en procesos democráticos y periodísticos, asegurando que quienes desempeñan roles de cara a la ciudadanía puedan controlar el uso de su imagen digital en el entorno audiovisual, de acuerdo con la información difundida por el medio. Todo el proceso de verificación e inscripción ha sido diseñado para evitar el uso indebido de los datos personales y restringir su empleo a fines de autenticación, diferenciando este procedimiento de aquellas prácticas orientadas a la recolección de datos para la generación de modelos de IA, comunicó la empresa.

El acceso a la herramienta como parte del programa piloto está reservado exclusivamente a quienes validen formalmente su identidad y forma parte de las medidas de YouTube para responder a los desafíos planteados por el desarrollo acelerado de la inteligencia artificial generativa. La plataforma ha reiterado mediante varios comunicados su compromiso, según detalló el medio, de mantener un equilibrio entre la protección de los derechos personales y la defensa de la libertad de expresión en línea.