Google dice adiós a los deepfakes explícitos que afectaron actores como Taylor Swift

Uno de los fenómenos más preocupantes con el fortalecimiento de la inteligencia artificial es la generación de imágenes y videos en los que se retratan a personas en contextos explícitos y sin su consentimiento. Este tipo de contenidos se conocen como deepfakes y Google ha anunciado una serie de medidas para combatir este problema y proteger a las víctimas de este tipo de abuso digital.

Hace solo unas semanas, al buscar en la plataforma “deepfake nudes Jennifer Aniston” arrojaba múltiples resultados que pretendían contener imágenes explícitas de la actriz generadas por IA. Hoy en día, esos resultados ya no aparecen gracias a los nuevos ajustes, debido a la forma en la que la aplicación clasifica estos contenidos.

Emma Higham, jefa de producto de Google, explicó, a través del blog de la plataforma, que los nuevos cambios implementados este año han reducido la exposición a imágenes explícitas falsas en más de un 70% en consultas que buscan contenido sobre una persona específica.

Los cambios de Google para reducir los deepfake

Google ha facilitado durante años la solicitud de eliminación de imágenes explícitas no consensuadas. No obstante, las nuevas medidas buscan hacer este proceso aún más sencillo y eficaz. Las personas ahora pueden solicitar la eliminación de imágenes explícitas falsas y, una vez aceptada la solicitud, los sistemas de la aplicación también filtrarán todos los resultados explícitos similares sobre esa persona.

Además, si una imagen se elimina bajo estas políticas, los sistemas escanearán y eliminarán cualquier duplicado de esa imagen que se encuentre.

Pero la lucha contra los deepfakes no se detiene en la eliminación de contenido. Google también ha realizado mejoras en sus sistemas de clasificación de resultados de búsqueda y se están implementando actualizaciones en el ranking que reducirán el contenido explícito falso en muchas búsquedas.

Para consultas que específicamente buscan este tipo de contenido e incluyen nombres de personas, la aplicación buscará mostrar contenido no explícito de alta calidad, como artículos de noticias relevantes.

Los cambios realizados este año han reducido la exposición a resultados de imágenes explícitas en este tipo de consultas en más de un 70%. Con estas modificaciones, las personas pueden leer sobre el impacto que los deepfakes están teniendo en la sociedad, en lugar de ver páginas con imágenes falsas sin consentimiento.

Diferenciación entre contenido explícito real y falso

Uno de los mayores desafíos técnicos para los motores de búsqueda es distinguir entre contenido explícito real y consensuado, como escenas de desnudos de un actor en una película, y contenido explícito falso, como deepfakes que involucran a ese actor.

Generalmente, si un sitio tiene muchas páginas eliminadas de la búsqueda bajo las políticas de Google, esto es una señal fuerte de que no es un sitio de alta calidad, y se debe tener en cuenta al clasificar otras páginas de ese sitio.

Por lo tanto, se están degradando los sitios que han recibido un alto volumen de eliminaciones de imágenes explícitas falsas. Este enfoque ha funcionado bien para otros tipos de contenido dañino y las pruebas de Google muestran que será una forma de reducir el contenido explícito falso en los resultados de búsqueda.

A pesar de estas medidas, Google reconoce que las soluciones actuales no son perfectas. Los esfuerzos para combatir los deepfakes explícitos son un trabajo en progreso y la plataforma continúa desarrollando nuevas soluciones para ayudar a las personas afectadas por este tipo de contenido.

Además, dado que este desafío va más allá de los motores de búsqueda, la empresa sigue invirtiendo en asociaciones a nivel de la industria y en el compromiso con expertos para abordar el problema como sociedad.