Google Fotos incorporará herramientas para identificar deepfakes y ediciones con IA

En un contexto donde los deepfakes y las imágenes retocadas con inteligencia artificial se vuelven cada vez más comunes, Google trabaja en una nueva función para su aplicación Google Fotos que permitirá identificar si una imagen ha sido modificada digitalmente o permanece en su estado original.

La herramienta, denominada “¿Cómo se hizo esta foto?”, busca ofrecer a los usuarios información clara y verificable sobre el origen y las modificaciones de sus archivos multimedia.

De acuerdo con el portal Android Authority, la función aún se encuentra en desarrollo, pero ya ha sido detectada en el código de la última actualización de la app. Aunque Google no ha anunciado una fecha oficial de lanzamiento, se espera que llegue en una fase experimental antes de su despliegue general.

Cómo funcionará la verificación de imágenes

La nueva herramienta se apoyará en un sistema denominado Content Credentials, que actúa como un registro inmutable de todas las modificaciones realizadas a una fotografía o video. Este mecanismo añadirá etiquetas visibles que indicarán si el contenido fue editado con inteligencia artificial o si se trata de una captura original sin alteraciones.

Entre las etiquetas posibles estarán:

• “Editada con herramientas de IA”, para señalar modificaciones generadas mediante modelos de inteligencia artificial.
• “Foto tomada con una cámara, sin retoques”, para contenido original.
• Indicaciones específicas cuando la imagen combine elementos reales con partes generadas artificialmente.

Además, el sistema podrá detectar intentos de manipular el historial de edición. En esos casos, mostrará una alerta para advertir que la información podría no ser confiable.

Para acceder a esta información, el usuario solo tendrá que deslizar hacia arriba sobre cualquier imagen en Google Fotos. El procedimiento será similar al que actualmente se usa para consultar metadatos como ubicación, fecha y dispositivo de captura, pero incluirá datos adicionales sobre autenticidad y edición.

Beneficios para usuarios y creadores de contenido

La función “¿Cómo se hizo esta foto?” se perfila como una herramienta especialmente útil para periodistas, fotógrafos y creadores de contenido que necesitan verificar la autenticidad del material visual con el que trabajan.

En un escenario donde aplicaciones como Magic Eraser o editores de imágenes basados en IA son cada vez más accesibles, la línea entre contenido original y manipulado se vuelve más difícil de distinguir.

Google Fotos ya ofrecía opciones para organizar, editar y almacenar contenido, pero la incorporación de esta verificación añade un valor adicional centrado en la confianza y la transparencia. Este cambio también coincide con una renovación de la interfaz de la aplicación, orientada a un diseño más limpio y funcional, así como con una actualización relevante del editor de video, que llevaba tiempo sin recibir mejoras significativas.

Un paso frente a los desafíos digitales

La proliferación de deepfakes y contenido sintético ha planteado desafíos importantes para la verificación de información en la era digital. Estos archivos, generados o modificados mediante inteligencia artificial, pueden emplearse con fines creativos, pero también con propósitos maliciosos, como desinformación o suplantación de identidad.

Con la implementación de Content Credentials en Google Fotos, la compañía busca aportar una solución práctica a este problema. El registro inmutable de cambios no solo documenta las ediciones, sino que también ofrece un marco para identificar intentos de borrar o alterar dicho historial.

Aunque inicialmente estará disponible de forma limitada, la adopción de esta función podría sentar un precedente en la industria tecnológica, alentando a otras plataformas de almacenamiento y edición a incluir mecanismos similares de transparencia.