Google sacó lo que todos esperábamos: una herramienta para saber si una foto, video o audio fue creado con IA

Google abrió al público una nueva herramienta web que permite comprobar si una imagen, un video o un archivo de audio fue generado mediante inteligencia artificial. El servicio utiliza una tecnología de la compañía llamada SynthID para buscar marcas de agua digitales que permiten identificar contenido creado con determinados modelos de IA.

La herramienta, que inicialmente estuvo disponible para un grupo limitado de periodistas, profesionales de medios e investigadores, ahora puede ser utilizada por cualquier persona.

La propuesta busca ofrecer una forma sencilla de verificar el origen de contenidos que circulan por internet en un momento en que cada vez resulta más difícil distinguir entre material real y contenido generado artificialmente.

Para utilizarla, el usuario debe cargar un archivo multimedia compatible en el sitio de verificación. Google analiza el contenido y determina si encuentra señales asociadas con SynthID.

Qué archivos puede analizar la herramienta

El servicio de Google admite una amplia variedad de formatos. En el caso de las imágenes, acepta archivos JPG, JPEG, PNG, BMP, WEBP, AVIF, HEIC, HEIF, TIFF, TIF y GIF.

Para los videos, permite cargar archivos MP4, MOV y WEBM, mientras que los formatos compatibles para audio incluyen WAV, MP3, OGG, FLAC, AAC y M4A.

La tecnología utilizada es SynthID, un sistema que Google presentó en 2023 y que funciona mediante la incorporación de una marca de agua digital en contenidos creados con inteligencia artificial. Estas marcas no necesariamente son visibles para las personas, pero pueden ser detectadas posteriormente mediante herramientas diseñadas para identificarlas.

Google utiliza SynthID en modelos como Nano Banana, Veo y Lyria, además de productos con funciones de generación de contenido como Gemini, Flow, ProducerAI y Vids.

Esto significa que la herramienta no determina simplemente si una imagen “parece” haber sido creada por inteligencia artificial. En cambio, busca señales específicas asociadas con los sistemas compatibles con SynthID.

La tecnología ya se utiliza en otras plataformas

SynthID no está limitado a los productos de Google. OpenAI, Nvidia y Kakao también son compatibles con esta tecnología, mientras que OpenAI cuenta además con su propio sitio para comprobar contenido generado por sus modelos.

Google también incorporó la verificación de SynthID dentro de Gemini y en Google Chrome. Según la compañía, actualmente se realizan alrededor de un millón de solicitudes diarias para comprobar contenido mediante este sistema.

La expansión de estas herramientas responde al crecimiento de las imágenes, videos y audios creados mediante inteligencia artificial. El contenido sintético puede utilizarse para entretenimiento y creación digital, pero también plantea problemas cuando se presenta como material auténtico.

Una fotografía falsa puede utilizarse para difundir información engañosa, mientras que una grabación de voz generada artificialmente puede hacerse pasar por una persona real.

La verificación de IA todavía tiene límites

Aunque las marcas de agua digitales representan una herramienta para identificar contenido generado con IA, no son un mecanismo infalible. La propia tecnología depende de que el contenido haya sido creado mediante un sistema que incorpore la marca correspondiente.

Microsoft y Meta también desarrollaron sus propios estándares para marcar y verificar contenido generado por inteligencia artificial. Sin embargo, estos sistemas pueden tener dificultades para reconocer material producido por modelos de otras compañías.

Por esta razón, una respuesta negativa de una herramienta de detección no significa necesariamente que un contenido sea auténtico. Del mismo modo, una marca identificada puede servir como una señal sobre su origen, pero no sustituye otras formas de comprobación.