Contenido generado por IA: Google apuesta por identificarlo de forma invisible mientras Europa exige etiquetarlo

La posibilidad de identificar un contenido generado por inteligencia artificial empieza a avanzar por caminos diferentes. Google permite retirar la marca de agua visible de las producciones realizadas con sus herramientas, pero conserva sistemas que permiten reconocer su origen de manera invisible; en Europa, en cambio, la identificación de determinados contenidos generados o manipulados con IA ya forma parte de las nuevas exigencias de transparencia.

El contraste expone un problema que será cada vez más difícil de resolver a simple vista: cómo saber si una imagen, un video, un audio o un texto fue producido por una persona o por una máquina. Delfina Arambillet, periodista especializada en inteligencia artificial y nuevas tecnologías, analizó este escenario en Infobae a la Tarde y planteó que será necesario contar con mecanismos capaces de acreditar el origen de esos contenidos.

“Necesitamos que exista una marca de agua”, sostuvo la especialista. Aclaró que no necesariamente tiene que ser una señal visible para el usuario: puede tratarse de una identificación digital incorporada al archivo que permita comprobar posteriormente si fue generado o modificado mediante inteligencia artificial.

La identificación invisible de Google

El caso de Google permite entender cómo funciona este sistema. La compañía desarrolló SynthID, una tecnología que incorpora una marca de agua invisible en determinados contenidos generados por sus modelos y que puede ser detectada mediante herramientas específicas, aunque la señal no aparezca sobre la imagen o el video.

“Google con su modelo Gemini había lanzado hace más de un año algo que se llama SynthID, que es básicamente una marca de agua, pero no visible para el ojo humano”, explicó Arambillet. Para la periodista, este tipo de mecanismos será cada vez más relevante a medida que las producciones artificiales reduzcan las diferencias perceptibles con aquellas realizadas por personas.

La discusión cobra otra dimensión porque la señal visible y la identificación digital no son necesariamente lo mismo. Un usuario puede no encontrar ninguna indicación sobre una imagen, mientras que una herramienta especializada todavía puede determinar que fue generada mediante IA. La pregunta pasa entonces por quién tiene acceso a esa información y en qué circunstancias puede utilizarla.

Europa convirtió la transparencia en una exigencia

La Unión Europea decidió llevar esa discusión al terreno regulatorio. El AI Act establece obligaciones de transparencia para determinados contenidos generados o manipulados mediante inteligencia artificial, entre ellos aquellos que pueden inducir a las personas a creer que están frente a material auténtico cuando en realidad fueron producidos o modificados artificialmente.

Para Arambillet, el cambio es significativo porque la identificación deja de depender únicamente de las decisiones voluntarias de las compañías. “Es uno de los mercados más grandes a nivel global y que un grupo de países exija a través de una regulación algo que hasta ahora se realiza por buenas prácticas va por el buen camino”, sostuvo.

La especialista también vinculó la posición europea con una preocupación más amplia por la soberanía tecnológica y la protección de datos. Europa no concentra el mismo número de grandes compañías de inteligencia artificial que Estados Unidos y, al mismo tiempo, tiene una extensa tradición regulatoria en materia de privacidad.

En ese escenario aparece Mistral, la empresa francesa que busca desarrollar modelos propios y competir con los gigantes estadounidenses. Arambillet la describió como “un ChatGPT francés”, desarrollado con el objetivo de entrenar modelos en Europa y con especial fortaleza en francés.

Las empresas tampoco tienen una única mirada

El debate sobre la identificación forma parte de una discusión más amplia sobre los límites y los riesgos de la inteligencia artificial. Arambillet señaló que las principales compañías del sector tienen posiciones diferentes respecto de cómo debería desarrollarse la tecnología y qué usos están dispuestas a permitir.

Uno de los casos que mencionó fue Anthropic, la empresa liderada por Dario Amodei, quien había trabajado en OpenAI antes de alejarse de la compañía. Según Arambillet, Anthropic nació con una preocupación especialmente marcada por los riesgos de los modelos avanzados y por la necesidad de acompañar su desarrollo con mecanismos de seguridad.

Esa posición también se trasladó al ámbito militar. La periodista recordó el conflicto entre Anthropic y el Departamento de Defensa de Estados Unidos por determinadas condiciones de utilización de sus modelos y lo contrastó con la postura de OpenAI, que avanzó posteriormente en acuerdos con el Pentágono.

Para Arambillet, esas diferencias muestran que no existe una única filosofía dentro de la industria de la IA. Cada compañía busca definir sus propios límites y, al mismo tiempo, posicionarse frente a una tecnología cuyo alcance todavía se está expandiendo.

El desafío de la Argentina

Para la periodista, la discusión tampoco debería quedar restringida a las empresas y los gobiernos que hoy lideran el desarrollo de la tecnología. La Argentina también necesita definir qué lugar quiere ocupar frente a una transformación que puede modificar sectores productivos, empleos y formas de producir y consumir información.

“Como país, tenemos que empezar a pensar en cuál es nuestra estrategia de inteligencia artificial”, afirmó Arambillet. A su entender, no alcanza con reaccionar frente a cada nueva herramienta: también es necesario establecer qué capacidades tecnológicas pretende desarrollar el país y cómo aprovechar una industria que concentra cada vez más poder económico y estratégico.

La especialista consideró que esa discusión todavía tiene un espacio importante por ocupar en la agenda pública. “No es que hay propuestas concretas o proyectos que se frenan en el Congreso, no está directamente. Ahí hay un gran vacante”, planteó.

El debate sobre las marcas de agua es, en definitiva, una de las primeras manifestaciones de un problema que excede a una herramienta o a una compañía. A medida que la inteligencia artificial produce contenidos cada vez más difíciles de distinguir de los realizados por personas, la tecnología y los gobiernos empiezan a buscar mecanismos para acreditar su origen. Entre las identificaciones invisibles de las empresas y las exigencias de transparencia europeas, la discusión empieza a definir una nueva pregunta para los usuarios: no solo qué están viendo, sino también quién —o qué— lo creó.

–

Infobae te acompaña cada día en YouTube con entrevistas, análisis y la información más destacada, en un formato cercano y dinámico.

• De 7 a 9: Infobae al Amanecer: Nacho Giron, Luciana Rubinska y Belén Escobar.

• De 9 a 12: Infobae a las Nueve: Gonzalo Sánchez, Tatiana Schapiro, Ramón Indart y Cecilia Boufflet.

• De 12 a 15: Infobae al Mediodia: Maru Duffard, Andrei Serbin Pont, Fede Mayol y Facundo Kablan.

• De 15 a 18: Infobae a la Tarde: Manu Jove, Maia Jastreblansky y Paula Guardia Bourdin; rotan en la semana Marcos Shaw, Lara López Calvo y Tomás Trapé.

• De 18 a 21: Infobae al Regreso: Gonzalo Aziz, Diego Iglesias, Malena de los Ríos y Matías Barbería; rotan en la semana Gustavo Lazzari, Martín Tetaz y Mica Mendelevich

Seguinos en nuestro canal de YouTube @infobae.