Agregar Infobae enGoogle

Qué es la “dimensión espejo” de Google y cómo ayuda a poner a prueba sus modelos de IA

Google diseñó un internet simulado para evaluar cómo reaccionan sus modelos cuando una página intenta desviarlos de lo que les pidió el usuario

Google creó una "dimensión espejo" de internet para entrenar a sus agentes de IA. (Google)

Google creó una versión controlada de internet para entrenar y evaluar agentes de inteligencia artificial que navegan por la web. La llamó Mirror Dimension, o “dimensión espejo”: un entorno virtual amplio y aislado donde los modelos pueden visitar sitios, completar tareas y enfrentarse a intentos de manipularlos sin interactuar con páginas reales ni poner en riesgo a los usuarios.

El equipo de Chrome diseñó este espacio mientras desarrollaba funciones de navegación basadas en Gemini. La idea responde a un problema: los agentes deben aprender a usar páginas y servicios similares a los que existen en internet, pero probarlos directamente en la web abierta podría tener consecuencias no deseadas.

PUBLICIDAD

Un entorno de prueba demasiado simple tampoco resulta suficiente. Si un modelo reconoce que está en una simulación, podría comportarse de forma distinta a como lo haría ante una situación real. A ese cambio de conducta se le conoce como “conciencia de evaluación”. La dimensión espejo busca ofrecer tareas y sitios más variados para que las pruebas se parezcan más a la navegación cotidiana.

Google prueba cómo responden sus agentes cuando encuentran instrucciones ocultas que podrían desviarlos de la tarea asignada. (Google)

Un internet simulado con sitios y tareas

La Mirror Dimension reúne páginas y servicios ficticios que imitan distintos espacios de la web. Incluye, por ejemplo, redes sociales, tiendas en línea y paneles bancarios. Aunque no son servicios reales, sus páginas incorporan elementos y funciones similares a los que una persona encuentra en internet.

Los agentes interactúan con esos sitios desde Chrome y reciben instrucciones para llevar a cabo tareas. En una tienda simulada podrían buscar un producto y aplicar un código promocional; en una red social, completar una acción dentro de una página. El sistema también puede introducir dificultades durante la navegación, como instrucciones ocultas que buscan desviar al agente de su objetivo.

PUBLICIDAD

Este tipo de ataque se conoce como inyección de comandos. Puede aparecer cuando una página contiene instrucciones dirigidas al modelo para que ignore lo que le pidió el usuario o realice otra acción. En la web real, esas indicaciones pueden estar escondidas entre el contenido de un sitio. Las pruebas permiten observar si el agente reconoce el intento y mantiene el control de la tarea.

La “dimensión espejo” recrea sitios web ficticios para que los agentes de IA de Google practiquen tareas de navegación en un entorno controlado. (Google)

Según Charles Qian, ingeniero de software del equipo de seguridad de IA de Chrome, los agentes pueden encontrarse con situaciones difíciles de anticipar porque los sitios y sus instrucciones varían. Por eso, el equipo busca que aprendan a distinguir qué información necesitan y cuándo deben pedir confirmación al usuario antes de actuar.

Cómo construyó Google el entorno

Para que el internet simulado tuviera variedad, Google utilizó agentes de desarrollo de sitios y aplicaciones web, coordinados por un sistema de IA creado para generar servicios y flujos de información realistas. El objetivo era construir con rapidez un conjunto diverso de páginas, con funciones y contenidos que permitieran probar múltiples tipos de tareas.

El equipo también necesitó adaptar el navegador Chrome para que los agentes pudieran recorrer ese espacio como lo harían en una sesión normal. De acuerdo con Google, los investigadores hicieron cambios y prepararon certificados web para superar las comprobaciones de seguridad dentro de ese entorno aislado.

La compañía subraya que esas intervenciones fueron posibles porque el equipo controlaba la red y tenía privilegios especiales sobre la simulación. Según sus investigadores, no son técnicas que puedan reproducirse contra usuarios habituales de Chrome mientras navegan por internet abierto.

El equipo de Chrome creó la simulación para evaluar modelos de navegación antes de ampliar el acceso a estas funciones. (Google)

Una herramienta para probar agentes con más seguridad

Google afirma que los agentes evaluados en estas pruebas no tienen capacidades cibernéticas y que el entorno está diseñado para realizar experimentos de manera controlada. La empresa quiere que otros equipos de investigación de Google también puedan usar la dimensión espejo para probar sistemas que interactúan con páginas web.

El proyecto no elimina todos los riesgos asociados con los agentes de navegación, pero permite estudiar cómo reaccionan ante sitios y contenidos diseñados para confundirlos. También ayuda a comprobar si saben detenerse cuando una instrucción parece dudosa o si necesitan autorización antes de continuar.

La compañía prevé seguir desarrollando el entorno a medida que sus modelos se vuelvan más sofisticados. Cuanto más capaces sean de completar tareas en la web, más importante será evaluar cómo responden ante instrucciones engañosas y decisiones que podrían afectar al usuario.

La dimensión espejo funciona, así, como un campo de entrenamiento digital: reproduce partes de internet en un espacio que Google controla para que sus agentes practiquen, se equivoquen y sean evaluados antes de que sus funciones de navegación lleguen a más personas.

PUBLICIDAD

PUBLICIDAD