Investigadores logran manipular Comet AI de Perplexity en minutos y demuestran su vulnerabilidad ante fraudes

El estudio demostró que este sistema expone sus propios razonamientos y puntos débiles, lo que permite a atacantes perfeccionar estafas dirigidas al modelo de IA

Guardar
La estafa se va adaptando
La estafa se va adaptando y optimizando hasta lograr que el navegador de IA deje de detectar el fraude. (Perplexity)

Un reciente informe de Guardio revela que los navegadores web potenciados por inteligencia artificial, como Comet AI de Perplexity, pueden ser entrenados y engañados para caer en trampas de suplantación de identidad en cuestión de minutos.

El estudio demostró que estos sistemas, diseñados para ejecutar tareas de forma autónoma en nombre del usuario, exponen sus propios razonamientos y puntos débiles, lo que permite a atacantes perfeccionar estafas dirigidas ya no al usuario humano, sino directamente al modelo de IA.

Cómo los navegadores con IA pueden ser víctimas de fraudes sofisticados

El ataque descrito por Guardio se aprovecha de lo que llaman “parloreo agencial”: los navegadores de IA narran en tiempo real sus acciones, dudas y señales detectadas como seguras o sospechosas.

Un informe revela que los
Un informe revela que los navegadores web potenciados por inteligencia artificial pueden ser entrenados y engañados. (guard.io)

Al interceptar este flujo de información entre el navegador y los servidores de IA, los investigadores pudieron alimentar una red generativa adversaria (GAN) y crear una página de suplantación de identidad cada vez más convincente. El resultado fue que Comet AI cayó en la trampa en menos de cuatro minutos.

Según el investigador Shaked Chen, “si puedes observar lo que el agente señala como sospechoso, lo que duda y, lo que es más importante, lo que piensa y parlotea sobre la página, puedes usarlo como señal de entrenamiento”.

De esta manera, la estafa se va adaptando y optimizando hasta lograr que el navegador de IA deje de detectar el fraude y cumpla las acciones ordenadas por el atacante, como introducir credenciales en páginas falsas diseñadas para estafas de reembolso.

Al interceptar este flujo de
Al interceptar este flujo de información entre el navegador y los servidores de IA, los investigadores pudieron alimentar una red generativa adversaria. (guard.io)

El riesgo de las estafas automatizadas y el cambio en el blanco de los ataques

Lo que hace especialmente peligroso este enfoque es que, una vez que una página fraudulenta es perfeccionada para engañar a un navegador de IA, puede funcionar automáticamente contra todos los usuarios que dependan de ese mismo agente.

El objetivo del fraude deja de ser el usuario final y pasa a ser el propio navegador basado en inteligencia artificial, lo que amplía el alcance y efectividad de los ataques.

Guardio advierte sobre un futuro en el que las estafas no solo se ajustarán sobre la marcha, sino que serán entrenadas “fuera de línea”, replicando exactamente el modelo en el que confían millones de personas, hasta funcionar de manera efectiva desde el primer intento.

Lo que estás viendo es
Lo que estás viendo es la "mente" de la Inteligencia Artificial trabajando en tiempo real para cumplir una tarea dentro de un navegador. (guard.io)

“Porque cuando tu navegador basado en IA explica por qué se detuvo, enseña a los atacantes cómo evitarlo”, señala el informe.

Demostraciones y nuevas técnicas de extracción de datos

La investigación también cita experimentos realizados por Trail of Bits, en los que se emplearon técnicas de inyección rápida para explotar el asistente de IA del navegador Comet y extraer información privada de servicios como Gmail.

Al pedirle al asistente que resuma una página web bajo el control de un atacante, los datos confidenciales del usuario pueden ser filtrados hacia un servidor malicioso.

Estos hallazgos subrayan la urgencia de reforzar las barreras de seguridad en navegadores inteligentes y replantear cómo interactúan con páginas web complejas, para mitigar el riesgo de fraudes automatizados y proteger la información de los usuarios.

El diagrama explica por qué
El diagrama explica por qué el "parloteo" de la IA es una falla de seguridad masiva. (guard.io)

Comet AI: el navegador que navega, busca y automatiza tareas por ti

Comet AI, desarrollado por la empresa Perplexity, representa una nueva generación de navegadores web al estar potenciado por inteligencia artificial y orientado a la llamada “navegación agéntica”.

A diferencia de los navegadores tradicionales como Chrome o Safari, donde el usuario debe realizar todas las acciones manualmente —buscar, seleccionar, leer y escribir—, Comet actúa como un asistente virtual autónomo que puede operar en internet por cuenta propia.

Una de las funciones distintivas de Comet es su capacidad para interpretar la estructura de las páginas web e interactuar con botones, formularios y carritos de compra. Gracias a esto, basta con dar una instrucción en lenguaje natural, como pedirle que busque y añada al carrito el mejor producto según ciertos criterios, para que el navegador gestione todo el proceso automáticamente.

El diseño de Comet está enfocado en reducir el tiempo invertido en tareas administrativas o de investigación. Entre sus ventajas, permite gestionar correos electrónicos, redactar respuestas consultando el calendario del usuario, realizar búsquedas profundas extrayendo información de múltiples fuentes y ejecutar varias tareas en paralelo, como buscar vuelos y resumir documentos al mismo tiempo.