ChatGPT Atlas sería vulnerable a comandos ocultos en URLs

La aparición de ChatGPT Atlas, el nuevo navegador con IA de OpenAI, ha traído consigo preocupaciones en el ámbito de la ciberseguridad. Un experto ha identificado que la plataforma es susceptible a los ataques de inyección de portapapeles, una técnica que introduce enlaces maliciosos copiándolos de manera oculta para ejecutar acciones potencialmente peligrosas cuando el usuario pega el contenido en la barra de direcciones.

Vulnerabilidad de ChatGPT Atlas: cómo funciona el ataque de inyección de portapapeles

El ataque funciona ocultando una orden dentro de un botón de acción alojado en una página web. La IA procesa la instrucción encubierta y copia en el portapapeles un enlace malicioso sin que el usuario lo perciba.

Cuando posteriormente la persona realiza la acción de pegar, puede ser redirigida automáticamente a un sitio web falso que aparenta ser legítimo, como OpenAI, Gmail o PayPal, donde se le solicita iniciar sesión con el pretexto de una expiración de acceso. Así, los atacantes aprovechan para robar credenciales y datos sensibles.

El hacker conocido como Pliny the Liberator destaca que la IA ha mejorado en la detección de ataques de inyección directa de instrucciones, pero es menos eficaz ante la inyección de portapapeles porque “la lógica del botón ‘copiar portapapeles’ está oculta en js en el backend del sitio, y el Agente no tiene conocimiento alguno del contenido de texto que se inyecta en el portapapeles del usuario”.

Esta vulnerabilidad es especialmente relevante para quienes desempeñan tareas frecuentes de copiar y pegar, como programadores, operadores de datos o profesionales del sector bancario y comercial.

Brave advirtió sobre una situación parecida con Comet, de Perplexity

No es la primera vez que se reportan este tipo de ataques en navegadores con funciones autónomas. La empresa Brave advirtió recientemente sobre una situación parecida con Comet, de Perplexity, el cual fue vulnerable a ataques por inyección de instrucciones (‘prompt injection’) al capturar pantallas de sitios web.

Estos incidentes ponen de relieve los desafíos y los riesgos que enfrentan las nuevas herramientas inteligentes de navegación, especialmente en contextos de alta automatización y donde la intervención humana puede ser limitada o distraída.

ChatGPT Atlas: cómo funciona el navegador de OpenAI

ChatGPT Atlas incorpora la tecnología conversacional de OpenAI directamente en su interfaz, brindando la posibilidad de navegar por internet mientras se interactúa, en simultáneo, con ChatGPT a través de una barra lateral específica.

Con solo activar el botón ‘Pregunta a ChatGPT’, la pantalla se divide para proporcionar acceso inmediato a resúmenes del contenido visualizado, la generación de textos adicionales o respuestas detalladas relacionadas con la consulta del usuario en ese momento.

Una característica destacable del navegador es su memoria contextual, que registra tanto el historial de navegación como las maneras en que un usuario interactúa con distintas páginas.

Tal como explica OpenAI: “Esto significa que puedes pedirle a ChatGPT algo como: ‘Busca todas las ofertas de empleo que revisé la semana pasada y crea un resumen con las tendencias del sector para prepararme para entrevistas’. ChatGPT puede recordar lo que has explorado y sugerir qué hacer después”.

Adicionalmente, esa memoria puede ser gestionada por el usuario, quien tiene la opción de revisar, modificar o eliminar los datos almacenados en cualquier momento, manteniendo así el control sobre su información personal.

Para quienes valoran la privacidad, OpenAI asegura que los historiales de navegación permanecen protegidos y no se emplean en el entrenamiento de sus modelos, excepto si el usuario lo autoriza explícitamente. El navegador también ofrece modos de navegación como el incógnito y dispone de controles parentales, ampliando las herramientas para la gestión y protección de los datos familiares o individuales.