Descubren ChatGPhish: usa resúmenes de ChatGPT para engañar a otros usuarios

Investigadores de ciberseguridad identificaron una nueva técnica denominada ChatGPhish que permite aprovechar los resúmenes generados por ChatGPT para ejecutar ataques de phishing. El problema radica en que la inteligencia artificial procesa y renderiza automáticamente enlaces, imágenes y otros elementos presentes en las páginas web que analiza, lo que abre una nueva superficie de ataque para los ciberdelincuentes.

La vulnerabilidad fue descubierta por especialistas de Permiso Security y documentada por el investigador Andi Ahmeti. Según los expertos, un atacante puede insertar instrucciones maliciosas ocultas dentro del contenido de una página web y lograr que aparezcan directamente en la respuesta generada por ChatGPT cuando un usuario solicita un resumen de ese sitio.

Esto significa que una tarea cotidiana, como pedirle a la inteligencia artificial que resuma una página, podría convertirse en el punto de partida de un intento de fraude sin que el usuario visite enlaces sospechosos o descargue archivos peligrosos.

Qué es ChatGPhish

ChatGPhish es una técnica que explota la forma en que ChatGPT interpreta y presenta el contenido en formato Markdown.

Markdown es un lenguaje utilizado para estructurar texto e incorporar imágenes, enlaces y otros elementos interactivos. Cuando ChatGPT resume una página, puede procesar estos componentes y mostrarlos dentro de su propia interfaz como si fueran parte legítima de la respuesta.

Los investigadores advierten que esta confianza en el contenido externo permite que elementos controlados por atacantes aparezcan dentro de una conversación aparentemente segura con la inteligencia artificial.

En lugar de engañar al usuario mediante correos electrónicos o páginas falsas, el ataque aprovecha la credibilidad de la propia interfaz de ChatGPT.

Qué información puede obtener un atacante

Uno de los riesgos identificados por Permiso Security tiene relación con las imágenes cargadas automáticamente.

Cuando ChatGPT procesa una página con imágenes manipuladas, estas pueden permitir que el atacante obtenga información como la dirección IP del usuario, el tipo de navegador utilizado y otros datos asociados a la consulta.

Los especialistas señalan que esta recopilación de información puede producirse sin necesidad de que la víctima haga clic sobre ningún elemento.

Asimismo, los enlaces presentes en el contenido original pueden mostrarse como botones o elementos interactivos dentro de la respuesta de ChatGPT, aumentando las probabilidades de que el usuario confíe en ellos.

Alertas falsas y códigos QR maliciosos

Otra capacidad descrita por los investigadores consiste en la creación de falsas advertencias de seguridad.

Los atacantes pueden diseñar mensajes que imiten el aspecto de notificaciones del sistema y hacer que aparezcan integrados en la respuesta generada por la inteligencia artificial.

De esta manera, una persona podría interpretar erróneamente que se trata de un aviso legítimo. Además, los expertos descubrieron que es posible insertar códigos QR servidos desde servicios de almacenamiento en la nube, como Amazon S3.

Al escanear esos códigos con el teléfono móvil, la víctima podría ser redirigida a sitios maliciosos, sorteando algunos filtros de seguridad utilizados en computadoras corporativas o navegadores tradicionales.

Por qué representa una nueva forma de phishing

Hasta ahora, la mayoría de los ataques de phishing dependían de correos electrónicos fraudulentos, enlaces sospechosos o archivos adjuntos infectados. ChatGPhish introduce un escenario diferente.

Según los investigadores de Permiso Security, basta con que un usuario solicite a ChatGPT el resumen de una página comprometida para que el contenido controlado por un atacante pase a formar parte del contexto generado por el modelo.

Esto convierte a la inteligencia artificial en un nuevo vector de ataque, ampliando considerablemente las oportunidades para los ciberdelincuentes.

Los especialistas sostienen que el paso desde el correo electrónico hacia herramientas basadas en IA incrementa la superficie de exposición, ya que los usuarios tienden a confiar más en las respuestas generadas por estos sistemas.

Un problema que afecta a más sistemas de inteligencia artificial

ChatGPhish no es el único incidente de este tipo descubierto recientemente. Durante los últimos días también se dieron a conocer otras técnicas, como SymJack y TrustFall, que permiten aprovechar agentes de inteligencia artificial utilizados por desarrolladores para ejecutar código malicioso.

Asimismo, se reveló ClaudeBleed, una vulnerabilidad relacionada con la extensión para Chrome del asistente Claude. Para los investigadores, todos estos casos comparten un mismo patrón: los sistemas de IA confían en exceso en el contenido que procesan.

Esa confianza, que permite a las herramientas ofrecer respuestas más útiles y automatizar tareas complejas, también se está convirtiendo en una nueva puerta de entrada para ataques cibernéticos.

Los expertos consideran que, a medida que las plataformas de inteligencia artificial se integren más en la vida cotidiana y en los entornos laborales, será necesario desarrollar mecanismos adicionales de protección que impidan que los modelos interpreten como legítimos contenidos controlados por actores maliciosos.