Meta soluciona una vulnerabilidad en Muse para macOS que permitía a los ciberdelincuentes controlar el agente de IA

Meta ha solucionado una vulnerabilidad de día cero en su aplicación Muse para ordenadores macOS que permitía que ciberdelincuentes pudieran tomar el control del agente de inteligencia artificial (IA) y, con ello, acceder a información sensible almacenada en el equipo.

La compañía liderada por Mark Zuckerberg lanzó Meta Muse a principios de este mes de septiembre, como su nuevo agente personal capaz de ayudar a los usuarios en una gran variedad de tareas, que van desde reservar un viaje, gestionar el calendario o rellenar formularios hasta renegociar una factura o realizar un pago tras la confirmación previa.

Sin embargo, semanas después de su lanzamiento, Meta ha compartido un parche para la aplicación de Muse para ordenadores macOS, tras descubrir una vulnerabilidad de día cero que permitía a atacantes tomar el control del agente de IA.

Concretamente, la vulnerabilidad ha sido descubierta por el investigador de seguridad Patrick Wardle, que ha compartido sus hallazgos a través de la red social X, solicitando evitar la instalación de Muse en los dispositivos, ya que puede convertirse en una "puerta trasera" para actores maliciosos, con acceso a "toda la vida digital" de los usuarios.

Tal y como lo ha explicado Wardle en declaraciones a Ars Technica, este error utilizaba una configuración no documentada de Muse, que permitía a posibles ciberdelincuentes, mediante ejecución de código, redirigir el procesamiento de transcripción de los servidores de Meta a su propio 'endpoint', obteniendo control total del agente Muse en el dispositivo de los usuarios.

Esto es posible porque la vulnerabilidad permite que cualquier aplicación o comando de terminal acceda al token que autentica a los usuarios en su cuenta de Muse. Por tanto, una vez los atacantes dirigen la transcripción a su propio 'endpoint', obtienen el token que les da control total sobre la cuenta del agente.

Según Wardle, es un fallo que permite "manipular al agente y aprovechar sus privilegios" para llevar a cabo cualquier actividad en el ordenador de la víctima. "En lugar de tener que escribir un programa de robo de 'malware' para Mac muy completo, podemos aprovechar el propio asistente de IA", ha sentenciado.

Como resultado, las pruebas realizadas por el investigador de ciberseguridad le permitieron llevar a cabo acciones como acceder a fotografías almacenadas o escribir archivos maliciosos en disco del ordenador a través de Muse y sin que el agente alertara al usuario.

Cabe destacar que, en el momento de lanzamiento, Meta subrayó que el agente se desarrolló de forma segura en el entorno Muse Secure VM, bajo una serie de pilares para proteger la privacidad, seguridad y control del usuario, como el aislamiento en la nube (cada usuario cuenta con una máquina virtual dedicada con sus datos), un agente supervisor independiente que revisa las acciones de Muse a nivel del sistema y el cierre y protección de credenciales (Muse no tiene acceso visible a las contraseñas y métodos de pago del usuario).

Sin embargo, Wardle ha afirmado que varias decisiones de diseño del agente hicieron posible el ataque, como que el dictado y la transcripción de solicitudes se realice en la nube o permitir que cualquier aplicación controle todas las configuraciones no documentadas.

Tras el informe del investigador, Meta ha lanzado este martes un parche para solucionar esta vulnerabilidad en la aplicación de Muse para Mac, como ha compartido el portavoz de Meta Superintelligence Labs David Singleton en una publicación en X. No obstante, ha restado importancia al fallo, alegando que las preocupaciones de seguridad eran mínimas porque el exploit requería "acceso local" al dispositivo de la víctima.

"Se trataba de un ataque de escalada de privilegios local, no de un exploit remoto. Usarlo para causar daño requiere, por tanto, código malicioso que ya esté ejecutándose en la máquina del usuario bajo su cuenta de usuario, y el riesgo práctico para los usuarios de la 'app' Muse para Mac era, por lo tanto, bastante bajo. No obstante, hemos emitido un hotfix para la app para abordar el problema", ha sentenciado.