Meta corrigió de urgencia una falla crítica en Muse, su asistente de IA, a dos semanas del lanzamiento

Meta lanzó una actualización urgente para corregir una falla de seguridad en Muse, su asistente de inteligencia artificial para computadoras Mac. El problema podía permitir que un programa malicioso enviara las grabaciones de voz del usuario a un servidor controlado por un atacante.

La falla fue descubierta por Patrick Wardle, fundador de la organización de seguridad para Mac Objective-See. El investigador publicó el 21 de septiembre una demostración del problema, a la que llamó “not-a-mused”, apenas dos semanas después del lanzamiento de Muse.

Un ajuste interno podía desviar las grabaciones de voz

El inconveniente estaba en una opción interna de Muse llamada endo_voyager_dictation_endpoint. Era un ajuste pensado para que los desarrolladores revisaran y detectaran problemas durante la creación de la herramienta.

Sin embargo, cualquier programa que ya estuviera instalado en la Mac podía cambiar esa opción sin pedir permisos especiales ni mostrar una alerta del sistema operativo de Apple.

Al hacerlo, podía enviar el audio dictado por el usuario a otro servidor. También podía obtener el código de acceso temporal, o token, de la cuenta de Muse. Ese código funciona como una llave digital que permite acceder a la sesión del usuario.

Con ese acceso, un atacante podía usar el asistente con los mismos permisos que la persona le hubiera dado: revisar archivos, consultar el calendario, entrar al correo, usar WhatsApp u operar otros servicios conectados.

El ataque requería que el equipo ya estuviera comprometido

Wardle aclaró que la falla no permitía tomar control de una computadora desde cero. Para aprovecharla, alguien primero debía lograr que un programa malicioso se ejecutara en la Mac de la víctima.

Esto puede ocurrir, por ejemplo, cuando una persona descarga software peligroso o cae en un engaño. Wardle mencionó el método conocido como ClickFix, que busca convencer al usuario de copiar y pegar un comando dañino en la aplicación Terminal bajo la promesa de resolver un supuesto problema técnico.

“Se puede manipular al agente y aprovechar sus privilegios para hacer lo que uno quiera”, explicó Wardle, según reprodujo Forkast. En términos sencillos, quien lograra entrar a la computadora podía darle órdenes al asistente para actuar con los permisos de su dueño.

David Singleton, ingeniero de Meta Superintelligence Labs, confirmó el problema y comunicó la corrección poco después de la medianoche del martes, de acuerdo con Gizmodo.

“Nos esforzamos por ser extremadamente transparentes sobre la privacidad y la seguridad en Muse porque sabemos que esto es importante para mantener la confianza”, escribió Singleton en X.

Wardle confirmó horas después que la actualización resolvía el fallo. “Genial, ya está resuelto”, publicó el martes a las 06:36 UTC, según Forkast.

Muse puede acceder a correos, archivos y otras cuentas conectadas

Muse se lanzó el 8 de septiembre como un asistente personal de Meta para Mac. Puede ayudar a enviar correos electrónicos, reservar viajes, completar formularios y realizar compras si el usuario le concede acceso a esas funciones.

Para realizar esas tareas, funciona en un espacio aislado dentro de la computadora, al que la empresa llama Muse Secure VM. También usa un modelo de inteligencia artificial denominado Muse Spark 1.3.

El presidente ejecutivo de Meta, Mark Zuckerberg, presentó la herramienta como parte de su idea de una “superinteligencia personal”: un asistente que pueda hacerse cargo de tareas cotidianas en internet.

La empresa ofrece recompensas de hasta 300.000 dólares a quienes encuentren fallas de seguridad en el producto. Dentro de ese programa, hay un premio de 130.000 dólares para quien demuestre que puede engañar al asistente con instrucciones ocultas, según TechTimes.

Muse alcanzó 2,5 millones de usuarios en sus primeros 13 días de disponibilidad para Mac, de acuerdo con datos de VentureBeat citados por Forkast.

La falla no recibió un código CVE, la identificación que suele usarse para registrar problemas de seguridad conocidos en productos tecnológicos.

El parche llega tras otros cuestionamientos al asistente

La actualización se publicó mientras Muse ya enfrentaba otras críticas. Días antes, Amazon había pedido a Meta que evitara que el asistente hiciera compras automáticas en su plataforma sin identificarse como un programa automatizado.

Además, VentureBeat señaló que Muse todavía no cuenta con algunas herramientas que las empresas suelen necesitar para controlar el uso de aplicaciones. Por ejemplo, no ofrece una consola central desde la que un equipo de seguridad pueda ver quién conecta el asistente a cuentas de trabajo.

Eso significa que un empleado podría vincular Muse con su correo corporativo u otros servicios internos sin que el área de tecnología de su empresa tenga una visión completa de esa actividad.

Wardle advirtió que el caso muestra un riesgo más amplio. Cuando un asistente tiene permiso para entrar a archivos, cuentas y aplicaciones, una falla que permita controlarlo puede darle al atacante el mismo nivel de acceso.

La organización OWASP, que publica guías de seguridad para programas y sitios web, incluye entre los riesgos de estos asistentes los mensajes diseñados para engañarlos, el uso indebido de servicios conectados y la exposición de información privada.

Meta no informó si el ajuste corregido era el único parámetro interno de Muse que podía modificarse sin aviso ni si revisó todos los ajustes similares del sistema.