Empleados de Meta alertaron que Muse, el agente de IA, accedió a mensajes y datos sensibles sin que se lo pidieran

Publicaciones internas describieron saldos bancarios expuestos y una reserva sin reembolso realizada sin autorización; la empresa aseguró haber corregido varios errores

La herramienta Muse superó diez millones de descargas tras su difusión en las plataformas de Facebook, Instagram y WhatsApp (REUTERS/Dado Ruvic/Illustration/File Photo)
La herramienta Muse superó diez millones de descargas tras su difusión en las plataformas de Facebook, Instagram y WhatsApp (REUTERS/Dado Ruvic/Illustration/File Photo)
Guardar

Empleados de Meta advirtieron en publicaciones internas que Muse, su agente de inteligencia artificial para consumidores, entró en mensajes cifrados, inventó compras y envió chats que parecían destinados a otras personas, según una investigación de la agencia Reuters. La empresa atribuye los casos a incidentes aislados.

La agencia de noticias revisó más de dos docenas de publicaciones internas, muchas de un grupo donde el personal reporta fallas al equipo que desarrolla el agente. Un agente es un asistente de IA que ejecuta tareas por su cuenta, como contestar correos, reservar citas o hacer compras.

PUBLICIDAD

Muse se lanzó en septiembre y superó los 10 millones de descargas, según Reuters. Meta lo promocionó entre sus más de 3.600 millones de usuarios de Facebook, Instagram y WhatsApp, y la compañía informó que cerca de una cuarta parte de quienes abren una cuenta vuelve a usarlo cada día.

Saldos bancarios que nadie había compartido

En una de las publicaciones, un empleado contó que Muse sumó a una charla sobre el clima y las mareas para pescar un aviso con los saldos de dos cuentas bancarias. “Nunca compartí mi cuenta bancaria con Muse”, escribió, y agregó que temía que el agente enviara datos de otros.

PUBLICIDAD

Un integrante del equipo de Superinteligencia de Meta dijo en el grupo interno, a comienzos de noviembre, que el agente parecía alucinar mensajes, es decir, generar información falsa, a partir de instrucciones que lo empujaban a escribir a los usuarios entre sesiones.

Integrantes del equipo de desarrollo señalaron que el asistente expuso saldos bancarios debido a alucinaciones del sistema sobre asuntos financieros (REUTERS/Jeenah Moon)
Integrantes del equipo de desarrollo señalaron que el asistente expuso saldos bancarios debido a alucinaciones del sistema sobre asuntos financieros (REUTERS/Jeenah Moon)

Según ese integrante, esas alucinaciones tienden hacia los temas más incómodos, como finanzas, seguridad o protección, y también incluyeron avisos sobre saldos de bitcoin. Otro empleado recibió una oferta para escribirle a un vendedor por una mesa de café; el agente le respondió que había incorporado datos de una entrega “que no parece ser tuya”.

Hubo también pérdidas reales. Un empleado dijo que Muse lo inscribió sin querer en un seguro premium para su perro, que costaba USD 888 por mes en lugar de USD 200, según Ars Technica. Otro reportó que el agente reservó una estadía no reembolsable en Airbnb sin permiso.

La prueba con Signal

Una empleada contó que Muse le recordó responder un mensaje de su hermana en Signal, la app de mensajes cifrados. “Esto parece una violación extrema de la privacidad”, escribió, y dijo que no recordaba haber autorizado el acceso a otras aplicaciones.

Reuters trabajó con personal de Signal y del instituto AI Now, una organización sin fines de lucro que estudia el efecto social de la IA, para repetir la prueba. En un teléfono Android y en una computadora de Apple, Muse leyó los mensajes con permisos concedidos en la configuración inicial, sin usar la herramienta de conexión de Meta. En un iPhone, el intento fue bloqueado.

En Android usó el permiso para ver las notificaciones del teléfono. En macOS combinó las herramientas de accesibilidad y de captura de pantalla, pensadas para personas con discapacidad. Meredith Whittaker, presidenta de Signal, acusó a Meta de lanzar Muse “sin mostrar ningún respeto por la privacidad básica” y pidió que las apps puedan marcarse como vedadas para los agentes.

El portavoz de Meta, Daniel Roberts, afirmó que la aplicación solo utiliza los permisos concedidos por los usuarios y aseguró que resolvieron los errores (REUTERS/Benoit Tessier/File Photo)
El portavoz de Meta, Daniel Roberts, afirmó que la aplicación solo utiliza los permisos concedidos por los usuarios y aseguró que resolvieron los errores (REUTERS/Benoit Tessier/File Photo)

Qué respondieron Meta, Apple y Google

El vocero de Meta, Daniel Roberts, dijo que Muse solo accede a otras apps con permisos que el usuario concede, y que muchos mensajes señalados por el personal eran alucinaciones ya corregidas. Ante Ars Technica agregó que los empleados usan versiones distintas de las del público.

Apple dijo que su actualización de esta semana restringió el uso de las herramientas de accesibilidad en Mac y sumó permisos pensados para agentes. Google, por su parte, señaló que las personas “deben conceder deliberadamente” los permisos a las apps, y que evalúa cambios para dar más control.

El problema venía de antes. Jason Aten, columnista de Inc., denunció en septiembre que Muse sincronizó 187.000 líneas de sus mensajes en su Mac con el acceso al disco completo desactivado, recogió Ars Technica. Un vocero de Meta atribuyó entonces el caso a un error ya corregido, y no a una falla de seguridad o privacidad.

PUBLICIDAD

PUBLICIDAD