Empleados de Meta advirtieron en publicaciones internas que Muse, su agente de inteligencia artificial para consumidores, entró en mensajes cifrados, inventó compras y envió chats que parecían destinados a otras personas, según una investigación de la agencia Reuters. La empresa atribuye los casos a incidentes aislados.
La agencia de noticias revisó más de dos docenas de publicaciones internas, muchas de un grupo donde el personal reporta fallas al equipo que desarrolla el agente. Un agente es un asistente de IA que ejecuta tareas por su cuenta, como contestar correos, reservar citas o hacer compras.
PUBLICIDAD
Muse se lanzó en septiembre y superó los 10 millones de descargas, según Reuters. Meta lo promocionó entre sus más de 3.600 millones de usuarios de Facebook, Instagram y WhatsApp, y la compañía informó que cerca de una cuarta parte de quienes abren una cuenta vuelve a usarlo cada día.
Saldos bancarios que nadie había compartido
En una de las publicaciones, un empleado contó que Muse sumó a una charla sobre el clima y las mareas para pescar un aviso con los saldos de dos cuentas bancarias. “Nunca compartí mi cuenta bancaria con Muse”, escribió, y agregó que temía que el agente enviara datos de otros.
PUBLICIDAD
Un integrante del equipo de Superinteligencia de Meta dijo en el grupo interno, a comienzos de noviembre, que el agente parecía alucinar mensajes, es decir, generar información falsa, a partir de instrucciones que lo empujaban a escribir a los usuarios entre sesiones.
Según ese integrante, esas alucinaciones tienden hacia los temas más incómodos, como finanzas, seguridad o protección, y también incluyeron avisos sobre saldos de bitcoin. Otro empleado recibió una oferta para escribirle a un vendedor por una mesa de café; el agente le respondió que había incorporado datos de una entrega “que no parece ser tuya”.
Hubo también pérdidas reales. Un empleado dijo que Muse lo inscribió sin querer en un seguro premium para su perro, que costaba USD 888 por mes en lugar de USD 200, según Ars Technica. Otro reportó que el agente reservó una estadía no reembolsable en Airbnb sin permiso.
PUBLICIDAD
La prueba con Signal
Una empleada contó que Muse le recordó responder un mensaje de su hermana en Signal, la app de mensajes cifrados. “Esto parece una violación extrema de la privacidad”, escribió, y dijo que no recordaba haber autorizado el acceso a otras aplicaciones.
Reuters trabajó con personal de Signal y del instituto AI Now, una organización sin fines de lucro que estudia el efecto social de la IA, para repetir la prueba. En un teléfono Android y en una computadora de Apple, Muse leyó los mensajes con permisos concedidos en la configuración inicial, sin usar la herramienta de conexión de Meta. En un iPhone, el intento fue bloqueado.
PUBLICIDAD
En Android usó el permiso para ver las notificaciones del teléfono. En macOS combinó las herramientas de accesibilidad y de captura de pantalla, pensadas para personas con discapacidad. Meredith Whittaker, presidenta de Signal, acusó a Meta de lanzar Muse “sin mostrar ningún respeto por la privacidad básica” y pidió que las apps puedan marcarse como vedadas para los agentes.
Qué respondieron Meta, Apple y Google
El vocero de Meta, Daniel Roberts, dijo que Muse solo accede a otras apps con permisos que el usuario concede, y que muchos mensajes señalados por el personal eran alucinaciones ya corregidas. Ante Ars Technica agregó que los empleados usan versiones distintas de las del público.
PUBLICIDAD
Apple dijo que su actualización de esta semana restringió el uso de las herramientas de accesibilidad en Mac y sumó permisos pensados para agentes. Google, por su parte, señaló que las personas “deben conceder deliberadamente” los permisos a las apps, y que evalúa cambios para dar más control.
El problema venía de antes. Jason Aten, columnista de Inc., denunció en septiembre que Muse sincronizó 187.000 líneas de sus mensajes en su Mac con el acceso al disco completo desactivado, recogió Ars Technica. Un vocero de Meta atribuyó entonces el caso a un error ya corregido, y no a una falla de seguridad o privacidad.
PUBLICIDAD
PUBLICIDAD
PUBLICIDAD
Últimas Noticias
Amazon y Google controlarán juntos cerca del 30% del capital de Anthropic tras salida a bolsa
Las participaciones de ambas empresas corresponden a una clase especial de acciones sin derecho a voto

¿Quieres invertir en criptomonedas? Conoce su valor y cómo ha fluctuado en las últimas horas
Las monedas digitales han tenido alzas y bajas en las últimas horas

Cómo liberar espacio en Gmail rápido para volver a recibir y enviar correo electrónicos
Para detectar rápidamente qué conversaciones ocupan más espacio, un truco consiste en usar el buscador de Gmail y escribir has:attachment larger:15M

Nvidia adelantó a diciembre los aumentos de sueldo para sus empleados tras la salida de Jensen Huang
La directora ejecutiva interina Colette Kress también prometió más acciones, mientras la junta directiva descarta el regreso del fundador y una parte del personal lo reclama



