Amazon bloquea a Muse, la IA de Meta que puede realizar compras por internet sin supervisión humana

Amazon bloqueó el acceso de Muse, el nuevo agente de inteligencia artificial de Meta, a su plataforma de comercio electrónico después de determinar que el sistema podía realizar compras y acceder a información de las cuentas sin autorización de la compañía.

Amazon sostiene que Meta nunca solicitó permiso para que Muse utilizara su sitio web. La compañía también cuestiona que el agente no se identifique mientras navega por Amazon y afirma que puede acceder a páginas de cuentas e historiales de pedidos cuando el usuario se lo solicita.

Desde el domingo por la noche, quienes intentaban utilizar Muse para comprar en Amazon encontraban un mensaje que advertía que el acceso continuado de un agente de IA no autorizado infringía las condiciones de uso de la plataforma.

Amazon cuestiona cómo funciona Muse

El principal argumento de Amazon es que Muse opera como un tercero que accede a su plataforma sin que la empresa haya aceptado esa interacción. Según la compañía, esto puede generar riesgos relacionados con la privacidad, la seguridad y el manejo de información confidencial.

Amazon también afirmó que Muse aparentemente captura y almacena credenciales proporcionadas por los usuarios. Meta, sin embargo, sostiene que el agente no puede ver las contraseñas ni los métodos de pago. La empresa asegura que esas credenciales se almacenan de forma segura para que Muse pueda utilizarlas sin acceder directamente a ellas.

El problema está relacionado con la forma en que Meta diseñó el agente. Muse puede conectarse a servicios que cuentan con una API pública utilizando las credenciales entregadas por el usuario. Cuando un servicio no dispone de una API, Meta explica que Muse puede utilizarlo mediante un navegador, de una manera similar a como lo haría una persona.

Muse puede realizar compras y otras tareas

Meta presentó Muse el 8 de septiembre como un agente personal capaz de completar tareas de varios pasos. A diferencia de un chatbot tradicional, el sistema puede interactuar con servicios de correo electrónico, calendarios, restaurantes, pagos y plataformas de compras.

El agente está disponible de forma gratuita, con opciones de suscripción, y puede utilizarse en iOS, Android, WhatsApp y desde la web de Muse.

Meta afirma que Muse funciona dentro de una máquina virtual segura y que cuenta con su propio navegador. Además, el sistema consulta al usuario antes de realizar acciones consideradas delicadas, como enviar un correo electrónico o efectuar una compra. Un agente independiente denominado Sentinel debe aprobar todo lo que Muse envía a internet.

A pesar de estas medidas, Amazon considera que el hecho de que Muse pueda navegar por su plataforma sin identificarse plantea un problema diferente: el sitio no puede distinguir fácilmente entre una persona y un agente automatizado que está actuando en su nombre.

El conflicto llega después de otros enfrentamientos

La disputa con Meta forma parte de una estrategia más amplia de Amazon para limitar el acceso de agentes externos a su plataforma. Durante el último año, la compañía también ha tomado medidas contra agentes de compras desarrollados por otras empresas.

Uno de los casos más importantes involucra a Perplexity y su navegador Comet. Amazon obtuvo inicialmente una orden judicial preliminar, pero posteriormente un tribunal de apelaciones estadounidense determinó que, bajo la legislación federal contra el acceso no autorizado a sistemas informáticos, era el usuario y no necesariamente la empresa de IA quien accedía a los ordenadores de Amazon.

El fallo dejó abierta, no obstante, la posibilidad de que Amazon utilice argumentos contractuales y relacionados con sus condiciones de servicio. Precisamente ese es el lenguaje que aparece ahora en el mensaje mostrado a los usuarios de Muse.

Amazon y Meta también son socios comerciales

El enfrentamiento resulta especialmente significativo porque Amazon y Meta mantienen relaciones comerciales. Los usuarios pueden comprar productos de Amazon desde Facebook e Instagram desde 2023, mientras que Meta también mantiene un acuerdo con Amazon para utilizar sus chips Graviton en determinadas cargas de trabajo de inteligencia artificial.

Para Amazon, además, el control sobre su plataforma tiene una dimensión económica importante. La compañía obtuvo más de 68.000 millones de dólares en ingresos publicitarios durante el último año, un negocio estrechamente relacionado con el tráfico de usuarios y la exposición de productos patrocinados.

Amazon asegura que está conversando directamente con Meta y no ha confirmado si emprenderá acciones legales.

La carrera por controlar las compras con IA

Muse se ha convertido rápidamente en uno de los nuevos ejemplos de agentes capaces de ejecutar tareas en internet. Una semana después de su lanzamiento llegó al primer puesto entre las aplicaciones gratuitas de la App Store estadounidense, incluso por encima de ChatGPT.

Sus primeros usuarios han utilizado el agente para tareas como buscar descuentos, modificar pólizas de seguros y completar carritos de compra.

Amazon también desarrolla sus propios sistemas de compra asistida. En mayo lanzó Alexa for Shopping y cuenta con Buy for Me, una función capaz de buscar productos en sitios externos. La diferencia, según Amazon, es que su sistema se identifica ante las marcas y permite que estas decidan si quieren participar.