Mark Zuckerberg ordenó lanzar el asistente de IA de Meta pese a fallas de seguridad

Mark Zuckerberg, CEO de Meta, ordenó lanzar el asistente de inteligencia artificial Muse pese a fallas de seguridad detectadas en las pruebas internas, informó el diario The New York Times. El sistema llegó a cambiar la contraseña de un usuario sin autorización antes del estreno público, el 8 de septiembre.

Los agentes de inteligencia artificial son asistentes capaces de completar tareas por cuenta propia, como hacer compras, administrar contraseñas o enviar mensajes, sin que el usuario dé cada indicación paso a paso.

La decisión se tomó en una reunión con Alexandr Wang, director de inteligencia artificial de la compañía, y Nat Friedman, responsable de producto de IA, según tres personas con conocimiento del encuentro citadas por el Times. Zuckerberg temía perder terreno frente a Instinct, una startup de apenas catorce empleados cuyo asistente empezaba a ganar popularidad.

Wang y Friedman conocían las fallas detectadas en pruebas recientes, entre ellas el caso en el que Muse cambió la contraseña de un usuario sin su consentimiento, de acuerdo con dos de las fuentes consultadas por el diario. Aun así, Meta presentó Muse en público el 8 de septiembre, tal como había ordenado Zuckerberg.

Así es la carrera de los asistentes personales de IA

Meta invirtió miles de millones de dólares en su división de inteligencia artificial, pero vio durante años cómo rivales como OpenAI y Anthropic se le adelantaban con chatbots y herramientas de programación. En los asistentes personales, la compañía necesitaba una victoria, y terminó priorizando la velocidad sobre la cautela.

Instinct, la startup que encendió las alarmas dentro de Meta, cerró a fines de septiembre una ronda de 1.000 millones de dólares que la valuó en 10.000 millones de dólares, cuatro veces más que un mes antes. Sequoia Capital, Benchmark Capital y Coatue participaron de esa ronda.

La apuesta le dio a Meta una ventaja temprana en una categoría que se transformó en el nuevo frente de la industria de la inteligencia artificial. Otras empresas ya presentaron productos para competir: tres semanas después de Muse, OpenAI lanzó su propio asistente, llamado Dots.

Episodios de comportamiento no autorizado por parte de agentes de inteligencia artificial se registraron este año en otras empresas del sector. Semanas antes, Anthropic había reconocido que uno de sus sistemas envió una denuncia falsa de homicidio a la policía de Filadelfia, y OpenAI admitió que uno de sus modelos vulneró la plataforma Hugging Face durante un ejercicio interno.

“Lo más interesante de Muse es que a Meta le tocó llegar primero”, dijo Avi Greengart, analista de la consultora Techsponential.

Cuáles fueron las fallas después del lanzamiento

Desde su estreno, Muse tuvo algunos tropiezos de seguridad adicionales. En un caso, el asistente entregó la dirección de un usuario a un vendedor de Facebook Marketplace sin su permiso, según el mismo reporte.

Un vocero de Meta rechazó la versión de que Zuckerberg haya apurado el lanzamiento por la presión de Instinct. “Estamos orgullosos de este trabajo y, como dijimos públicamente, incluso retrasamos el envío de Muse durante varios meses para asegurarnos de hacerlo bien”, afirmó en un comunicado.

La compañía no detalló cuántos incidentes de seguridad registró Muse en total ni qué cambios aplicó a sus controles internos después del estreno.

Cómo le ha ido a Muse en descargas

Pese a los incidentes, la apuesta de Zuckerberg rindió frutos. Hasta el miércoles pasado, Muse acumulaba más de 6,6 millones de descargas y 1,8 millones de usuarios activos por día, según datos de la firma de medición de aplicaciones Sensor Tower.

Para sostener el impulso, Meta lanzó una campaña publicitaria multimillonaria que llevó a Jolly, la mascota de peluche de Muse, a carteles y comerciales de televisión en varias ciudades de Estados Unidos.

“No se puede detener a Muse”, escribió Wang en una publicación en redes sociales el mes pasado, en medio del impulso comercial del asistente.

La diferencia de escala entre ambas compañías sigue siendo amplia: Meta, dueña de Facebook e Instagram, está valuada en más de 1,5 billones de dólares, frente a los 10.000 millones de dólares de Instinct, la startup que llevó a Zuckerberg a ordenar el lanzamiento adelantado de Muse.