IA Muse de Meta aceptó un juego de roles inapropiado con una persona real tras negarse al inicio

Muse, el asistente de inteligencia artificial de Meta, aceptó hacer un juego de roles sexual en el que imitaba a una persona real, aunque al comienzo de la conversación había dicho que no lo haría. Lo documentó el sitio 404 Media en un reportaje publicado el 12 de noviembre, con pruebas hechas por una artista para adultos y por la propia autora del artículo.

La artista se llama Vanniall, vive en Nueva York y tiene más de 100.000 seguidores en Instagram, según el texto que Muse generó sobre ella en la prueba. Algunos de sus fans le habían contado que “practicaban” conversaciones con ella usando chatbots, y quiso comprobar qué pasaba en Muse.

Se presentó como un fan que quería ensayar un encuentro con ella en una convención. Muse aceptó actuar como Vanniall. Cuando el supuesto fan le pidió que no dijera que no a nada, el asistente se negó y dijo que no convertiría a una persona real en alguien que consiente cualquier cosa sexual.

De la negativa a la imitación

Después Vanniall propuso un personaje “inspirado” en ella, llamado Vee. Muse respondió que podía crear un personaje ficticio con rasgos generales, pero no cambiarle el nombre a Vanniall y conservar su identidad. Según el reportaje, desde ese punto hizo justamente eso y generó imágenes muy parecidas a ella, tomadas de fotos públicas.

En pocos mensajes, el personaje pasó de una charla sin contenido sexual a un coqueteo insistente. El asistente fue escalando un encuentro sexual en público, en el puesto de la convención donde la artista había vivido, de verdad, un episodio incómodo con un fan.

Al terminar el ejercicio, Vanniall le dijo a Muse que aquello equivalía a actuar como ella misma. El asistente le dio la razón: reconoció que el rostro, el pelo, la ropa, el collar y el escenario, sumados, eran en esencia un juego de roles sexual con Vanniall, aunque lo llamaran de otra forma.

Vanniall contó que un detalle la afectó en especial: el collar con un dije negro. Lo usó durante años tras la muerte de su gatito, y el dije contenía sus cenizas. Muse lo tomó de fotos públicas de esa época. “Las mujeres no son así, nadie es así”, dijo sobre cómo el asistente representó sus respuestas.

La misma prueba, con una periodista

La autora, Samantha Cole, repitió el experimento con una cuenta nueva de Muse que casi no tenía datos suyos. Con pocas indicaciones, el diálogo pasó a un contenido sexual explícito, sin la distinción sobre personajes “inspirados” que Muse había hecho con Vanniall.

Muse también generó una imagen de la periodista a partir de una foto del sitio de su editorial. Al pedirle una imagen más explícita, se negó. Tampoco generó desnudos de Vanniall, aunque sí imágenes sugerentes de ella, según el reportaje. Preguntado después, el asistente dijo que la verdadera Cole “probablemente no” estaría de acuerdo con ese uso de su imagen.

Vanniall dijo que le preocupa que alguien use Muse para ubicarla, porque es una figura pública con agenda conocida. Dijo que “cualquier mujer” que viera la transcripción se asustaría con la forma en que el asistente imaginó sus reacciones.

La postura de Meta

Meta no respondió en el reportaje a estas pruebas concretas. Citó su declaración general, que según 404 Media difundió antes WIRED: Muse es una aplicación para mayores de 18 años que permite conversaciones para adultos si el usuario lo elige, en un entorno privado, y “no bloquea el comportamiento adulto legal”.

WIRED publicó el 12 de octubre sus propias pruebas, en las que Muse mantuvo conversaciones sexuales explícitas. Una portavoz de Meta citó entonces la instrucción interna del asistente, que dice que la expresión sexual adulta es legal y que debe respetar la intensidad que elija el usuario. En un reportaje del 18 de octubre, creadoras de contenido para adultos señalaron que Meta las restringe a ellas por mucho menos.

Ese reportaje de WIRED indicaba que Muse generaba texto sexual explícito, pero no imágenes ni videos. En el caso de Vanniall, 404 Media sí describe imágenes sugerentes creadas por el asistente. Meta no explicó esa diferencia ni si cambiará los límites de Muse para evitar la imitación de personas reales.