Meta revisará las sugerencias de su IA ante la queja de los usuarios por hacerles preguntas personales

Meta anunció que modificará las sugerencias de su chatbot de inteligencia artificial después de que una usuaria denunciara que el sistema le planteó preguntas personales relacionadas con sus hijos.

La compañía reconoció que la función no debería haber generado ese tipo de recomendaciones y aseguró que ya solucionó el problema que permitía que aparecieran sugerencias sobre asuntos personales.

Dina El-Kassaby, portavoz de Meta, afirmó a The Verge que la empresa “se equivocó” y que la función “nunca debería haber sugerido ese tipo de preguntas al usuario”. La decisión se conoció después de que un video publicado por la usuaria de Instagram Kalie Robins se volviera viral y generara críticas sobre la manera en que Meta AI utiliza información disponible en las plataformas de la compañía.

Una pregunta sobre su hijo desencadenó la polémica

Robins explicó que el problema comenzó después de publicar en Facebook un video en el que aparecía cantando con su hijo dentro de un automóvil. Debajo del contenido apareció una sugerencia de Meta AI que decía: “¿Quién es el niño pasajero?”.

Al seleccionar la pregunta, según relató la usuaria, el chatbot comenzó a ofrecer información relacionada con sus hijas. Robins afirmó que la herramienta utilizó datos presentes en publicaciones anteriores de ella y de otros familiares.

La IA también le habría sugerido nuevas preguntas relacionadas con la edad de sus hijos y el lugar donde vive su familia. Además, Robins aseguró que Meta AI le mostró fotografías de sus hijas que habían sido publicadas anteriormente en la plataforma, incluida una imagen que, según su relato, había eliminado años atrás.

El caso generó preocupación porque mostró cómo una herramienta diseñada para facilitar la interacción con una publicación puede relacionar diferentes datos personales y convertirlos en sugerencias de conversación.

Meta asegura que la IA no accede a contenido privado

Ante las críticas, Meta sostuvo que su sistema no puede mostrar publicaciones que el usuario no tenga permitido consultar.

“El contenido al que responde Meta AI es contenido al que el usuario que realiza la consulta ya puede acceder”, explicó El-Kassaby. La portavoz añadió que, si una persona no puede ver una publicación, Meta AI tampoco debería mostrarla.

La compañía también señaló que, en el caso de Robins, el chatbot pudo haber obtenido información sobre sus hijos a partir de videos y otras publicaciones en las que ella misma los había mencionado.

De acuerdo con esta explicación, el problema no habría sido que Meta AI accediera a información privada de otras personas, sino que el sistema utilizara información disponible para el usuario para generar preguntas que resultaron demasiado personales.

La función fue creada para facilitar las consultas

Meta explicó que las sugerencias forman parte de una función diseñada para ayudar a las personas a obtener más información sobre los contenidos que están viendo.

Cuando un usuario selecciona una de estas recomendaciones, Meta AI genera una respuesta a partir de la información que tiene disponible. Sin embargo, la compañía reconoció que el sistema cruzó información de una manera que produjo una sugerencia inapropiada.

La revisión busca evitar que la inteligencia artificial formule preguntas sobre temas personales, incluso cuando la información utilizada para generarlas sea técnicamente accesible para el usuario.

Meta AI está integrada en varias plataformas

El asistente de inteligencia artificial de Meta está disponible dentro de Facebook, Instagram, WhatsApp y Messenger. La herramienta puede responder preguntas, ayudar a redactar publicaciones y generar imágenes, entre otras funciones.

La compañía ha enfrentado anteriormente críticas por algunas de sus herramientas de inteligencia artificial. En julio, Meta retiró una función que permitía crear imágenes falsas de otros usuarios de Instagram después de recibir fuertes cuestionamientos.

El nuevo episodio vuelve a poner el foco en los límites que deben tener los asistentes de IA al utilizar información personal. Aunque Meta sostiene que el sistema solo emplea contenido al que el usuario ya puede acceder, el caso de Robins muestra que el problema también puede estar en la forma en que la IA interpreta y relaciona esos datos.

Meta asegura que ya modificó el comportamiento que provocaba las sugerencias sobre asuntos personales. El objetivo será mantener las recomendaciones como una herramienta útil para explorar publicaciones, pero sin convertir información familiar o privada en preguntas que puedan resultar invasivas para los usuarios.