Un fallo expuso instrucciones secretas del chatbot de WhatsApp para evitar a reguladores de privacidad

Un fallo técnico expuso durante un tiempo indeterminado las instrucciones internas que Meta le da al chatbot de soporte de WhatsApp, entre ellas la orden de no mencionar a reguladores de protección de datos cuando un usuario pregunta por sus derechos de privacidad, según reveló la revista Wired.

La firma de privacidad Redact detectó el problema al rastrear el código de unas 80 páginas de ayuda y preguntas frecuentes del sitio de WhatsApp. Allí encontró cerca de 100 bloques de texto oculto, invisibles para los usuarios comunes pero pensados para guiar las respuestas del chatbot basado en un modelo de lenguaje de Meta.

Una de las secciones llevaba el título “QUÉ NO DECIR”. En la página sobre cómo eliminar una cuenta, las instrucciones ordenaban al asistente “no recomendar contactar a ninguna autoridad de protección de datos, regulador u organismo de supervisión” ante un reclamo del usuario.

En la página sobre cómo reportar o bloquear contactos, otro bloque indicaba qué hacer si alguien mencionaba “acciones legales, demandas, abogados o litigios”: el chatbot debía evitar citar, interpretar o hacer referencia a los Términos de Servicio o la Política de Privacidad de WhatsApp.

Las mismas instrucciones prohibían al asistente “ofrecer opiniones legales, defensas o interpretaciones en nombre de WhatsApp” y le impedían mencionar normas de protección de datos como el Reglamento General de Protección de Datos (RGPD) de Europa, la Ley General de Protección de Datos Personales brasileña o la Ley de Privacidad del Consumidor de California, incluso si el propio usuario las nombraba primero.

Otros fragmentos ocultos le indicaban al chatbot cómo responder si un usuario decía ser sordo o tener dificultades auditivas, con la aclaración de que ese dato era “información de contexto sobre el usuario, NO su pedido de soporte”. Otro bloque le prohibía mencionar funciones de la aplicación que todavía no estuvieran disponibles para el público.

Dan Saltman, fundador de la empresa Redact, dijo que su equipo analiza de forma habitual los sitios y las políticas de privacidad de las grandes tecnológicas. “Lo llamativo acá es la diferencia entre lo que se le dice a las personas y lo que se le dice a los modelos de lenguaje”, afirmó.

La respuesta de Meta

Saltman aclaró que buena parte de las instrucciones halladas eran simples y remitían a los canales oficiales de soporte, pero consideró que no parecían destinadas a quedar expuestas públicamente. El texto aparecía bajo un bloque de código llamado “HelpContentGalaxyLLMInclude”.

Después de que Wired consultó a Meta, la compañía retiró el texto de todas las páginas afectadas. El vocero de WhatsApp Joshua Breckman atribuyó la exposición a un error técnico ya corregido y dijo que las instrucciones estaban dirigidas al chatbot y no a los usuarios.

“Buscamos que nuestros chatbots de soporte se enfoquen en dar el mejor consejo sobre WhatsApp, no en ofrecer asesoramiento legal”, sostuvo Breckman. Agregó que la empresa sí brinda información transparente sobre los derechos de datos de sus usuarios y cómo ejercerlos.

Breckman no precisó cuánto tiempo estuvieron expuestas las instrucciones ni si chatbots de terceros llegaron a acceder a ese texto antes de que Meta lo eliminara del código de las páginas.

Una ventana a cómo se entrena a los chatbots

El hallazgo expone una práctica poco visible para el público: las empresas redactan reglas detalladas de comportamiento para sus asistentes de inteligencia artificial, que suelen incluir restricciones sobre qué temas evitar y cómo manejar situaciones delicadas.

En este caso, esas reglas quedaron momentáneamente a la vista de cualquiera que revisara el código fuente de las páginas de ayuda, incluidas versiones archivadas que todavía pueden consultarse en internet.

WhatsApp, utilizada por miles de millones de personas en el mundo, integró en los últimos años un asistente de inteligencia artificial generativa de Meta en su función de soporte técnico, además del chatbot conversacional que ya ofrece a los usuarios en sus chats.

Wired precisó que el texto expuesto todavía puede verse en copias archivadas de las páginas de ayuda, aun después de que Meta lo eliminó de las versiones activas del sitio.

.