El creador de Signal lanza un 'chatbot' de IA privado

Marlinspike afirma que solo los usuarios pueden consultar la información generada por Confer y garantiza que dichos datos no se utilizan para entrenar modelos de inteligencia artificial, ni se transfieren a terceros ni se comparten con otras entidades. Según publicó Europa Press, Moxie Marlinspike, responsable de la plataforma de mensajería segura Signal, ha presentado Confer, un chatbot de inteligencia artificial centrado en la privacidad total en las comunicaciones digitales.

Europa Press detalla que la principal innovación de Confer consiste en replicar las garantías de confidencialidad presentes en Signal, trasladándolas a la interacción con modelos de IA. El sistema pretende equiparar el nivel de protección de las conversaciones personales cara a cara, aplicando técnicas avanzadas de cifrado de extremo a extremo. Con este enfoque, la comunicación con la inteligencia artificial a través de Confer permanece bajo el control absoluto del usuario, quien tiene la certeza de que otras personas, empresas o servidores no accederán al contenido.

De acuerdo con Europa Press, la preocupación de Marlinspike surge ante el uso habitual de los chatbots de IA, ya que muchos usuarios los emplean como si fueran confidentes, revelando información personal e íntima. Sin embargo, estas conversaciones quedan expuestas porque, en muchas ocasiones, los chatbots funcionan como un “punto final de API a un lago de datos diseñado específicamente para extraer significado y contexto”. Por este motivo, Confer busca responder a los riesgos derivados del funcionamiento de los modelos de lenguaje de gran tamaño, proporcionando una herramienta donde la privacidad sea el elemento central.

Europa Press especifica que Confer se encuentra disponible a través de la web en cualquier sistema operativo, recurriendo a un sistema de acceso basado en claves o ‘passkeys’, compatible con la extensión WebAuthn PRF para navegadores Chrome, Safari y Firefox. Aunque el soporte todavía no alcanza a todas las plataformas y, en algunos casos, requiere gestores de contraseñas, la infraestructura garantiza la protección del historial de chat por medio de una clave privada que permanece siempre en el dispositivo del usuario.

El medio señala que la seguridad de la interacción se refuerza mediante la ejecución de la conversación en un entorno de confianza, conocido como TEE (Trusted Execution Environment). A lo largo de todo el proceso de inferencia —el momento en el que el usuario envía una solicitud y recibe una respuesta de la IA—, la operación ocurre dentro de una máquina virtual confidencial. Tanto las indicaciones enviadas por el usuario como las respuestas generadas por el chatbot se mantienen cifradas, sin que el servidor ni las empresas encargadas del servicio tengan acceso al texto en ningún momento.

Europa Press añade que, además de estas medidas, hay protocolos adicionales de protección involucrados en el procesamiento de datos. El diseño de Confer asegura que en ningún caso los registros de las conversaciones se almacenan en texto plano, impidiendo cualquier acceso no autorizado. Ni siquiera los encargados de su infraestructura técnica pueden consultar el contenido que los usuarios comparten con el chatbot.

Según remarca Europa Press, Marlinspike ha construido este sistema siguiendo la premisa de que la privacidad de los usuarios no debe estar sujeta a decisiones corporativas o comerciales. Por ello, destaca que las interacciones realizadas con Confer no solo permanecen inaccesibles desde el exterior, sino que tampoco contribuyen a mejorar ni a entrenar el propio modelo de inteligencia artificial. El compromiso se extiende a la prohibición de vender u ofrecer esos datos a terceros bajo cualquier circunstancia.

El lanzamiento de Confer responde a dinámicas recientes en el uso de la inteligencia artificial, donde cada vez más personas emplean chatbots como diarios personales o depósitos de información sensible. Conforme indica Europa Press, esta tendencia ha generado debate sobre el nivel de protección efectivo que ofrecen dichas herramientas, y la propuesta de Marlinspike apunta a elevar el estándar en el sector, trasladando los principios ya adoptados en Signal al terreno de la IA. El sistema sostiene que toda conversación entre usuario e IA debe contar con los mismos niveles de confidencialidad que el diálogo humano directo.

Europa Press concluye que, aunque aún existen limitaciones técnicas relacionadas con la disponibilidad de las extensiones y la necesidad de gestores de contraseñas en ciertas plataformas, Confer representa un intento por redefinir la relación entre privacidad y tecnología en el contexto de la inteligencia artificial, poniendo el control y la seguridad exclusivamente en manos del usuario.