El método con inteligencia artificial que utiliza una autoridad de Alemania para gestionar reclamos por privacidad

La autoridad de protección de datos de Hamburgo, en Alemania, usa un chatbot basado en un modelo de OpenAI para redactar borradores de cartas en la tramitación de quejas de privacidad. Lo detalló en un estudio de caso de nueve páginas del 5 de noviembre. El organismo recibió 4.220 reclamos en 2025, un 62% más que el año anterior.

El personal no creció al mismo ritmo, según el documento, y en 2026 las quejas siguen subiendo a una velocidad parecida. La autoridad, que responde al cargo de comisionado de Protección de Datos y Libertad de Información de Hamburgo, presenta el uso del chatbot como una herramienta de apoyo estrictamente limitada.

Las quejas pasaron de 2.607 en 2024 a 4.220 en 2025, según un comunicado de la propia autoridad del 8 de enero. El mayor salto se dio en redes sociales y sitios de citas: de 386 a 1.052. La mayoría apuntó a Facebook e Instagram, de Meta, por el uso de datos para entrenar su IA y por su modelo de pago o consentimiento.

Entre las causas del aumento, el comunicado menciona el uso creciente de herramientas de IA por parte de los ciudadanos, que facilitan informarse sobre sus derechos y presentar reclamos.

Un chatbot construido sobre el modelo GPT-5.6 Terra

El sistema se llama LLMoin. El gobierno de Hamburgo lo encargó pocos meses después del lanzamiento de ChatGPT y hoy está disponible para todas las autoridades de la ciudad y, cada vez más, para organismos de otros estados federales. Su núcleo es un modelo de OpenAI, actualmente GPT-5.6 Terra, alojado en la nube de Microsoft Azure.

El regulador parte de una premisa poco habitual: da por hecho que el modelo, con alta probabilidad, no es anónimo y puede contener datos personales absorbidos durante su entrenamiento. Se apoya en una opinión de diciembre de 2024 del comité que reúne a las autoridades de protección de datos de la Unión Europea, que permite usar esos modelos si el sistema impide que esos datos salgan.

Para eso, LLMoin aplica filtros de salida, un filtro que suprime contenido de odio, sexual, violento o de autolesión, instrucciones internas que prohíben tomar decisiones o revelar datos personales no aportados por el usuario, y pruebas de ataque simulado que encargó la Cancillería del Senado de Hamburgo. El regulador consideró suficientes esas medidas.

Las reglas: leer todo el expediente y revisar cada borrador

Según el estudio, los funcionarios deben leer primero el expediente completo y no guiarse por un resumen generado por IA. Después deciden qué tipo de carta enviar y qué argumentos incluir. El sistema solo ayuda a redactar y ordenar lo que los empleados ya resolvieron, y si faltan consideraciones, les pregunta por ellas. Los resultados deben revisarse siempre.

La autoridad prohíbe que el chatbot decida sobre las quejas o haga valoraciones jurídicas. Tampoco admite datos que requieran alta protección: las quejas sobre consultorios de psicoterapia o procesos penales, por ejemplo, las trata solo personal humano. El regulador no usa el sistema para redactar el aviso de derechos de apelación, porque debe reproducirse palabra por palabra.

El documento aclara que la ley no exige indicar en cada carta que fue redactada en parte con IA. La autoridad informa del uso en su política de privacidad. También reconoce que el sistema produce una estandarización notable del estilo con que el organismo se presenta al público.

Para 2027, la ciudad prepara una configuración con un modelo alojado en servidores propios de Dataport, el proveedor informático de la administración, con el objetivo de que el sistema pueda manejar datos de mayor confidencialidad.