Cientos de personas pueden revisar diariamente conversaciones mantenidas por usuarios con ChatGPT como parte de un programa interno de OpenAI destinado a mejorar las respuestas de su inteligencia artificial (IA).
Una investigación de 404 Media, basada en documentos filtrados y prompts reales, expuso detalles de un sistema de revisión humana identificado como Project Lily, mediante el cual contratistas analizan fragmentos de conversaciones que los usuarios mantienen con el chatbot.
PUBLICIDAD
El proceso implica que personas ajenas a OpenAI puedan acceder a conversaciones que, aunque son sometidas previamente a filtros de privacidad y no muestran directamente el nombre del usuario, pueden contener información médica, legal, financiera o de otro tipo que sea considerada sensible.
La existencia de revisores humanos no significa que cada conversación de ChatGPT sea leída de principio a fin. Sin embargo, el sistema demuestra que lo que un usuario escribe en el chatbot no necesariamente queda exclusivamente entre él y la inteligencia artificial.
Cómo funciona el sistema de revisión de OpenAI
De acuerdo con los documentos analizados por 404 Media, los contratistas que participan en Project Lily siguen una serie de instrucciones elaboradas por OpenAI para evaluar la calidad de las respuestas de ChatGPT.
PUBLICIDAD
El proceso comienza cuando el revisor recibe el prompt original escrito por un usuario. A partir de ese texto, debe elaborar un resumen breve sobre lo que considera que la persona está solicitando al chatbot.
Después analiza la respuesta generada por ChatGPT y compara cuatro respuestas diferentes para ese mismo prompt. El objetivo es determinar cuáles son más útiles y cuáles presentan problemas.
Los revisores deben identificar al menos tres fragmentos concretos de cada respuesta y explicar por qué consideran que funcionan correctamente o qué debería mejorarse. Entre los ejemplos incluidos en las instrucciones aparece el uso excesivo de emojis, que puede ser considerado un problema cuando no corresponde al contexto de la conversación.
PUBLICIDAD
Finalmente, cada respuesta recibe una puntuación del 1 al 7. La calificación más baja corresponde a una respuesta considerada inutilizable, mientras que la más alta representa una respuesta que apenas necesita mejoras.
Los filtros de privacidad no son infalibles
OpenAI sostiene que las conversaciones pasan por un filtro de privacidad antes de ser entregadas a los contratistas. El objetivo es detectar y eliminar información personal para reducir el riesgo de exposición.
Sin embargo, la propia compañía reconoce que este sistema puede cometer errores. Por ello, existe la posibilidad de que determinados datos sensibles permanezcan en las conversaciones que posteriormente son revisadas por personas.
PUBLICIDAD
Este punto resulta especialmente relevante porque los usuarios pueden utilizar ChatGPT para tratar asuntos relacionados con su salud, problemas legales, información financiera, relaciones personales o cuestiones laborales.
Aunque los datos entregados a los revisores no incluyen directamente el nombre de usuario, la eliminación de un identificador no garantiza que una conversación carezca de información personal.
Cómo evitar que tus conversaciones se utilicen para mejorar la IA
OpenAI ofrece una opción para impedir que las nuevas conversaciones sean utilizadas para mejorar sus modelos. Para modificarla, el usuario debe ingresar a ChatGPT y acceder a Configuración.
PUBLICIDAD
Después debe entrar en Controles de datos y desactivar la opción “Mejora el modelo para todos”. De esta manera, las conversaciones futuras no se utilizarán con ese propósito.
La medida no tiene carácter retroactivo. Es decir, desactivar esta función no modifica el tratamiento de las conversaciones anteriores.
La investigación también pone de relieve una diferencia entre la expectativa de privacidad que puede tener un usuario al conversar con un chatbot y la forma en que funcionan estos sistemas. Aunque ChatGPT es una herramienta automatizada, determinadas conversaciones pueden llegar a procesos de revisión humana para evaluar y mejorar el comportamiento de la IA.
PUBLICIDAD
PUBLICIDAD