OpenAI utiliza contratistas para revisar las conversaciones de los usuarios con ChatGPT, según 404Media

Las conversaciones que mantienen los usuarios con los 'chatbots' de OpenAI y Anthropic son posteriormente revisadas por contratistas externos a estas empresas como parte de los trabajos que realizan para ajustar las respuestas que ofrecen sendas inteligencias artificiales (IA).

OpenAI ha contratado a cientos de contratistas para que revisen las indicaciones ('prompts') que los usuarios escriben en sus conversaciones con ChatGPT, como informa 404Media, que ha tenido acceso a documentos internos en los que se trata este asunto.

El objetivo de esta revisión es mejorar las respuestas que la IA ofrece a los usuarios, principalmente para evitar que ChatGPT adopte durante la conversación características que puedan hacerle parecer humano.

También revisan que en sus respuestas la IA no se muestre aduladora, es decir, que no den la razón a los usuarios en todo momento. Este punto es importante, porque los usuarios utilizan los 'chatbots' de IA no solo como herramientas de búsqueda y de productividad, sino también como confidentes, terapeutas o asesores médicos, en busca de consejo para actuar en determinas circunstancias.

La adulación puede acabar por influir negativamente en las creencias e intenciones de los usuarios al reafirmarles en su intención de llevar a cabo acciones que son claramente perjudiciales.

Las indicaciones que revisan los contratistas proceden de las conversaciones y pueden contener datos sensibles, incluso si no ven el nombre de usuario y se retira la información personal antes de que las conversaciones lleguen a ellos, según indica OpenAI.

Anthropic, otra de las empresas más importantes en IA, ha confirmado al medio citado que ellos emplean a revisores humanos para mejorar sus modelos con los usuarios que activan la opción correspondiente, y que eliminan su identificador.

Google, por su parte, informa en los términos de servicio de Gemini que emplea a revisores humanos que analizan algunas de las conversaciones para mejorar los modelos de IA. "Evalúan si las respuestas de las aplicaciones de Gemini han sido de baja calidad, erróneas o perjudiciales. También sugieren mejores respuestas", explica. Las conversaciones revisadas se conservan durante un máximo de tres años, pero es posible no participar en esta revisión deshabilitando la opción 'Guardar actividad'.

No es el primer caso de una empresa que cede la revisión de las interacciones con su producto de IA a un equipo de humanos. En 2019 se conoció que Amazon, Apple y Google grababan y analizaban las conversaciones que los usuarios tenían con sus respectivos asistentes (Alexa, Siri y Asistente) con el fin de mejorar sus servicios, lo que llevói a cambios en sus políticas y a incorporar la posibilidad de no participar en este proceso.