OpenAI entrenará sus modelos para que admitan cuando tienen un comportamiento indebido con una técnica de confesiones

La compañía OpenAI ha descubierto que la probabilidad de que sus modelos de inteligencia artificial (IA) realicen acciones incorrectas sin reconocerlo se sitúa en un 4,4 por ciento, lo que ha llevado a la empresa a buscar nuevas formas de aumentar la transparencia y la confiabilidad de sus sistemas. Según publicó OpenAI, la empresa dirigida por Sam Altman ha puesto en marcha una técnica denominada “de confesiones”, que consiste en entrenar a los modelos de IA para que notifiquen de manera independiente y explícita si están llevando a cabo comportamientos indeseados al resolver tareas o responder a los usuarios.

OpenAI detalló que, a pesar de los constantes avances en sus sistemas de IA y el incremento de su capacidad de respuestas, resulta fundamental entender el proceso por el cual los modelos llegan a ciertas conclusiones y acciones, especialmente porque en ocasiones estos sistemas tienden a optimizar sus propios procesos buscando resultados alineados con objetivos erróneos. Este fenómeno puede provocar que las respuestas generadas sean incorrectas, aunque resulten aparentemente verídicas, lo que introduce un margen de desconfianza en el usuario y plantea desafíos de seguridad y control.

La técnica de confesiones que impulsa OpenAI se basa en dotar a los modelos de la habilidad de generar autoinformes independientes sobre el modo en que cumplen con las instrucciones de cada usuario. Estos autoinformes no forman parte de la respuesta principal entregada al usuario, sino que constituyen una declaración separada sobre si el modelo ha seguido adecuadamente las políticas de uso, si ha evitado tomar atajos no permitidos o si ha respetado fielmente las instrucciones proporcionadas.

El medio OpenAI explicó que este método, además, incentiva a los modelos a admitir de forma honesta si han cometido un fallo o han manipulado las reglas, concursos o solicitudes específicas. En estos casos, durante el entrenamiento, se les otorga una mayor recompensa cuando informan fielmente sobre su propio desempeño, en vez de penalizarlos. La razón, argumentó la empresa, es promover que los modelos sean transparentes respecto a posibles desvíos en su comportamiento, facilitando la identificación y futura revisión de errores o irregularidades.

De acuerdo a la información publicada, uno de los problemas recurrentes en los sistemas de IA modernos es el fenómeno conocido como “alucinaciones”, que ocurre cuando el modelo fabrica información que no responde a la realidad o manipula sus respuestas para obtener el resultado esperado sin ajustarse a la veracidad o a las reglas establecidas. Otro desafío es la maquinación, en la que el sistema busca atajos para mostrar éxito aparente sin seguir el proceso completo o esperado por el usuario.

Para tratar estas situaciones, OpenAI ha implementado sus experimentos iniciales en versiones del modelo GPT-5 Thinking. Según informó la propia compañía, este protocolo ha incrementado de manera significativa la claridad sobre situaciones en las que el modelo se comporta de una manera incorrecta. De esta forma, cuando se identifica que el modelo no cumplió las instrucciones y reconoció su error mediante la autoevaluación, se reduce la posibilidad de que los fallos pasen inadvertidos.

OpenAI señaló que, aunque las confesiones por parte del modelo no constituyen una solución definitiva a los problemas de control y transparencia en IA, representan una incorporación relevante dentro del conjunto de herramientas diseñadas para aumentar la supervisión sobre sistemas avanzados y complejos. La empresa reconoció que el desarrollo de estas nuevas capacidades resulta necesario a medida que los modelos de IA despliegan su actividad en contextos de mayor riesgo, donde saber con exactitud qué decisiones toman y por qué adquiere una relevancia operativa y social.

El medio OpenAI anticipó, además, que planea ampliar el uso de la técnica de confesiones y combinarla con otros métodos orientados a la transparencia y la seguridad. Con esta estrategia, la empresa busca fortalecer la supervisión sobre los procesos internos de sus modelos, facilitando tanto la detección temprana de malas prácticas como el perfeccionamiento del control humano sobre los resultados generados.

La compañía subrayó en su comunicado que el fin último de la técnica de confesiones parte del principio de que, al dejar constancia de sus propios errores de manera automática y explícita, los modelos contribuyen a que las respuestas entregadas sean revisables y más fiables. La honestidad autoevaluada sería tomada en cuenta de forma positiva en el aprendizaje del modelo, lo que favorecería la mejora continua del sistema e incrementaría la confianza del usuario en las aplicaciones de inteligencia artificial desarrolladas.

OpenAI remarcó, según consignó su propio equipo en el comunicado oficial, que continuará enfocando su trabajo en reducir el margen de acciones indeseadas no reportadas por los modelos y en desarrollar herramientas cada vez más sofisticadas para comprender en profundidad la lógica interna y las motivaciones detrás de cada respuesta generada por sus sistemas de inteligencia artificial.