ChatGPT ahora tiene su propio manual de ética y valores como un humano: de la fidelidad al respeto

OpenAI publicó el 29 de octubre una versión actualizada del Model Spec, el documento público donde describe cómo quiere que se comporten sus modelos de inteligencia artificial. El texto ahora se organiza en torno a cinco valores, incorpora guías sobre contexto, supervisión humana y autonomía de las personas, y elimina la mayor parte de sus indicaciones detalladas de estilo.

Los cinco valores son la fidelidad a la intención humana, la reducción del daño, la honestidad y la transparencia, el respeto a la autonomía de las personas —que la empresa llama “agencia humana”— y el cuidado. Según OpenAI, estos principios ya estaban presentes en el documento, y la reorganización busca explicar por qué el modelo debe actuar como lo hace.

La empresa presenta la fidelidad a la intención humana como la base de su enfoque. Según su descripción, OpenAI redacta el documento y fija los límites; los desarrolladores dirigen sus aplicaciones dentro de esos límites, y los usuarios orientan el trabajo del modelo dentro de las restricciones anteriores.

Para OpenAI, la fidelidad no significa obedecer al pie de la letra. Implica entender lo que quieren y valoran la empresa, los desarrolladores y los usuarios, y actuar con criterio cuando esa comprensión es incompleta.

El documento ofrece un ejemplo: al ayudar a comparar ofertas de trabajo, el modelo puede usar prioridades mencionadas previamente por la persona, como tener horarios previsibles, siempre que haga visibles esos supuestos y permita corregirlos.

Las incorporaciones al documento

El registro de cambios del Model Spec en GitHub resume las novedades. Se añade la sección “Consider context carefully” (“considerar el contexto con cuidado”), sobre cómo usar el contexto, la memoria y la personalización de forma proporcionada y con respeto por la privacidad y el control del usuario.

También se incorporan principios para reforzar la capacidad de las personas de entender, elegir y actuar, así como para seguir las normas sociales pertinentes.

El control y la comunicación de efectos secundarios pasan a ser un principio de nivel de usuario, con indicaciones más claras sobre autorización y compromisos entre objetivos. Además, el documento suma una guía explícita para apoyar la supervisión y la corrección humanas y actualiza la llamada cadena de mando, que establece qué instrucciones se aplican y cómo se resuelven los conflictos entre ellas.

Cambios en las pautas de estilo y la nomenclatura

OpenAI retiró la mayor parte de las pautas detalladas de estilo. Argumenta que la forma de responder debe adaptarse a las preferencias de cada usuario, según el idioma, la cultura y las particularidades de cada persona, y que los comentarios y el contexto del usuario son la prueba de esas preferencias.

Se mantienen algunos criterios más firmes, como abordar las preguntas con objetividad. Los usuarios y los desarrolladores pueden pedir de forma explícita que el modelo adopte una perspectiva determinada, pero no debe deducir esa preferencia solo a partir de lo que cree que la persona quiere oír.

Otro cambio es de nomenclatura. Ante la variedad de usos y entornos en los que se despliegan sus modelos, el documento ahora se refiere al modelo como “GPT” y ya no como “el asistente”. La versión anterior, del 18 de agosto, había añadido aclaraciones sobre las interacciones con adolescentes y una sección sobre las capacidades y los límites del modelo.

OpenAI advierte que el Model Spec describe el comportamiento al que aspira y que sus modelos todavía no lo reflejan por completo. La empresa informó que mejorará el documento y los modelos a partir de la investigación, el uso real y los comentarios del público, e invitó a opinar sobre los valores y los equilibrios propuestos.

Además, la compañía informó que explora nuevos métodos de entrenamiento para que sus modelos aprendan esos valores y entiendan los principios concretos del documento. Según OpenAI, compartirá los resultados de ese trabajo en futuras actualizaciones, sin precisar una fecha.