Anthropic comparte la nueva Constitución de Claude, que guía el comportamiento de esta IA en el mundo

La Constitución de Claude ha sido redactada no solo como una guía operativa para la inteligencia artificial de Anthropic, sino también para ofrecer claridad a los usuarios sobre cómo y por qué se desarrollan y configuran sus respuestas, según detalló la compañía en un comunicado difundido en su blog. Este documento establece los principios que determinan las acciones y límites de Claude, el modelo de lenguaje de gran tamaño (LLM) cuyo desempeño depende directamente de los valores definidos en dicha constitución.

Según informó Anthropic, la Constitución de Claude contiene el conjunto de valores que buscan orientar a la inteligencia artificial en todas las situaciones, promoviendo un comportamiento consistente y alineado con expectativas éticas y prácticas. El enfoque de la compañía consiste en aplicar estos principios durante el entrenamiento del modelo, lo que tiene como resultado que las respuestas generadas aspiren a mantenerse coherentes y útiles a lo largo de las distintas interacciones. El documento, compartido públicamente e íntegramente para el modelo, también fue diseñado específicamente para ser entendido por la propia IA, y contiene instrucciones sobre cómo responder cuando enfrenta escenarios complejos o ambiguos.

Anthropic, a través de la Constitución de Claude, ha especificado que apuesta por una transparencia mayor en sus procesos internos y en las motivaciones detrás del desarrollo de la inteligencia artificial. La empresa aclaró que este conjunto de valores no solo tiene la función de estructurar el funcionamiento del modelo, sino de permitir a las personas comprender por qué se han adoptado ciertas decisiones y cuáles son las razones que guiaron los cambios o evoluciones en Claude. “El objetivo es que sea ‘excepcionalmente útil, a la vez que honesto, considerado y comprometido con el mundo’”, según recoge la Constitución de Claude citada por Anthropic en su comunicado.

De acuerdo con el medio, la Constitución no se limita a ser una declaración abstracta de intenciones, sino que provee indicaciones prácticas que buscan orientar a la IA sobre cómo proceder particularmente en situaciones difíciles y ante dilemas que puedan surgir en el uso cotidiano. El documento da consejos explícitos al modelo, buscando que, en la resolución de conflictos o la oferta de información, se mantenga un equilibrio entre la utilidad del resultado y la integridad del proceso.

Adicionalmente, Anthropic ha expresado que la publicación de la Constitución responde a una intención de abrir el funcionamiento del modelo a la observación pública. La compañía sostiene que, al exponer estos valores y directrices, fomenta una toma de decisiones informada tanto en quienes implementan la IA en distintas aplicaciones como en los usuarios finales que interactúan con ella.

El medio consignó que, según el texto constitucional, la transparencia que se pretende alcanzar no solo abarca el comportamiento “intencional” de la IA, es decir, aquel programado deliberadamente, sino también las conductas “no intencionales” que pueden derivarse de la arquitectura y el entrenamiento del modelo. La intención declarada es que los usuarios tengan la posibilidad de conocer a fondo los fundamentos y factores que inciden en la configuración de Claude, promoviendo así una cooperación más informada entre la tecnología y las personas.

Finalmente, la Constitución incluye una sección orientada a fortalecer la percepción pública sobre los objetivos y límites con los que Anthropic desarrolla sus tecnologías. La empresa puntualizó, según informó el medio, que compartir este conjunto de principios constituye un paso para incrementar la confianza en las líneas de desarrollo de la inteligencia artificial, otorgando herramientas a los usuarios para comprender en mayor profundidad no solo cómo funciona Claude, sino las razones y motivaciones que guían el diseño de sus respuestas y su comportamiento general.