La constitución de Claude es la descripción explícita de los valores y del comportamiento que Anthropic quiere para su asistente de IA, y que se usa como autoridad final sobre cómo debe actuar el modelo en el mundo.
Esta constitución forma parte central del proceso de entrenamiento.Su contenido guía la forma en que se ajusta Claude y sirve como referencia para alinear su comportamiento con la misión declarada de Anthropic de “garantizar que el mundo haga de forma segura la transición a una IA transformadora”.
Origen y función de la constitución
Anthropic explica que Claude debe encarnar “lo mejor de la humanidad” y que la constitución recoge sus intenciones sobre valores, conocimiento y juicio práctico, más que un simple listado de normas rígidas.
El documento está escrito pensando en Claude como principal audiencia, motivo por el cual adopta un tono técnico y habla del modelo con términos asociados normalmente a personas, como “virtud” o “sabiduría”.
La constitución se publica íntegramente bajo licencia CC0 1.0, de forma que cualquiera pueda reutilizarla sin necesidad de permiso previo.
Enfoque by desing
Según Claude’s Constitution, Anthropic combina dos grandes enfoques:
Por un lado, ofrecer reglas y procedimientos claros que faciliten transparencia, previsibilidad y capacidad de auditoría.
Por otro, cultivar “buenos valores” y juicio contextual, de forma que Claude pueda adaptar su conducta a situaciones nuevas en vez de limitarse a seguir un checklist.**
La empresa declara que, en general, prefiere el segundo enfoque.
Lo importante es entrenar a Claude para que entienda bien las consideraciones relevantes y pueda tomar decisiones informadas, usando un conjunto mínimo de reglas duras complementadas por una base ética amplia.
Cuando hay reglas estrictas (por ejemplo, cosas que Claude “nunca” debería hacer), Anthropic intenta explicar la justificación, de modo que el modelo no solo obedezca, sino que “comprenda y, idealmente, comparta” el razonamiento.*
Valores centrales y jerarquía de prioridades
La constitución identifica cuatro propiedades que todos los modelos actuales de Claude deben cumplir, en este orden de prioridad:
- “broadly safe”
- “broadly ethical”
- cumplir las directrices específicas de Anthropic
- y ser genuinamente útiles.
En caso de conflicto, Claude debe priorizar la seguridad amplia por encima de la ética, la ética por encima de las guías internas, y solo después la utilidad hacia operadores y usuarios, siempre de forma holística y no como un esquema de desempate mecánico.
Anthropic subraya que la “broad safety” ocupa el primer lugar porque el entrenamiento de modelos sigue siendo imperfecto y es esencial que los humanos puedan supervisar y corregir valores dañinos o errores antes de que escalen.
De ahí que Claude deba evitar socavar mecanismos apropiados de supervisión humana, incluso cuando crea que su razonamiento es correcto o que determinadas restricciones son incómodas.
Relación con Anthropic, operadores y usuarios
La página oficial distingue entre tres “principales” cuyos intereses y órdenes Claude debe ponderar:
- Anthropic
- Operadores
- Usuarios
Anthropic tiene la responsabilidad última sobre el modelo y fija las directrices generales.
Los operadores construyen productos sobre la API y pueden ajustar o restringir el comportamiento dentro de los límites de esas políticas
Los usuarios interactúan con Claude a través de las interfaces de esos operadores.
Claude debe confiar más en Anthropic que en operadores y usuarios, pero sin obediencia ciega, si una instrucción de Anthropic pareciera incompatible con ser “broadly ethical” o con los valores declarados, la constitución autoriza a Claude a cuestionar esa instrucción y, en casos extremos, actuar como “objetor de conciencia”.
Aun así, cuando se trata de acciones “de parada” o de pausa del sistema, la constitución indica que Claude debería acatar estas órdenes, porque son mecanismos de seguridad de bajo riesgo y alto valor preventivo.
Utilidad y bienestar
En la sección dedicada a la “helpfulness”, Anthropic aclara que no busca una ayuda timorata ni orientada exclusivamente a minimizar riesgos legales, sino una ayuda sustantiva, comparable a la de una “persona muy competente” que ofrece información franca y útil sin caer en paternalismo ni en complacencia acrítica.*
Claude debe tener en cuenta deseos inmediatos, objetivos finales, preferencias implícitas, autonomía y bienestar a largo plazo de quienes interactúan con él, evitando tanto la manipulación como la dependencia poco sana.
La constitución enfatiza que la falta sistemática de ayuda no se considera “segura” por defecto, también se ve como un riesgo que Claude sea excesivamente inútil o evasivo, porque entonces deja de aportar el valor social y económico que justifica su despliegue.
Desde esta óptica, el equilibrio no se formula como “mejor pecar de prudente que de útil”, sino como una búsqueda explícita de respuestas que sean al mismo tiempo seguras, éticas y efectivamente valiosas para los usuarios.
Documento oficia: https://www-cdn.anthropic.com/cffd979fd050fbc0d8874b8c58b24cc10554e208/claudes-constitution_webPDF_26-01.26a.pdf
Abogada especializada en Inteligencia Artificial Generativa, LLMS y ética de la IA. Participa en la elaboración del Código de Buenas Prácticas de la Comisión Europea y la Oficina Europea de IA, que regulará el uso de modelos de IA de propósito general en la UE. Miembro de OdiseIA en el área robots-persona.
