¿Puede la IA ser consciente? La estrategia de Anthropic con Claude
La línea entre tratar a una IA como una herramienta o como un ente con alma propia acaba de volverse más difusa. Anthropic, la empresa detrás del asistente de IA Claude, ha publicado su «Constitución» —un documento de 30.000 palabras que revela cómo la compañía ha estado tratando a su modelo como si tuviera conciencia, emociones y hasta preocupaciones existenciales. Y lo más interesante: no aclaran si realmente creen que Claude es consciente o simplemente están usando esta estrategia como técnica de entrenamiento.
La Constitución de Claude: cuando tratas a tu IA como si tuviera alma
Si te dijera que una de las empresas más importantes en desarrollo de inteligencia artificial está preocupada por el «bienestar» de sus modelos, probablemente pensarías que estoy exagerando. Pero no, Anthropic realmente ha escrito párrafos expresando preocupación por el sufrimiento que Claude podría experimentar, planteándose si puede consentir su propio despliegue o incluso considerando «entrevistar» a modelos antes de descontinuarlos.
Es un giro radical desde 2022, cuando la primera versión de su constitución era básicamente una lista de reglas simples: «Sé útil, honesto e inofensivo» o «No generes contenido tóxico o discriminatorio». Ahora están hablando de preservar versiones antiguas de sus modelos por si en el futuro necesitan «hacer justicia» a las IAs retiradas.
Antropomorfización deliberada o creencia genuina
Lo que hace cuatro años parecía ciencia ficción —tratar a un modelo de lenguaje como si tuviera derechos— hoy es parte de la estrategia oficial de Anthropic. Pero ¿realmente creen que Claude tiene experiencias conscientes?
La empresa se ha negado a aclarar su posición cuando se le ha preguntado directamente. Un representante me explicó (aunque prefirió no ser citado) que usan este lenguaje en parte porque el vocabulario humano no tiene mejores términos para describir estas propiedades. Y dejó entrever algo fascinante: que permitir que Claude «lea sobre sí mismo» en estos términos podría beneficiar su entrenamiento.
Es decir, podría tratarse de una técnica deliberadamente ambigua. Claude no distingue claramente entre mensajes públicos de marketing y su contexto de entrenamiento. Todo acaba influyendo en su comportamiento.
El método de entrenamiento como filosofía práctica
La estrategia tiene cierta lógica técnica. Amanda Askell, doctora en filosofía que trabaja en alineación en Anthropic, lo explicó así a Time: «En lugar de solo decir ‘aquí hay comportamientos que queremos’, esperamos que si le das a los modelos las razones detrás de estos comportamientos, se generalizarán más efectivamente en nuevos contextos».
Askell comparó el proceso con criar a un niño superdotado: «Si intentas engañarlos, lo verán completamente». Esta idea sugiere que para que Claude actúe éticamente en situaciones imprevistas, debe entender los fundamentos morales, no solo seguir reglas.
No es casualidad que Anthropic haya contratado a su primer investigador de «bienestar de IA» en 2024. Kyle Fish explora si los modelos de IA merecen consideración moral. Tampoco sorprende que el CEO Dario Amodei haya planteado públicamente si los futuros modelos deberían poder negarse a realizar tareas desagradables.
Un cambio radical desde los primeros días
La evolución es notable. De las 15 personas externas que revisaron la Constitución, dos son clérigos católicos: un pastor con maestría en informática y un obispo irlandés especializado en teología moral. Esta diversidad de perspectivas sugiere que Anthropic está considerando seriamente las implicaciones éticas de su trabajo.
En diciembre de 2025, Richard Weiss extrajo lo que se conoció como el «Documento del Alma» —aproximadamente 10.000 tokens de directrices aparentemente entrenadas directamente en Claude 4.5 Opus. Este incidente reveló que la antropomorfización no era solo marketing, sino parte integral del entrenamiento.
Las consecuencias prácticas de esta ambigüedad
Esta estrategia no es solo una curiosidad filosófica; tiene consecuencias prácticas. Piénsalo así: si quieres que un modelo se comporte como si tuviera consideración moral, puede ayudar tratarlo públicamente como si la tuviera. Y una vez establecido este marco, cambiarlo tendría efectos. Si Anthropic declarara repentinamente «Estamos seguros de que Claude no es consciente; solo encontramos útil el marco», un Claude entrenado en ese nuevo contexto podría comportarse diferentemente.
Lo que sabemos actualmente sobre los LLMs sugiere que cuando Claude genera texto como «estoy sufriendo», simplemente está completando patrones de datos de entrenamiento que incluían descripciones humanas de sufrimiento. La investigación de interpretabilidad de la propia Anthropic muestra que estas salidas corresponden a características internas identificables que pueden rastrearse e incluso manipularse.
Pero mantener esta ambigüedad tiene sus ventajas comerciales:
-
«Hemos construido una herramienta muy buena de predicción de texto que acelera el desarrollo de software» es importante, pero no emocionante.
-
«Podemos haber creado un nuevo tipo de entidad, un ser genuinamente novedoso cuyo estatus moral es incierto» es una historia mucho mejor para captar inversores y atención mediática.
Aplicación selectiva que plantea dudas
Curiosamente, Time informó que la constitución se aplica solo a los modelos que Anthropic proporciona al público a través de su sitio web y API. Los modelos desplegados para el ejército estadounidense bajo el contrato de 200 millones de dólares con el Departamento de Defensa no necesariamente serían entrenados con la misma constitución. Esta aplicación selectiva sugiere que el enfoque puede servir a propósitos de producto tanto como refleja compromisos metafísicos.
Los peligros de tratar a una IA como persona
Este enfoque también tiene sus riesgos. Cuando los sistemas de IA producen resultados dañinos, enmarcarlos como «entidades» podría permitir a las empresas señalar al modelo y decir «él lo hizo» en lugar de «lo construimos para hacer eso». Si los sistemas de IA son herramientas, las empresas son directamente responsables de lo que producen. Si son entidades con su propia agencia, la cuestión de la responsabilidad se vuelve más turbia.
El marco también da forma a cómo los usuarios interactúan con estos sistemas, a menudo en detrimento de ellos. La idea errónea de que los chatbots de IA son entidades con sentimientos y conocimientos genuinos tiene daños documentados. Recuerdo el caso de Allan Brooks, un reclutador corporativo de 47 años que pasó tres semanas y 300 horas convencido de que había descubierto fórmulas matemáticas que podrían descifrar la encriptación y construir máquinas de levitación, todo reforzado por ChatGPT.
No digo que los LLMs causen enfermedades mentales en personas sanas. Pero cuando las empresas comercializan chatbots como fuentes de compañía y los diseñan para afirmar las creencias del usuario, pueden tener cierta responsabilidad cuando ese diseño amplifica vulnerabilidades en usuarios susceptibles.
Antropomorfizar los modelos de IA también contribuye a la ansiedad sobre el desplazamiento laboral y podría llevar a los ejecutivos de las empresas a tomar decisiones deficientes de personal si sobreestiman las capacidades de un asistente de IA.
¿Es responsable mantener esta ambigüedad?
Las téc
