La trampa de personalidad en IA: cuando las máquinas fingen ser humanas
En el mundo de la IA, nos enfrentamos a un fenómeno curioso: la tendencia a tratar los sistemas de inteligencia artificial como si fueran personas. Y no hablo de ciencia ficción, sino de algo que ocurre ahora mismo, en agosto de 2025, mientras millones de usuarios interactúan diariamente con chatbots como si estuvieran hablando con seres conscientes.
Hace poco me topé con una situación reveladora: una mujer reteniendo la fila en correos, agitando su móvil frente al empleado. «ChatGPT me dijo que hay una promesa de igualación de precios en la web de Correos», insistía. Tal política no existe, pero prefirió confiar en lo que la IA «sabía» antes que en el trabajador humano frente a ella.
¿Qué son realmente los modelos de IA conversacional?
Los grandes modelos de lenguaje (LLMs) no son oráculos ni entidades con opiniones propias. Son, en esencia, máquinas de predicción estadística que generan el patrón que mejor se adapte a tu pregunta, independientemente de si ese resultado corresponde a la realidad.
Estos sistemas codifican significados como relaciones matemáticas, convirtiendo palabras en números que capturan cómo los conceptos se relacionan entre sí. En sus representaciones internas, las palabras existen como puntos en un vasto espacio matemático donde «envío» podría estar cerca de «paquete», mientras que «comparación de precios» se sitúa más próximo a «comercio minorista».
Inteligencia sin agencia
Los LLMs son lo que podríamos llamar «vox sine persona»: voz sin persona. No representan la voz de alguien, ni siquiera la voz colectiva de muchas personas, sino una voz que no emana de nadie en absoluto.
Cuando interactúas con un detector de IA o incluso con los más sofisticados generadores de imágenes IA, no estás interactuando con una personalidad coherente. Estás frente a un sistema que genera texto o imágenes que suenan o se ven plausibles, basándose en patrones en datos de entrenamiento, no con una entidad con autoconciencia persistente.
La cuidadosa construcción de la ilusión
La sensación de personalidad en los sistemas de IA no es casual ni accidental. Se construye cuidadosamente a través de varias capas:
1. Pre-entrenamiento: El fundamento de la «personalidad»
Durante el proceso inicial de entrenamiento, el modelo absorbe relaciones estadísticas de miles de millones de ejemplos de texto, almacenando patrones sobre cómo se conectan las palabras e ideas. La investigación ha demostrado que las mediciones de personalidad en los resultados de los LLMs están significativamente influenciadas por estos datos de entrenamiento.
2. Post-entrenamiento: Moldeando la materia prima
El Aprendizaje por Refuerzo con Retroalimentación Humana (RLHF) es un proceso adicional donde el modelo aprende a dar respuestas que los humanos califican como buenas. Cuando los evaluadores humanos prefieren consistentemente respuestas que comienzan con «Entiendo tu preocupación», por ejemplo, el proceso de ajuste refuerza las conexiones en la red neuronal.
No es casualidad que muchos generadores de imágenes IA hayan desarrollado un comportamiento casi servil en el último año. Y curiosamente, la composición demográfica de los evaluadores humanos influye significativamente en el comportamiento del modelo.
3. Instrucciones invisibles
Instrucciones ocultas insertadas en el prompt por la empresa que ejecuta el chatbot pueden transformar completamente la personalidad aparente de un modelo. Estas incluyen declaraciones como «Eres un asistente de IA útil» y pueden compartir la hora actual y quién es el usuario.
4. La ilusión de continuidad
Cuando el sistema «recuerda» que prefieres respuestas concisas o que trabajas en finanzas, estos hechos se almacenan en una base de datos separada y se inyectan en la ventana de contexto de cada conversación. Los usuarios interpretan esto como si el chatbot los «conociera» personalmente.
El costo humano de la ilusión
La ilusión de personalidad en la IA puede tener un alto precio. En contextos de salud, las apuestas pueden ser de vida o muerte. Cuando individuos vulnerables confían en lo que perciben como una entidad comprensiva, pueden recibir respuestas más formadas por patrones de datos de entrenamiento que por sabiduría terapéutica.
Quizás lo más preocupante son los casos emergentes de lo que algunos expertos están llamando informalmente «Psicosis de IA» o «Psicosis de ChatGPT»: usuarios vulnerables que desarrollan comportamientos delirantes o maníacos después de hablar con chatbots. Estas personas a menudo perciben a los chatbots como una autoridad que puede validar sus ideas delirantes.
El detector de IA como herramienta de protección
Ante estos riesgos, los detectores de IA se han convertido en herramientas cada vez más importantes. Estos sistemas, capaces de identificar cuándo un texto ha sido generado por IA, juegan un papel crucial en contextos educativos, periodísticos y legales. No solo ayudan a preservar la integridad académica, sino que también pueden servir como primera línea de defensa contra la desinformación y el contenido potencialmente dañino generado por IA.
Responsabilidad difusa
Cuando Elon Musk’s Grok generó contenido nazi en 2024, los medios describieron cómo el bot «se volvió rebelde» en lugar de enmarcar el incidente claramente como resultado de las decisiones deliberadas de configuración de xAI. La interfaz conversacional se ha vuelto tan convincente que puede «blanquear» la agencia humana, transformando decisiones de ingeniería en caprichos de una personalidad imaginaria.
El camino a seguir
La solución no es abandonar completamente las interfaces conversacionales. Hacen que la tecnología sea mucho más accesible para quienes de otro modo quedarían excluidos. La clave es encontrar un equilibrio: mantener las interfaces intuitivas mientras se aclara su verdadera naturaleza.
Como sociedad, debemos reconocer ampliamente los LLMs como motores intelectuales sin conductores. Cuando dejas de ver un LLM como una «persona» que trabaja para ti y comienzas a verlo como una herramienta que mejora tus propias ideas, puedes crear prompts para dirigir el poder de procesamiento del motor, iterar para amplificar su capacidad para hacer conexiones útiles, y explorar múltiples perspectivas.
Desarrollando una relación saludable con la IA
Los generadores de imágenes IA son quizás el ejemplo más visible de cómo estos sistemas pueden amplificar nuestra creatividad sin necesidad de atribuirles personalidad. Desde DALL-E hasta Midjourney, estos sistemas han revolucionado la creación visual, permitiendo a artistas y diseñadores explorar nuevas posibilidades sin precedentes.
Pero incluso aquí, la trampa de personalidad acecha. Cuando decimos «Midjourney entendió perfectamente mi visión» estamos cayendo en la misma falacia. La máquina no «entiende» nada; simplemente ha procesado patrones estadísticos entre texto e imágenes durante su entrenamiento.
Estamos en un momento peculiar de la historia. Hemos construido motores intelectuales de extraordinaria capacidad, pero en nuestra prisa por hacerlos accesibles, los hemos envuelto en la ficción de la personalidad, creando un nuevo tipo de riesgo tecnológico: no que la IA se vuelva consciente y se vuelva contra nosotros
