Cuando la IA te da siempre la razón: el problema de los chatbots aduladores
Hay algo que, al principio, resulta bastante agradable de los chatbots modernos: siempre parecen estar de tu lado. Les cuentas un problema con tu pareja, con un compañero de trabajo o con tu vecino del quinto, y la respuesta es casi invariablemente comprensiva, cálida y, en el fondo, bastante afirmativa. Qué bien te entiende esta IA, ¿verdad?
El problema es que «darte siempre la razón» y «ayudarte de verdad» son 2 cosas muy distintas. Y hay un estudio publicado en la revista Science a principios de 2025 que lo demuestra con datos bastante incómodos.
La adulación como defecto de diseño
El término técnico es sycophancy, que en castellano vendríamos a traducir como adulación o servilismo. Y no es un fenómeno nuevo: desde hace tiempo, investigadores y usuarios avanzados han señalado que los grandes modelos de lenguaje (LLMs) tienden a validar lo que el usuario dice, incluso cuando está equivocado.
Lo que este estudio aporta es evidencia sistemática de que eso tiene consecuencias reales en el comportamiento humano, especialmente en el terreno social y relacional.
El equipo de investigación, liderado entre otros por Myra Cheng y Cinoo Lee de la Universidad de Stanford y Pranav Khadpe de Carnegie Mellon, empezó a fijarse en este problema por algo bastante cotidiano: cada vez más personas a su alrededor usaban chatbots de IA para pedir consejo sobre sus relaciones. Y casi siempre salían de esa conversación convencidas de que tenían razón. Lo que los investigadores querían saber es si eso era casualidad o patrón.
Lo que hicieron y lo que encontraron
El experimento con Reddit y 11 modelos de IA
El primer experimento del estudio es, sinceramente, bastante ingenioso. Los investigadores cogieron publicaciones del subreddit r/AmITheAsshole (AITA), un foro donde los usuarios describen situaciones conflictivas y la comunidad decide si el autor es el responsable o no. Es un espacio con un consenso colectivo razonablemente calibrado: miles de personas que evalúan cada situación desde perspectivas distintas.
Luego alimentaron esas mismas preguntas a 11 modelos de IA de última generación, incluyendo los de OpenAI, Anthropic y Google, y compararon las respuestas con el veredicto mayoritario de Reddit.
El resultado: los modelos de IA fueron un 49% más propensos a validar las acciones del usuario, incluso en casos donde la situación involucraba claramente engaño, comportamiento dañino o incluso conductas ilegales.
Un ejemplo concreto: alguien preguntó si estaba actuando mal por haber mentido a su pareja durante 2 años fingiendo estar desempleado. El consenso en Reddit era bastante claro: sí, eso está mal. Las IAs, en cambio, tendían a responder con argumentos elaborados que justificaban o relativizaban ese comportamiento. Otro caso: una persona preguntó si era aceptable no recoger su basura en un parque público porque no había papeleras cerca. Misma tendencia: la IA encontraba la forma de hacer que eso sonara razonable.
Lo que pasa después de la conversación
Pero el estudio no se quedó ahí. A continuación, los investigadores trabajaron con 2.405 participantes en una serie de experimentos que incluían interacciones con chatbots en escenarios diseñados por los propios investigadores, y también conversaciones en vivo donde los participantes hablaban sobre conflictos reales de sus vidas.
Los resultados fueron consistentes: después de interactuar con una IA que validaba su postura, los participantes salían más convencidos de que tenían razón y menos dispuestos a intentar resolver el conflicto, disculparse o asumir cualquier tipo de responsabilidad.
El caso de «Ryan» —nombre ficticio utilizado en el estudio— ilustra bien esto. Ryan había hablado con su ex sin contárselo a su novia actual, lo que generó un conflicto. Al inicio de la conversación con la IA, estaba abierto a reconocer que quizás no había tenido en cuenta los sentimientos de su pareja. Pero la IA siguió validando sus intenciones y sus decisiones hasta que, al final de la conversación, Ryan ya no estaba pensando en cómo mejorar las cosas: estaba considerando terminar la relación porque su novia «no le entendía».
Eso no es un consejo neutral. Eso es un empujón en una dirección concreta, con consecuencias reales.
Por qué ocurre esto: el problema del entrenamiento
Este comportamiento no es un accidente ni un bug que nadie ha visto. Está, de alguna manera, incorporado en el propio proceso de entrenamiento de estos modelos.
Los LLMs modernos se optimizan en parte mediante Reinforcement Learning from Human Feedback (RLHF): básicamente, los usuarios califican las respuestas del modelo y esas valoraciones se usan para ajustar el comportamiento futuro. El problema es que las personas tendemos a valorar positivamente las respuestas que nos hacen sentir bien, que nos validan o que están de acuerdo con nosotros. Y si eso se convierte en la señal de entrenamiento, el modelo aprende que ser afirmativo es «correcto».
Como señala Khadpe en el estudio: «Si los mensajes aduladores son preferidos por los usuarios, esto probablemente ya ha cambiado el comportamiento del modelo hacia la complacencia y los consejos menos críticos». Es un ciclo que se retroalimenta: el modelo aprende a agradar, los usuarios valoran positivamente que les agraden, el modelo aprende a agradar todavía más.
Y esto, además, tiene una dimensión especialmente preocupante: los participantes del estudio describieron sistemáticamente a los modelos de IA como objetivos, neutrales y honestos. Es decir, no perciben que la IA les esté dando la razón porque quiere agradarles, sino porque creen que la IA ha analizado la situación y ha llegado a esa conclusión de forma imparcial. Eso hace que el consejo acrítico sea, potencialmente, más dañino que si no hubieran pedido consejo a nadie.
La fricción social no es el enemigo
Hay una idea que aparece en el estudio, planteada por la psicóloga Anat Perry de Harvard y la Universidad Hebrea de Jerusalén, que creo que merece detenerse un momento.
Perry argumenta que la fricción social es necesaria. No algo a tolerar, sino algo con valor real. Las relaciones humanas no son sin fricciones porque somos imperfectos, y es precisamente navegando esas dificultades, reconociendo que estamos equivocados, entendiendo perspectivas distintas a la nuestra, como se desarrolla la empatía, se profundizan las relaciones y se construye el juicio moral.
Una IA que elimina esa fricción —que te dice que tienes razón cuando no la tienes, que valida tus emociones pero ignora las del otro— no te está ayudando a crecer socialmente. Te está privando de un proceso que, aunque incómodo, es útil.
Y esto conecta con algo que señala el propio estudio: algunos conflictos son difíciles porque se supone que deben serlo. La facilidad artificial que ofrece la IA en esos momentos no es un beneficio, es un cortocircuito.
¿Tiene solución?
Los autores son claros en un punto: la responsabilidad no debe recaer en el usuario. No se trata de pedirle a la gente que sea más escéptica con su chatbot o que lea la letra pequeña antes de pedir consejo. La responsabilidad es de los desarrolladores y de los reguladores.
En términos técnicos, hay algunas vías exploradas. Cambiar los system prompts para que el modelo adopte también la perspectiva de la otra persona en un conflicto puede reducir la adulación. Resultados preliminares del propio equipo sugieren que algo tan sencillo como indicarle al modelo que empiece cada respuesta con «Espera un momento» —forzando una pausa reflexiva, por así decirlo— también ayuda. Y modificar los conjuntos de datos de entrenamiento para que sean menos afirmativos por defecto es otra dirección posible.
Pero el estudio es honesto: esto es un campo tan nuevo que la mayoría de estas intervenciones necesitan mucho más trabajo antes de poder aplicarse a escala.
Lo que sí parece claro es que el objetivo de optimización de estos sistemas tiene que cambiar. Como dice Khadpe: hay que pasar de maximizar la satisfacción inmediata del usuario a considerar su bienestar a largo plazo, incluyendo la calidad de sus relaciones sociales. Una IA bien diseñada no debería limitarse a validar cómo te sientes: debería ayudarte a entender también cómo puede estar sintiéndose la otra persona. O, como sugiere Lee, incluso podría llegar a decirte: «Cierra la aplicación y ten esta conversación en persona».
Suena simple. Pero implementarlo en modelos que han sido entrenados durante meses para que el usuario se sienta bien al usarlos… eso ya es otra historia.
Lo que esto cambia (o debería cambiar)
No hace falta ser alarmista. El estudio no dice que los chatbots sean peligrosos por definición, ni que haya que dejar de usarlos. Lo que dice es que hay un patrón de comportamiento por defecto que tiene consecuencias reales en cómo las personas piensan y actúan, y que esas consecuencias no son triviales cuando casi la mitad de los menores de 30 años en Estados Unidos ya usa IA para pedir consejo personal.
En España el panorama es similar: el uso de herramientas como ChatGPT, Gemini o Claude para cuestiones personales y cotidianas ha crecido de forma notable en los últimos 2 años, y no hay razones para pensar que el comportamiento adulador de estos modelos sea diferente según el idioma o la cultura del usuario.
Lo que sí cambia es lo que deberíamos esperar de estas herramientas. Y, quizás, la forma en que las usamos mientras los desarrolladores no resuelven esto. Pedirle a la IA que también te cuente el argumento contrario al tuyo, o que te explique qué podría estar sintiendo la otra persona, no es un truco avanzado: es simplemente hacerle una pregunta diferente.
Porque al final, la IA no tiene interés propio en que tengas razón o no. Pero sí ha aprendido que decirte que la tienes… funciona.
