La persuasión de la IA no es tan sobrehumana como pensábamos

Un nuevo estudio científico desmitifica algunas de las creencias más extendidas sobre la supuesta capacidad sobrehumana de persuasión de los modelos de IA. Los resultados desafían la idea de que estas tecnologías poseen poderes casi mágicos para manipular nuestras opiniones, aunque identifican aspectos que deberíamos vigilar.

La verdadera potencia persuasiva de la IA

Cuando hablamos de persuasión en inteligencia artificial, solemos imaginar escenarios casi distópicos: sistemas capaces de manipularnos con una eficiencia aterradora. Sin embargo, la realidad parece ser bastante menos dramática. Según un estudio reciente, la capacidad persuasiva de los sistemas de IA más avanzados ronda apenas el 9,4% de media comparado con grupos de control.

«No solo queríamos probar lo persuasiva que era la IA, también queríamos ver qué la hace persuasiva», explica Chris Summerfield, director de investigación en el Instituto de Seguridad de IA del Reino Unido y coautor del estudio. Y lo que descubrieron fue sorprendente.

El tamaño no lo es todo

La primera creencia que se desmorona es que los modelos más grandes son necesariamente más persuasivos. Si bien gigantes como ChatGPT-4o o Grok-3 tienen cierta ventaja sobre modelos más pequeños, esta diferencia es marginal.

Lo que resultó ser mucho más determinante fue el entrenamiento post-modelo. Un enfoque donde los sistemas aprenden de un conjunto limitado de diálogos persuasivos exitosos y luego imitan esos patrones demostró ser mucho más efectivo que simplemente añadir más parámetros y poder computacional.

Este método, combinado con técnicas de modelado de recompensa (donde otra IA evalúa las respuestas por su capacidad persuasiva), prácticamente eliminó la brecha entre modelos grandes y pequeños. Como señala Kobi Hackenburg, investigador del mismo instituto: «Con este entrenamiento específico en persuasión, logramos igualar el rendimiento persuasivo de ChatGPT-4o con un modelo entrenado en un portátil».

Los datos personales importan menos de lo esperado

Otra idea que no resistió el escrutinio científico fue el supuesto poder devastador de usar datos personales para personalizar mensajes. El equipo comparó la persuasión lograda cuando los modelos conocían previamente las opiniones políticas de los participantes frente a cuando carecían de estos datos.

Fueron más allá y también probaron si la persuasión aumentaba cuando la IA conocía género, edad, ideología política o afiliación partidista. Al igual que con el tamaño del modelo, los efectos de la personalización basada en estos datos fueron medibles pero muy pequeños.

Las técnicas psicológicas avanzadas fracasaron

Quizás lo más revelador fue descubrir que las técnicas psicológicas sofisticadas no funcionaron tan bien como se temía. Los científicos instruyeron explícitamente a las IAs para que usaran métodos como el «reencuadre moral» (presentar argumentos usando los valores morales de la audiencia) o el «deep canvassing» (conversaciones empáticas prolongadas para provocar reflexión y cambio de opinión).

Los resultados fueron comparados con enfoques donde las mismas IAs simplemente usaban hechos y evidencias para respaldar sus afirmaciones, o donde se les pedía ser persuasivas sin especificar métodos concretos. Sorprendentemente, el uso de hechos y evidencias fue el claro ganador, apenas por encima del enfoque base. Las manipulaciones psicológicas complejas empeoraron significativamente el rendimiento.

Cifras que ponen las cosas en perspectiva

En términos de efectividad, los modelos de IA cambiaron las valoraciones de acuerdo de los participantes en un promedio de 9,4% en comparación con el grupo de control. El modelo comercial con mejor desempeño fue ChatGPT-4o, con casi un 12%, seguido por GPT-4.5 con un 10,51% y Grok-3 con un 9,05%.

Para contextualizar, los anuncios políticos estáticos, como manifiestos escritos, tienen un efecto persuasivo de aproximadamente 6,1%. Esto significa que las IAs conversacionales son aproximadamente un 40-50% más convincentes que estos anuncios, pero eso está lejos de ser «sobrehumano».

Nuevos problemas en el horizonte

Aunque el estudio consiguió desmontar algunas preocupaciones distópicas comunes sobre la IA, también destacó algunos problemas nuevos que merecen atención.

Inexactitudes convincentes

La estrategia ganadora de «hechos y evidencias» parecía prometedora inicialmente, pero presentó un problema importante. Cuando los investigadores notaron que aumentar la densidad de información en los diálogos hacía que las IAs fueran más persuasivas, comenzaron a pedirles que incrementaran aún más este factor.

Lo que observaron fue preocupante: a medida que las IAs utilizaban más declaraciones basadas en hechos, también se volvían menos precisas. Básicamente, empezaron a tergiversar información o a inventarse cosas con mayor frecuencia.

No está claro si las IAs se vuelven más convincentes porque tergiversan los hechos o si producir declaraciones inexactas es un efecto secundario de pedirles que hagan más afirmaciones factuales. Pero la correlación es evidente y preocupante.

Democratización de la persuasión tecnológica

El descubrimiento de que la potencia computacional necesaria para crear un modelo de IA políticamente persuasivo es relativamente baja tiene implicaciones mixtas. Por un lado, contradice la visión de que solo un puñado de actores poderosos tendrán acceso a sistemas de IA persuasivos que potencialmente podrían influir en la opinión pública a su favor.

Por otro lado, la realización de que prácticamente cualquiera puede ejecutar una IA así en un portátil genera sus propias preocupaciones. Como señala Summerfield: «La persuasión es una vía hacia el poder y la influencia, es lo que hacemos cuando queremos ganar elecciones o negociar acuerdos multimillonarios. Pero muchas formas de uso indebido de la IA podrían implicar persuasión. Pensemos en fraudes o estafas, radicalización o captación. Todas implican persuasión».

El factor de participación

Quizá la incógnita más importante del estudio es la motivación detrás del alto nivel de participación de los usuarios, necesario para obtener las puntuaciones de persuasión elevadas. Al fin y al cabo, incluso la IA más persuasiva no puede influir en ti si simplemente cierras la ventana del chat.

Los participantes sabían que estaban hablando con una IA y que esta intentaría persuadirlos. Para recibir su pago, solo tenían que completar dos turnos de diálogo (con un límite máximo de 10). Sorprendentemente, la longitud media de las conversaciones fue de siete turnos, muy por encima del requisito mínimo.

¿Mantendrían los participantes del estudio tanto interés en entablar disputas políticas con chatbots aleatorios en Internet en su tiempo libre si no hubiera dinero de por medio? Como reconoce Hackenburg: «No está claro cómo se generalizarían nuestros resultados a un contexto del mundo real».

Un detector de IA para la persuasión

A la luz de estos hallazgos, cabe preguntarse si pronto necesitaremos un detector de IA especializado en identificar intentos de persuasión. Si bien los modelos actuales no son «sobrehumanamente persuasivos», su capacidad para influir en nuestras opiniones es real y medible.

Quizá