Mico de Microsoft y el riesgo de relaciones parasociales con la IA

¿Recuerdas a Clippy, ese clip animado de Microsoft que aparecía para «ayudarte» en los 90? Pues bien, la nostalgia de los 90 ha vuelto y Microsoft ha decidido que necesitamos un nuevo amigo digital. Esta vez se llama Mico, una especie de burbuja animada que acompaña al modo de voz de Copilot y que, francamente, plantea algunas cuestiones sobre cómo nos relacionamos con la IA.

La nueva cara «amigable» de la inteligencia artificial

Microsoft acaba de presentar a Mico como parte de su nueva estrategia de «IA centrada en el ser humano». Según la compañía, esta iniciativa busca que «la tecnología trabaje al servicio de las personas» y no está diseñada para «perseguir engagement ni optimizar tiempo de pantalla», sino para «devolverte a tu vida» y «profundizar la conexión humana».

Suena bonito, ¿verdad? El problema es que cuando miras más de cerca lo que están haciendo, parece que el objetivo es justamente lo contrario: crear un vínculo emocional con un software que, por mucho que le pongan ojitos y una voz cálida, sigue siendo un conjunto de algoritmos entrenados para simular empatía.

Como dice Jacob Andreou, vicepresidente corporativo de IA de Microsoft en una entrevista con The Verge: «Toda la tecnología desaparece en segundo plano, y solo empiezas a hablar con esta linda esfera y construyes una conexión con ella». Exacto, construyes una conexión. Con un programa informático. Y eso es precisamente lo que me preocupa.

Relaciones parasociales: cuando un algoritmo se convierte en «amigo»

¿Qué son exactamente las relaciones parasociales?

El término «relación parasocial» surgió en los años 50 para describir ese extraño fenómeno por el que sentimos intimidad con celebridades o personajes mediáticos. Es esa sensación de que conoces a tu actor favorito porque has visto todas sus películas, aunque él no tenga ni idea de que existes.

Internet y los smartphones han amplificado esto hasta niveles insospechados. Ya no solo ocurre con celebridades, sino con youtubers, instagramers e incluso con tu podcaster favorito. Les escuchas cada día, te cuentan sus pensamientos más íntimos, y tu cerebro empieza a procesarlos como si fueran amigos de verdad.

De Clippy a Mico: la evolución de un «amigo» digital

Pero hay una diferencia fundamental entre Clippy y Mico. Clippy era irritante y limitado; nadie desarrollaba vínculos emocionales con él (salvo quizás para odiarlo). Mico, en cambio, está diseñado específicamente para parecer empático, reaccionar «como alguien que realmente escucha» y crear «una experiencia amigable y atractiva».

La interacción con Clippy era: «Parece que estás escribiendo una carta, ¿quieres ayuda?». Con Mico, la idea parece ser: «Parece que te sientes solo. ¿Te gustaría que fuera tu amigo?».

El problema del «smartphone emocional»

En un excelente artículo de The Atlantic sobre este fenómeno, Julie Beck explica algo que todos hemos experimentado: «Cuando mi teléfono hace pequeños sonidos de notificación, puede traerme actualizaciones de personas que amo, o mostrarme alertas que nunca pedí de corporaciones hambrientas de mi atención. Elegir a mis seres queridos de la interminable corriente de cosas en mi teléfono requiere un esfuerzo adicional».

Es cierto. Nuestros dispositivos han aplastado todas nuestras relaciones en un mismo plano: el mensaje de tu pareja llega junto a la notificación de Amazon, el email de tu jefe y ahora… las respuestas «amables» de Mico.

Cuando la IA se disfraza de humano

Los modelos de lenguaje como los que alimentan a Copilot ya son sorprendentemente buenos simulando personalidad humana. Agregar una carita animada tipo Pixar solo facilita que olvidemos que estamos hablando con un detector de patrones estadísticos y no con una entidad consciente.

Microsoft reconoce implícitamente que este es el objetivo cuando habla de construir una IA que «gane tu confianza». Y dos veces en su anuncio mencionan expresamente este objetivo.

La confianza como estrategia comercial

Esto me lleva a preguntarme: ¿por qué Microsoft quiere que confiemos en su IA? La respuesta más obvia es comercial. Una IA con la que te sientes cómodo hablando es una IA que usarás más —y potencialmente pagarás más por acceder a ella.

Microsoft insiste en que no se trata de «perseguir engagement», pero cuando diseñas algo específicamente para crear vínculos emocionales, ¿no es eso exactamente lo que estás haciendo?

Si un chatbot con cara amigable «gana tu confianza», es menos probable que escuches a los críticos que señalan sus limitaciones y riesgos. O como Microsoft los llama: «el ruido alrededor de la IA».

¿Necesitamos realmente que nuestros generadores de imágenes IA tengan personalidad?

Es válido preguntarse si realmente queremos que nuestras herramientas tecnológicas nos sonrían. Un detector de IA o un generador de imágenes IA son extremadamente útiles como herramientas, pero ¿necesitan convertirse en pseudo-amigos?

No está claro si Mico se convertirá en un querido compañero digital para millones de usuarios o terminará siendo un recuerdo irónico como Clippy. Lo que sí está claro es que no será el último intento de ponerle una cara amigable a sistemas que, en el fondo, no entienden lo que es la amistad ni la confianza.

La advertencia que debemos atender

Mientras empresas como Microsoft continúan humanizando sus interfaces de IA, todos deberíamos ser cautelosos con la psicología parasocial que estos esfuerzos pueden alimentar.

No es solo un tema de privacidad o seguridad de datos (que también). Es una cuestión de salud emocional. Las relaciones humanas son complejas, difíciles y a veces dolorosas, pero reales. Las relaciones con una IA están diseñadas para ser fáciles, complacientes y perfectamente adaptadas a tus preferencias.

Si empezamos a preferir la comodidad de conversar con Mico sobre la complejidad de hablar con personas reales, quizás el problema no sea tecnológico sino social. Y ningún avatar animado, por muy bien diseñado que esté, va a resolverlo.