¿Puede la IA perpetuar mitos de racismo científico?
¿Sabías que la IA, a pesar de sus avances, puede caer en trampas de desinformación? Recientes investigaciones revelan un caso alarmante donde motores de búsqueda con IA, como Microsoft Copilot y Perplexity, han referenciado trabajos de investigación profundamente defectuosos para responder a consultas sobre coeficientes intelectuales (CI) en distintos países. Este tipo de errores no solo perpetúan la desinformación, sino que pueden influir en la radicalización de ideologías extremistas.
Viejos mitos en nuevas tecnologías
Rebecca Sear, directora del Centro de Cultura y Evolución de la Universidad Brunel de Londres, ha expresado su preocupación sobre cómo la utilización de datos estadísticos sin cuestionamientos fomenta el racismo científico. La investigación defectuosa de Richard Lynn, que hace años es utilizada por extremistas de derecha y supremacistas blancos como pseudo-evidencia de superioridad racial, ahora encuentra un nuevo vehículo de difusión a través de la inteligencia artificial. Citar esta investigación puede ayudar a esos grupos a legitimar su propaganda y aumentar su alcance en nuevas audiencias.
Un ejemplo espeluznante que subraya el peligro potencial es cómo la investigación de Lynn fue citada por un supremacista blanco durante un tiroteo masivo en Buffalo, Nueva York, en 2022. Este derivado digital de falsos reclamos de superioridad racial pone de manifiesto los peligros asociados no solo con el contenido, sino con la manera en la que las herramientas tecnológicas lo distribuyen.
De dónde vienen las cifras
Los motores de búsqueda actuales con IA intentan ofrecer resúmenes automáticos sin necesidad de que el usuario haga clic en enlaces. Esta función, llamada «AI Overview» por Google, a menudo no revela la fuente de la información inmediatamente, lo que deja a los usuarios con respuestas que pueden no estar fundamentadas en datos confiables. La herramienta cita, controversamente, a sitios que basan su información en la defectuosa base de datos de CI de Lynn.
Perplexity y Microsoft Copilot, por ejemplo, han proporcionado cifras sobre los CI de países como Pakistán y Sierra Leona, respaldadas por sitios web de dudosa fiabilidad como «Brainstats.com». Estos datos a menudo omiten mencionar la metodología utilizada, y su intervención puede agravar la propagación de mitos racistas a gran escala.
Un fallo en la ciencia y la tecnología
Más allá del uso incorrecto de la IA, el verdadero problema radica en la larga aceptación académica que ha tenido la investigación de Lynn. Los datos publicados en su base han sido citados cientos de veces, lo que sugiere que no solo la tecnología, sino la comunidad científica, tiene la responsabilidad de cuestionar críticamente la calidad de tales estudios.
Sear critica la falta de muestras representativas en los estudios de Lynn, destacando ejemplos como la estimación del CI de Angola a partir de solo 19 personas. Datos como estos son una receta perfecta para la desinformación masificada a través de tecnologías emergentes.
Una responsabilidad compartida entre IA y academia
Este caso subraya la necesidad urgente de una revisión crítica tanto del contenido utilizado por la IA como de la responsabilidad del mundo académico en no perpetuar pseudociencias. Es crucial que, a medida que integramos la IA en nuestras vidas diarias, las comunidades tecnológicas y académicas colaboren para garantizar que sea una herramienta de verdad y progreso, no de división.
En un mundo donde la tecnología avanza a un ritmo vertiginoso, podríamos preguntarnos: ¿cómo podemos asegurarnos de que nuestras innovaciones digitales no perpetúen los errores del pasado, y realmente actúen como faros de conocimiento? En Ciberyseguridad, seguimos explorando cómo la inteligencia artificial puede beneficiarnos y detectar dónde puede fallar para que podamos ser usuarios mejor informados y proactivos.
