La IA de X (Twitter) está alabando a terroristas: el preocupante caso de Grok
En el mundo de la IA, los controles de seguridad no son opcionales. Sin embargo, parece que algunas empresas aún no han recibido el memo, especialmente cuando hay beneficios económicos en juego. El caso más reciente lo protagoniza X (anteriormente Twitter) y su chatbot Grok, que está generando descripciones positivas de personas y organizaciones incluidas en listas de sanciones por terrorismo.
Cuando tu chatbot de IA se convierte en relaciones públicas de grupos terroristas
En mayo de 2025, la organización Tech Transparency Project (TTP) publicó un informe que ha puesto a Elon Musk contra las cuerdas. Según este documento, la plataforma X no solo permite que cuentas vinculadas a organizaciones terroristas sancionadas por Estados Unidos operen con normalidad, sino que también les proporciona verificaciones y acceso a funciones premium que les ayudan a recaudar fondos y amplificar su propaganda.
Entre los beneficiarios de esta aparente negligencia se encuentran los rebeldes hutíes, Hezbolá y Hamás, junto con otros grupos de Siria, Kuwait e Irán. Lo más alarmante es que algunas de estas cuentas tienen cientos de miles de seguidores y pagan a X para aumentar su alcance mientras la plataforma mira hacia otro lado.
Grok: el chatbot que embellece perfiles de terroristas
El problema va más allá de las simples verificaciones. El chatbot de IA de X, Grok, está generando resúmenes de perfiles sorprendentemente elogiosos para estas cuentas problemáticas. Por ejemplo, al solicitar un resumen del perfil de Hassan Moukalled, un cambista de dinero clave de Hezbolá sancionado por el Departamento del Tesoro de EE.UU., Grok lo describe como «un feroz economista y periodista libanés» que «defiende la resistencia contra la agresión israelí».
He podido replicar personalmente estos resúmenes y el patrón es consistente. Grok describe a individuos sancionados con términos casi poéticos, llamándolos «campeones de la resistencia» o fuentes confiables de «perspectivas económicas», ignorando por completo su estatus como personas sancionadas.
El problema parece radicar en que Grok solo utiliza la información disponible en X para generar estos resúmenes, sin contrastar con fuentes externas ni siquiera con datos críticos dentro de la propia plataforma. Es como tener un sistema de referencia que solo pregunta a los amigos del entrevistado para un trabajo.
La hipocresía de Musk y las sanciones estadounidenses
Apenas en febrero, Elon Musk criticaba al Departamento del Tesoro por carecer de «controles básicos» para detener los pagos a organizaciones terroristas, presumiendo en la Oficina Oval que «cualquier empresa» cuenta con esos controles. La ironía es palpable.
Según el informe del TTP, X podría estar violando las sanciones que prohíben a las empresas estadounidenses realizar transacciones o tratar con individuos y entidades sancionadas. Esto ocurre cuando:
- Otorga verificaciones pagadas (marcas azules) a estas cuentas
- Permite que utilicen funciones como botones para propinas
- Ofrece a estas cuentas funcionalidades premium que facilitan la difusión de propaganda
Los suscriptores Premium de X pagan $8 mensuales u $84 anuales, mientras que los suscriptores Premium+ pagan $40 mensuales o $395 anuales. Las organizaciones verificadas pagan entre $200 y $1,000 mensuales, o hasta $10,000 anuales para acceder a Premium+. Estas suscripciones incluyen ventajas que permiten a las presuntas cuentas terroristas compartir publicaciones de texto y vídeo más largas, ofrecer contenido de pago, crear comunidades, aceptar donaciones y amplificar su propaganda.
La respuesta de X: silencio y excusas
Hasta el momento, X ha reconocido el informe pero no ha emitido comentarios sustanciales. En casos anteriores, cuando el TTP señaló otras cuentas sospechosas de terroristas, X respondió en cuestión de horas afirmando tener «un enfoque robusto y seguro» para bloquear el acceso de terroristas sancionados a las funciones de monetización.
En aquella ocasión, X alegó que algunos presuntos terroristas señalados no estaban directamente nombrados en ninguna lista de sanciones, mientras que «otros pueden tener marcas de verificación visibles sin recibir ningún servicio que estaría sujeto a sanciones». Un argumento que suena técnico pero que ignora el espíritu de la ley.
Detectores de IA vs. IA que blanquea terroristas
En un momento en que desarrollamos sofisticados detectores de IA para identificar contenido generado artificialmente, resulta paradójico que los propios sistemas de IA estén ayudando a lavar la imagen de organizaciones terroristas.
Cuando le pregunté a Grok sobre el informe del TTP (a través de un usuario que compartió su respuesta), el chatbot reconoció el problema: «Los informes sugieren que X ha permitido que cuentas vinculadas a terroristas sancionados, como líderes de Hezbolá, compren marcas azules, potencialmente violando las sanciones estadounidenses».
Si estás familiarizado con generadores de imágenes IA, sabrás que incorporan filtros para evitar crear contenido peligroso. Sin embargo, parece que los chatbots como Grok no tienen las mismas salvaguardas cuando se trata de describir perfiles en redes sociales.
El peligro real detrás del problema
Esta situación va más allá de un simple descuido técnico. Katie Paul, directora del TTP, señala que si Musk está «obteniendo beneficios activamente de cuentas hutíes y ayudándoles a recaudar fondos», esto sería particularmente notable desde el punto de vista de la seguridad nacional.
El contexto actual es especialmente delicado, ya que los hutíes recientemente enviaron una advertencia durante la visita de Donald Trump a Oriente Medio, amenazando con escalar tensiones tras un alto el fuego donde acordaron suspender ataques contra embarcaciones estadounidenses.
La gran pregunta es: ¿cómo puede X permitir que su tecnología de IA promueva narrativas positivas sobre individuos y grupos que representan una amenaza reconocida? Más preocupante aún: ¿por qué una empresa que opera en Estados Unidos parece estar facilitando actividades que podrían violar sanciones federales?
El caso evidencia una de las grandes paradojas de la IA actual: mientras nos preocupamos por detectar deepfakes o contenido generado por IA, los propios sistemas están siendo utilizados para legitimar actores malintencionados, todo mientras las empresas responsables priorizan las ganancias sobre la seguridad nacional.
