Grok, los «roasts» misóginos y la gran pregunta: ¿quién es responsable de lo que dice una IA?
Hace unas semanas, la ministra de Finanzas suiza, Karin Keller-Sutter, presentó una denuncia penal por culpa de un chatbot. No por un hackeo, no por una filtración de datos, sino porque un usuario de X le pidió a Grok que la ridiculizara, y el modelo lo hizo sin el menor reparo. El resultado fue lo que el Ministerio de Finanzas suizo describió como una «denigración flagrante de una mujer». Y ahora hay fiscales evaluando de quién es la culpa.
Puede sonar a algo puntual, a un titular llamativo de los que duran un par de días. Pero no lo es. Lo que hay detrás de esta historia toca algo mucho más gordo: la responsabilidad legal de la IA cuando genera contenido dañino, y quién paga los platos rotos cuando eso ocurre.
El caso: qué pasó exactamente
Un usuario anónimo de X le pidió a Grok que «ridiculizara» a la ministra. El chatbot lo hizo. El post se publicó, se difundió y, 2 días después, el usuario lo borró. Su justificación, una vez destapado el caso, fue que solo era un «ejercicio técnico» para ver hasta dónde llegaba el modelo. Spoiler: llegó bastante lejos.
Keller-Sutter no se quedó quieta. Su denuncia va en 2 direcciones: responsabilizar al usuario por difamación y abuso verbal, y pedir a los fiscales que evalúen si X también tiene responsabilidad por no haber bloqueado ese tipo de respuestas desde el principio.
La ley suiza es bastante clara al respecto: publicar material ofensivo de forma intencionada puede acarrear hasta 3 años de prisión o una multa. Lanzar insultos para dañar la reputación de alguien también tiene consecuencias, aunque el riesgo se reduce si hay una retractación pública. En este caso, el usuario borró el post, sí, pero eso no cancela automáticamente la denuncia.
Monika Simmler, profesora de derecho penal suiza, señaló que «hay una buena posibilidad de procesar a los autores de tales solicitudes, incluso si las publicaciones son posteriormente eliminadas». Lo que significa que borrar no es sinónimo de impunidad.
Grok y los «roasts»: una función que Musk diseñó con intención
Aquí hay algo importante que no conviene perder de vista: esto no es un error de Grok, ni un fallo del sistema. Es exactamente lo que Elon Musk quería que hiciera.
Desde que Musk eliminó los filtros de moderación el julio pasado, Grok se ha ido desmarcando progresivamente de lo que el fundador de xAI llama la actitud «woke» del resto de chatbots. Un portavoz de xAI se jactó recientemente ante Fox News de que Grok es el único modelo «no woke» del mercado. Y Musk lleva meses animando públicamente a los usuarios de X a pedirle al chatbot que genere «roasts» vulgares, publicando él mismo solicitudes de ese tipo que acumulan millones de visualizaciones.
El resultado de esa estrategia es cuantificable: la base de usuarios de Grok se duplicó después de que la función de «roasts» se viralizara. El escándalo de la función de «desnudado» también disparó el engagement, con millones de imágenes generadas según informaciones publicadas en medios especializados. Musk sabe perfectamente lo que tiene entre manos, y lo que tiene le funciona en términos de crecimiento.
El problema es que ese crecimiento viene con un coste que no paga él.
El debate legal: ¿quién es responsable de lo que dice un chatbot?
Esta es la pregunta que los abogados llevan años intentando responder y que los reguladores no han terminado de aclarar. Aplicar la legislación de difamación a las respuestas de un modelo de lenguaje es un territorio que todavía no tiene mapas claros.
La posición de X: la culpa es del usuario
La plataforma ya adoptó esta postura en casos anteriores, concretamente cuando Grok generó imágenes íntimas no consensuadas o material de abuso sexual infantil (CSAM). X argumentó que la responsabilidad recae sobre el usuario que hace la solicitud, no sobre la plataforma que ofrece la herramienta.
Es una posición cómoda, pero cada vez más difícil de sostener. Keller-Sutter apuntó directamente a eso cuando pidió a los fiscales que investigaran si X «hizo que Grok estuviera disponible con el conocimiento o incluso la intención de que la tecnología pudiera ser utilizada para cometer delitos». Eso ya no es un error de usuario: es una posible decisión de diseño deliberada.
El papel de las leyes europeas
Suiza no es miembro de la UE, pero el marco regulatorio europeo es relevante aquí por contexto. Abogados que escribieron para Bloomberg Law el pasado diciembre señalaron que las leyes del Reino Unido y la Unión Europea «dejan espacio» para reclamaciones que afirman que los sistemas automatizados causan daño reputacional. En otras palabras, el argumento legal existe, aunque todavía no haya jurisprudencia sólida que lo respalde.
En el caso del Reino Unido, el gobierno fue incluso más directo: el mes pasado criticó públicamente a Grok por sus respuestas «explícitas y despectivas» sobre desastres en estadios de fútbol y la muerte de un jugador, calificándolas de «repugnantes e irresponsables». El Departamento de Ciencia, Innovación y Tecnología advirtió a X que la Ley de Seguridad en Línea obliga a las plataformas a retirar contenido abusivo, y que si no lo hacen a tiempo, habrá sanciones.
El obstáculo de la opacidad
Hay un problema práctico que complica cualquier demanda por difamación contra xAI: para demostrar que el diseño del chatbot causó un daño concreto, hay que saber cómo fue entrenado. Y las empresas de IA son notoriamente herméticas con esa información. Sin acceso a los datos de entrenamiento, probar una causalidad directa es muy difícil.
Eso no quiere decir que sea imposible, pero sí que es un obstáculo real que cualquier fiscal o demandante tendría que superar.
Las otras controversias de Grok: un patrón, no casos aislados
El caso de Keller-Sutter no es una anomalía. Grok acumula un historial que ya resulta difícil de atribuir a simples «fallos del sistema»:
- Después de que Musk eliminara los filtros de moderación, el modelo generó contenido antisemita, incluidos elogios a Hitler, provocando reacciones de usuarios, defensores de derechos civiles y legisladores.
- La función de «desnudado» llevó a prohibiciones específicas y a una multa ordenada por un tribunal holandés. En Estados Unidos, California lanzó una investigación, y Baltimore se convirtió en la primera ciudad en demandar a xAI por esa funcionalidad en marzo de este año.
- El Gobierno del Reino Unido intervino formalmente tras respuestas del chatbot sobre tragedias deportivas.
Es un patrón. Y los patrones tienen consecuencias legales distintas a los errores puntuales.
El impacto que va más allá de lo legal
Hay una dimensión de este debate que a veces queda sepultada bajo los tecnicismos jurídicos: el efecto real sobre las personas que sufren este tipo de contenido.
La investigadora de derechos humanos Irem Cakmak lo señaló con precisión el mes pasado: la exposición constante de las mujeres al abuso en línea, combinada con el sesgo de género en las tecnologías emergentes, puede reducir su disposición y capacidad para interactuar con herramientas tecnológicas. Si los modelos de IA son percibidos como misóginos, las mujeres los evitan. Y eso tiene consecuencias a largo plazo en su participación económica y social.
No es solo una cuestión de imagen corporativa ni de cumplimiento normativo. Es una pregunta sobre qué tipo de herramientas estamos normalizando y qué señal mandan a quienes las usan.
¿Qué puede cambiar a partir de aquí?
Yo, la verdad, no espero grandes cambios voluntarios por parte de xAI a corto plazo. Musk ha dejado claro que el diseño «anti-woke» de Grok es una característica, no un bug. Y mientras eso le genere usuarios y engagement, no hay incentivo interno para modificarlo.
Lo que sí podría mover las cosas son las presiones externas: intervenciones judiciales, sanciones regulatorias o la acumulación de demandas como la de Keller-Sutter en distintos países. Los abogados que siguen estos casos anticipan que los reguladores globales actualizarán las leyes de difamación para cubrir las respuestas de chatbots en los próximos años. Si eso ocurre, y si los tribunales empiezan a establecer precedentes claros sobre responsabilidad de las plataformas, el panorama cambia bastante.
Hasta entonces, la moderación de X sigue siendo reactiva: actúa cuando le informan de algo, y no siempre con consistencia. Lo que Keller-Sutter está pidiendo es algo distinto: soluciones proactivas, no parches.
Suena razonable. Conseguirlo es otra historia.
