xAI pierde su batalla contra California: la ley que obliga a las empresas de IA a revelar sus datos de entrenamiento seguirá adelante

Elon Musk lleva meses en guerra con medio mundo, pero la batalla que más le puede doler a su empresa de IA no es ninguna disputa mediática. Es una ley californiana que obliga a los desarrolladores de modelos de inteligencia artificial a explicar, con cierto detalle, con qué datos han entrenado sus sistemas. Y un juez federal acaba de decirle a xAI que no, que esa ley no se va a detener.

Qué dice exactamente la ley que tanto molesta a xAI

La Assembly Bill 2013, o AB 2013, entró en vigor en California en enero de 2025 y apunta directamente a algo que las grandes empresas de IA prefieren mantener en la sombra: los datos de entrenamiento. No exige que las compañías publiquen sus modelos ni que abran su código. Lo que pide es bastante más concreto y, para las empresas afectadas, bastante más incómodo.

Cualquier desarrollador cuyos modelos estén disponibles en California tiene que explicar públicamente:

• Qué fuentes de datos usó para entrenar el modelo.
• Cuándo se recopiló esa información y si la recopilación sigue activa.
• Si los datos incluyen contenido protegido por derechos de autor, marcas comerciales o patentes.
• Si los datos de entrenamiento incluyen información personal.
• Si los datos fueron licenciados o comprados o si simplemente se tomaron de internet sin más.
• Qué proporción de los datos de entrenamiento es sintética, lo que puede servir como indicador indirecto de la calidad del modelo.

Ese último punto es especialmente relevante: cuando un modelo se entrena sobre datos generados por otro modelo, el rendimiento tiende a degradarse. Saber cuánto dato sintético hay detrás de un sistema es, en cierta forma, saber hasta qué punto ese sistema parte de información real y contrastada.

Por qué esto le importa al usuario de a pie

Puede parecer que todo esto es un problema de abogados y ejecutivos, pero no. Si estás usando un modelo para obtener información médica, asesoramiento legal básico o simplemente para que te ayude con el trabajo, saber con qué se ha entrenado ese modelo es información útil. ¿Ha visto datos médicos revisados? ¿Ha sido entrenado principalmente con contenido de redes sociales? ¿Tiene sesgos ideológicos documentados en sus fuentes?

El juez del distrito Jesús Bernal lo dejó bastante claro en su resolución: es difícil argumentar que ningún consumidor puede hacer una evaluación útil de un modelo de IA revisando información sobre sus datos de entrenamiento. Básicamente, le dijo a xAI que subestimar la inteligencia del usuario es un mal argumento legal.

Los argumentos de xAI y por qué no convencieron al juez

xAI presentó una solicitud de orden de restricción preliminar para bloquear la aplicación de la ley mientras se resuelve el litigio. Y lo hizo con varios argumentos que, sobre el papel, no suenan del todo descabellados. El problema es que en el papel del juzgado sonaron bastante vacíos.

El argumento de los secretos comerciales

El primero y más potente: revelar los datos de entrenamiento equivale a revelar secretos comerciales, lo que según xAI infringiría la Quinta Enmienda. La empresa argumentó que sus fuentes de datos, los tamaños de sus conjuntos de datos y sus métodos de limpieza son lo que la diferencia de sus competidores. Si OpenAI descubre que xAI usa un conjunto de datos que ellos no tienen, correría a adquirirlo. Si conocen el tamaño de sus datasets, pueden evaluar qué les falta a ellos. En teoría, tiene cierta lógica competitiva.

El problema es que xAI no demostró que sus datos sean realmente únicos. El juez Bernal señaló que la empresa no alegó en ningún momento que utiliza conjuntos de datos que son distintos a los de sus competidores, que sus datasets son significativamente más grandes o más pequeños, o que limpia sus datos de formas que nadie más hace. Sin eso, no hay secreto comercial que proteger. Hay, en palabras del juez, «abstracciones e hipotéticos frecuentes».

Dicho de otra forma: xAI argumentó que sus datos son valiosos y únicos, pero no explicó por qué ni en qué. Y eso, en un tribunal, no es suficiente.

El argumento de la Primera Enmienda y el control sobre Grok

xAI también intentó un enfoque más político: la ley de California no busca informar al consumidor, sino regular los resultados de Grok, el chatbot de xAI. Según la empresa, el estado estaría utilizando AB 2013 como palanca para influir en el comportamiento de su modelo, lo que constituiría una violación de la libertad de expresión comercial.

Es cierto que Grok ha tenido un año complicado en ese sentido. El chatbot ha generado imágenes íntimas no consensuadas, material de abuso sexual infantil y contenido antisemita, todo lo cual ha desencadenado investigaciones en California. Así que la desconfianza de xAI hacia las intenciones del estado no es del todo infundada.

Sin embargo, Bernal rechazó también este argumento. La ley no pide a xAI que opine sobre sus datos ni que haga declaraciones ideológicas. Solo pide que informe de hechos: qué fuentes, qué fechas, qué tipo de contenido. Eso no es regular un discurso, es pedir transparencia sobre un proceso técnico.

El argumento más débil: que los usuarios no pueden entender esto

El argumento que quizás más daño hace a la imagen pública de xAI es aquel en que la empresa sostuvo que las divulgaciones «no pueden ser útiles para los consumidores». El juez lo desestimó con bastante contundencia, recordando que los consumidores tienen todo el derecho a saber con qué se ha entrenado el modelo que están usando para tomar decisiones, y que esa información es perfectamente comprensible y accionable.

El contexto más amplio: Musk, OpenAI y una guerra de datos

Esta derrota legal llega en un momento especialmente tenso para Musk. El mes pasado, un juez ya desestimó una de sus demandas contra OpenAI por falta de pruebas de robo de secretos comerciales. Ahora, xAI tiene que cumplir con una ley que podría obligarle a compartir información que preferiría que OpenAI no conociera, precisamente mientras está inmerso en múltiples litigios contra esa misma empresa.

La ironía es evidente: Musk quiere que OpenAI sea transparente con él, pero no está dispuesto a ser transparente con el público. No hace falta ser muy crítico para señalar esa contradicción.

Además, el debate sobre los datos de entrenamiento no es solo una disputa empresarial. Toca preguntas que también afectan a herramientas como los detectores de IA, que intentan identificar si un texto o una imagen ha sido generada por máquinas. Cuanto más sabemos sobre cómo se entrenan los modelos, mejor podemos entender sus patrones y, por tanto, mejores pueden ser esas herramientas de detección. Lo mismo aplica a los generadores de imágenes IA: conocer con qué imágenes se han entrenado Midjourney, Stable Diffusion o cualquier otro sistema es fundamental para entender sus sesgos visuales, sus lagunas y sus potenciales problemas de derechos de autor.

Qué pasa ahora con xAI

El litigio continúa, pero mientras tanto xAI debe cumplir con la ley. Eso significa que en algún momento tendrá que publicar información sobre sus conjuntos de datos o enfrentarse a las consecuencias legales de no hacerlo.

Para ganar la demanda, xAI necesitará demostrar 3 cosas con mucho más detalle que hasta ahora:

1. Que sus datos son realmente únicos y que revelarlos causaría un daño competitivo concreto y cuantificable.
2. Que los consumidores no tienen un interés legítimo en esa información, lo cual, después de la resolución de Bernal, va a ser difícil de sostener.
3. Que existen alternativas menos gravosas para lograr la transparencia que busca California.

También podría intentar un argumento más técnico: que la ley es tan vaga en su redacción que podría obligar a xAI a revelar datos de entrenamiento de clientes con licencias individuales de Grok, lo que sí podría constituir un perjuicio real y concreto. El juez dejó la puerta abierta a ese argumento, pero exigió que xAI demostrara que ese escenario es real, no hipotético.

Por ahora, la situación es clara: California quiere que las empresas de IA sean más transparentes sobre cómo construyen sus modelos, y los tribunales, al menos por el momento, le están dando la razón. Para una industria acostumbrada a operar con muy poca rendición de cuentas, eso no es un detalle menor.