La carrera por clonar los modelos de IA: cuando la copia es más que un halago

En el mundo de la inteligencia artificial, parece que incluso los gigantes como Google están aprendiendo que la imitación no siempre es la forma más sincera de adulación. La compañía acaba de revelar que actores «comercialmente motivados» han intentado clonar el conocimiento de su chatbot Gemini mediante un método sorprendentemente sencillo: bombardeándolo con preguntas. En una sesión particularmente agresiva, alguien lanzó más de 100.000 prompts en varios idiomas no ingleses, recopilando respuestas con el aparente objetivo de entrenar una versión de bajo coste.

El arte de la «extracción de modelos»

Google ha bautizado esta práctica como «extracción de modelos» y la considera, sin rodeos, un robo de propiedad intelectual. Posición que resulta cuando menos irónica, teniendo en cuenta que sus propios modelos de IA fueron construidos en gran parte raspando internet sin el permiso explícito de los creadores de ese contenido. Es como quejarse de que alguien te ha robado la cartera que acabas de encontrar en la calle.

Lo que hace esta historia aún más interesante es que no es la primera vez que Google se ve envuelto en controversias similares. En 2023, The Information publicó que el equipo de Bard (predecesor de Gemini) había sido acusado de utilizar respuestas de ChatGPT extraídas de ShareGPT para mejorar su propio chatbot. Esta acusación llevó a la renuncia de Jacob Devlin, un investigador senior de IA en Google y creador del influyente modelo BERT, quien posteriormente se unió a OpenAI. Google negó las acusaciones, pero aparentemente dejó de usar esos datos.

Cuando la copia se convierte en negocio

Lo que estamos viendo no es simplemente piratería digital, sino una práctica industrial conocida como «destilación». Funciona así: si quieres construir tu propio modelo de lenguaje pero no tienes los miles de millones de dólares ni los años que Google ha invertido en Gemini, puedes usar un atajo.

El proceso consiste en alimentar un modelo existente con miles de prompts cuidadosamente seleccionados, recopilar todas las respuestas y usar esos pares de entrada-salida para entrenar un modelo más pequeño y económico. Es como aprender a cocinar no estudiando con el chef, sino probando exhaustivamente sus platos y deduciendo las recetas.

El modelo clonado nunca ve el código de Gemini ni sus datos de entrenamiento, pero al estudiar suficientes de sus salidas, puede aprender a replicar muchas de sus capacidades. Y aunque el resultado no sea perfecto, resulta muchísimo más eficiente que intentar construir un modelo útil desde cero con datos aleatorios de internet.

El atacante invisible

Lo fascinante del informe de Google es que la compañía identifica una creciente oleada de estos ataques de destilación contra Gemini. Muchas de estas campañas han ido específicamente tras los algoritmos que ayudan al modelo a realizar tareas de razonamiento simulado o a decidir cómo procesar información paso a paso.

La compañía asegura haber identificado la campaña de 100.000 prompts y ajustado las defensas de Gemini, aunque no detalla en qué consisten exactamente esas contramedidas. ¿Bloqueos por IP? ¿Detección de patrones de consulta? ¿Limitaciones más estrictas en la tasa de peticiones? Quizás es mejor mantener esas cartas contra el pecho.

El dilema de la destilación: ¿robo o evolución natural?

Google no es la única empresa preocupada por este fenómeno. OpenAI acusó al rival chino DeepSeek el año pasado de usar destilación para mejorar sus propios modelos, y la técnica se ha extendido por toda la industria como un estándar para construir modelos de IA más baratos y pequeños a partir de otros más grandes.

Una cuestión de permisos

La línea que separa la destilación estándar del robo depende de qué modelo estás destilando y si tienes permiso para hacerlo. Las compañías tecnológicas han gastado miles de millones intentando proteger esta distinción, pero ningún tribunal la ha puesto a prueba todavía. Estamos en ese incómodo territorio donde la tecnología avanza más rápido que las leyes.

Los competidores llevan utilizando la destilación para clonar capacidades de modelos de lenguaje de IA al menos desde la era de GPT-3, siendo ChatGPT un objetivo popular tras su lanzamiento.

El caso de Alpaca: crear un ChatGPT por 600 dólares

En marzo de 2023, poco después de que los pesos del modelo LLaMA de Meta se filtraran en línea, investigadores de la Universidad de Stanford construyeron un modelo llamado Alpaca refinando LLaMA con 52.000 salidas generadas por GPT-3.5 de OpenAI. El coste total fue de unos 600 dólares. El resultado se comportaba tan parecido a ChatGPT que planteó preguntas inmediatas sobre si las capacidades de cualquier modelo de IA podrían protegerse una vez que fuera accesible a través de una API.

El desliz de Grok

Más tarde ese mismo año, xAI de Elon Musk lanzó su chatbot Grok, que rápidamente citó «la política de uso de OpenAI» al rechazar ciertas solicitudes. Un ingeniero de xAI culpó a la ingestión accidental de salidas de ChatGPT durante el raspado web, pero la especificidad del comportamiento, hasta el característico fraseo de rechazo de ChatGPT y su hábito de envolver respuestas con resúmenes tipo «En general…», dejó a muchos en la comunidad de IA poco convencidos.

La destilación como práctica legítima

No todo es oscuro en el mundo de la destilación. Este proceso también ocurre dentro de las propias empresas y se utiliza frecuentemente para crear versiones más pequeñas y rápidas de modelos de IA más antiguos y grandes:

• OpenAI creó GPT-4o Mini como una destilación de GPT-4o
• Microsoft construyó su compacta familia de modelos Phi-3 utilizando datos sintéticos cuidadosamente filtrados generados por modelos más grandes
• DeepSeek ha publicado oficialmente seis versiones destiladas de su modelo de razonamiento R1, la más pequeña de las cuales puede ejecutarse en un portátil

¿El futuro de la IA es la copia?

La realidad es que mientras un modelo de IA sea accesible al público, no existe una barrera técnica infalible que impida a un actor determinado hacer lo mismo con el modelo de otra persona (aunque limitar la tasa de peticiones ayuda), que es exactamente lo que Google dice que le pasó a Gemini.

Lo que estamos presenciando es un ecosistema donde los grandes modelos entrenan a los pequeños, que a su vez pueden mejorar y convertirse en competidores. Es una evolución acelerada donde la barrera de entrada se reduce constantemente.

El detector de IA frente a los clones

Esta situación plantea desafíos adicionales para las herramientas de detección de IA. Si ya es complejo identificar contenido generado por modelos originales como GPT-4 o Gemini, la proliferación de clones y modelos destilados hace que los detectores de IA tengan que enfrentarse a una diversidad cada vez mayor de «firmas» de escritura artificial.

Los generadores de imágenes IA también enfrentan este problema, con clones que reproducen estilos y capacidades de modelos como Midjourney o DALL-E, pero con pequeñas vari