OpenAI podría enfrentarse a graves consecuencias por borrar sus polémicos datasets
La gigante de la IA OpenAI se encuentra en una situación complicada que podría tener consecuencias devastadoras. Y no, no es una exageración. El motivo: la eliminación de dos conjuntos de datos controvertidos compuestos por libros pirateados está en el centro de una demanda colectiva que podría acabar costándole muy caro.
El caso que podría cambiar las reglas del juego para la IA
La cosa es seria. En el núcleo de esta demanda colectiva presentada por autores que alegan que ChatGPT se entrenó ilegalmente con sus obras, está la decisión de OpenAI de eliminar estos datasets conocidos como «Books 1» y «Books 2» antes del lanzamiento de ChatGPT en 2022.
Lo curioso es que nadie discute que OpenAI eliminó estos conjuntos de datos. Fueron creados por ex empleados de OpenAI en 2021, construidos mediante el raspado de la web abierta y obteniendo gran parte de su información de una biblioteca pirata llamada Library Genesis (LibGen).
Según cuenta OpenAI, los datasets dejaron de utilizarse ese mismo año, lo que motivó la decisión interna de eliminarlos. Una explicación bastante conveniente, ¿no os parece?
Las contradicciones que podrían hundir a OpenAI
Los autores sospechan que hay mucho más detrás de esta historia. Han señalado que OpenAI pareció dar bandazos, retractándose primero de su afirmación de que el «no uso» fue una razón para eliminar los datasets, y luego alegando que todas las razones para la eliminación, incluido el «no uso», deberían estar protegidas por el privilegio abogado-cliente.
Para los autores, parece que OpenAI está retrocediendo rápidamente después de que el tribunal concediera sus solicitudes de descubrimiento para revisar los mensajes internos de OpenAI sobre el «no uso». Y este cambio de postura solo ha aumentado el interés de los autores por ver cómo discutió OpenAI internamente este tema.
La semana pasada, la juez magistrada Ona Wang ordenó a OpenAI compartir todas las comunicaciones con abogados internos sobre la eliminación de los datasets, así como «todas las referencias internas a LibGen que OpenAI ha redactado o retenido basándose en el privilegio abogado-cliente».
Según Wang, OpenAI metió la pata al argumentar que el «no uso» no era una «razón» para eliminar los datasets, mientras que simultáneamente afirmaba que también debería considerarse una «razón» privilegiada.
Las implicaciones técnicas y legales para el futuro de los sistemas de IA
Lo que está en juego aquí va mucho más allá de OpenAI. Estamos hablando de sentar un precedente sobre cómo las empresas de IA deben obtener y gestionar los datos para entrenar sus modelos.
El posible coste de la infracción voluntaria
Los autores creen que exponer la verdadera razón de OpenAI puede ayudar a demostrar que el creador de ChatGPT infringió deliberadamente los derechos de autor al piratear los datos de los libros. Como explicó Wang, la retractación de OpenAI podría poner en duda la «buena fe y el estado mental» de la empresa, lo que podría aumentar las multas en caso de perder.
«En un caso de derechos de autor, un tribunal puede aumentar la indemnización por daños y perjuicios legales hasta 150.000 dólares por obra infringida si la infracción fue deliberada», escribió Wang.
Y esto no es calderilla. Multiplicado por el número de obras potencialmente afectadas, estamos hablando de cifras astronómicas.
Las contradicciones técnicas que podrían salir a la luz
Un abogado que representa a algunos de los autores demandantes, Christopher Young, señaló que OpenAI podría estar en problemas si las pruebas mostraran que decidió no usar los datasets para modelos posteriores debido a riesgos legales. También sugirió que OpenAI podría estar usando los datasets bajo nombres diferentes para ocultar más infracciones.
El detector de IA más potente aquí podría ser la propia justicia, desenmascarando prácticas cuestionables en la construcción de estos sistemas.
La batalla legal que podría redefinir el entrenamiento de modelos de IA
La juez Wang también encontró contradictorio que OpenAI continuara argumentando en una presentación reciente que actuó de buena fe, mientras eliminaba «artísticamente» su defensa afirmativa de buena fe y palabras clave como «inocente», «creía razonablemente» y «buena fe».
«Un jurado tiene derecho a conocer la base de la supuesta buena fe de OpenAI», escribió Wang.
OpenAI vs. Anthropic: dos caras de la misma moneda
Wang pareció particularmente frustrada por el intento de OpenAI de tergiversar el fallo Anthropic para defenderse. En una nota al pie, Wang criticó a OpenAI por citar «de manera extraña» un fallo de Anthropic que tergiversaba «groseramente» la decisión del juez William Alsup al afirmar que determinó que «descargar copias pirateadas de libros es legal siempre que posteriormente se utilicen para entrenar un LLM».
En cambio, Alsup escribió que dudaba que «cualquier acusado de infracción pudiera explicar por qué era razonablemente necesario descargar copias de sitios piratas que podría haber comprado o accedido legalmente para cualquier uso justo posterior».
Si algo demuestra este caso es que el generador de imágenes IA más perfecto no podrá crear una realidad alternativa en la que estos métodos de obtención de datos sean legales.
¿El principio del fin para los métodos actuales de entrenamiento?
Para los autores, obtener acceso a las comunicaciones privilegiadas de OpenAI podría inclinar la balanza a su favor. Algunos autores creen que la clave para ganar podría ser el testimonio del CEO de Anthropic, Dario Amodei, a quien se acusa de crear los controvertidos datasets mientras aún estaba en OpenAI.
OpenAI intentó luchar contra la moción de los autores para interrogar a Amodei, pero un juez se puso del lado de los autores en marzo, obligando a Amodei a responder a sus mayores preguntas sobre su participación.
Sea cual sea el resultado de este caso, está claro que marcará un antes y un después en cómo las empresas de IA obtienen datos para entrenar sus modelos. La era del «raspar primero y preguntar después» podría estar llegando a su fin.
Y sinceramente, como alguien que lleva años siguiendo el desarrollo de la IA, creo que ya era hora. El avance tecnológico no debería construirse sobre prácticas cuestionables, por muy revolucionarios que sean los resultados.
