El New York Times podrá revisar los registros borrados de ChatGPT tras ganar a OpenAI en los tribunales

La justicia ha dictado sentencia y OpenAI tiene un nuevo problema entre manos. El gigante de la IA deberá conservar indefinidamente los registros de ChatGPT, incluidos los chats eliminados y temporales, para que el New York Times pueda buscar en ellos posibles evidencias para su demanda por copyright. Este giro en el caso abre un interesante debate sobre privacidad, derechos de autor y los límites de la inteligencia artificial.

La batalla legal que OpenAI no pudo ganar

La semana pasada, OpenAI intentó oponerse a la orden judicial que les obliga a mantener todos los registros de conversaciones de ChatGPT «indefinidamente». Sin embargo, el juez del distrito estadounidense Sidney Stein rechazó de plano sus objeciones. El argumento de OpenAI de que esto transgredía «normas de privacidad establecidas» y debilitaba las protecciones que los usuarios esperan según sus términos de servicio no convenció al juez, quien recordó que el propio acuerdo de usuario especifica que los datos pueden retenerse como parte de un proceso legal. Y eso es exactamente lo que está ocurriendo.

Todo comenzó cuando organizaciones de noticias, con el NYT a la cabeza, solicitaron esta medida. Su alegación: los usuarios de ChatGPT probablemente eliminan las conversaciones donde intentan usar el chatbot para esquivar muros de pago y acceder a contenido noticioso protegido con copyright.

Un portavoz de OpenAI me comentó que planean «seguir luchando» contra esta orden, pero sus opciones son limitadas. Podrían solicitar al Tribunal de Apelaciones del Segundo Circuito una orden de emergencia para bloquear la decisión, pero tendrían que demostrar que la orden judicial constituye un abuso extraordinario de discreción. No parece un camino fácil.

¿Qué significa esto para los usuarios de ChatGPT?

Aunque OpenAI está intentando negociar un proceso que permita a los demandantes buscar en los datos retenidos de manera limitada, la situación pone a la empresa en una posición complicada. Pueden ceder a cierta recopilación de datos para detener la retención lo antes posible o prolongar la batalla y arriesgarse a que más conversaciones privadas queden expuestas en el litigio o, peor aún, a través de una filtración de datos.

El NYT no buscará en todos los datos, lo cual sería imposible por su volumen. En lugar de eso, solo accederán a una pequeña muestra basada en palabras clave acordadas entre ambas partes. Estos datos permanecerán en los servidores de OpenAI, donde serán anonimizados, y probablemente nunca se entregarán directamente a los demandantes.

Un cambio en las reglas de juego

Para OpenAI, compartir estos registros podría revelar ejemplos de contenidos infractores que aumentarían los daños reclamados en el caso. Las conversaciones también podrían exponer con qué frecuencia ChatGPT atribuye incorrectamente información al NYT.

Por otra parte, para los medios de comunicación, acceder a estos registros no es esencial para su caso, pero podría ayudarles a argumentar que ChatGPT diluye el mercado para su contenido. Un juez ya ha señalado que la evidencia de dilución del mercado podría inclinar un caso de derechos de autor contra los sistemas de IA.

Privacidad en riesgo: la voz de los usuarios silenciada

Jay Edelson, un prominente abogado especializado en privacidad del consumidor, expresó su preocupación porque los jueces no parecen considerar que la evidencia en los registros de ChatGPT no «avanzaría» el caso de los demandantes «en absoluto», mientras cambia significativamente «un producto que la gente usa a diario».

Edelson también advirtió sobre el riesgo de seguridad: aunque OpenAI probablemente tiene mejor seguridad que la mayoría de las empresas, «los abogados notoriamente han sido bastante malos asegurando datos». La idea de que «un montón de abogados van a estar haciendo lo que sea» con «algunos de los datos más sensibles del planeta» y «son ellos quienes lo protegen contra los hackers debería hacer que todos se sientan incómodos».

Dos varas de medir en la privacidad

Lo que resulta particularmente controvertido es que la orden excluye a los usuarios empresariales de ChatGPT. Edelson señala que no hay «ninguna lógica» en esta exclusión. Al dejar fuera a estos usuarios, el juez puede haber eliminado a aquellos con mejores recursos para luchar contra la orden.

«Lo que eso significa es que las grandes empresas, las que tienen el poder, todas sus cosas permanecen privadas, y nadie puede tocar eso», explica Edelson. La orden «solo va a vulnerar la privacidad de la gente común», lo que considera «realmente ofensivo», dado que la jueza Wang denegó la solicitud desesperada de dos usuarios de ChatGPT para intervenir.

«Estamos hablando de miles de millones de chats que ahora se van a preservar cuando antes no iban a ser preservados», añadió Edelson, mencionando que él mismo ha introducido información sobre su historial médico personal en ChatGPT. «La gente pide consejo sobre sus matrimonios, expresa preocupaciones sobre perder trabajos. Dicen cosas realmente personales. Y uno de los acuerdos al tratar con OpenAI es que puedes eliminar tus chats y puedes tener chats temporales».

Impacto futuro en la privacidad y uso de generadores de IA

El mayor riesgo para los usuarios sería una filtración de datos, pero ese no es el único problema potencial de privacidad. Corynne McSherry, directora legal de Electronic Frontier Foundation, señaló anteriormente que mientras los datos de los usuarios se conserven, también podrían quedar expuestos a través de futuras solicitudes de las fuerzas del orden y litigios privados.

Edelson también cuestiona el compromiso del CEO de OpenAI, Sam Altman, con la privacidad, a pesar de que recientemente criticó al NYT alegando que demandaron a OpenAI porque no «les gusta la privacidad del usuario».

«Está tratando de proteger a OpenAI, y no le importa un comino los derechos de privacidad de los consumidores», afirmó Edelson, haciéndose eco de la preocupación desestimada de un usuario de ChatGPT de que OpenAI podría no priorizar las preocupaciones de privacidad de los usuarios si está financieramente motivada para resolver el caso.

«La idea de que él y sus abogados van a ser realmente las salvaguardas aquí no es muy convincente», dijo Edelson, criticando a los jueces por desestimar las preocupaciones de los usuarios y rechazar la solicitud de OpenAI de que los usuarios tengan la oportunidad de testificar.

«Lo que me resulta más espantoso es que las personas que están siendo afectadas no han tenido voz en esto», concluyó.

Este caso establece un precedente preocupante para el futuro de la privacidad en las herramientas de IA. Mientras los detectores de IA y generadores de imágenes IA siguen evolucionando y ganando usuarios, casos como este podrían determinar hasta qué punto nuestras interacciones con estos sistemas realmente nos pertenecen.