El desafío de los tribunales ante las pruebas generadas por IA: ¿Están listos los jueces para el futuro?
Las tecnologías de inteligencia artificial están transformando todos los ámbitos de nuestra vida, y los tribunales no son una excepción. El viernes pasado, se celebró una reunión federal en Washington, DC, que puso sobre la mesa un tema candente: cómo los tribunales deben enfrentarse a las pruebas generadas por IA, conocidas por su capacidad para crear deepfakes y otras falsificaciones sofisticadas.
Los riesgos de las pruebas generadas por IA
La creciente popularidad de los modelos de IA generativa, como los desarrollados por OpenAI y Stability AI, capaces de producir texto, imágenes, audio o vídeos increíblemente realistas, ha despertado la preocupación de los juristas. La calidad de este contenido generado artificialmente es tal que podría ser utilizado, sin el debido control, para manipular las pruebas en los juicios.
De hecho, el año pasado, el presidente del Tribunal Supremo de los Estados Unidos, John Roberts, reconoció los beneficios potenciales que la IA podría ofrecer tanto para los litigantes como para los jueces, aunque subrayó la importancia de regular su uso apropiado en los litigios.
Propuestas de cambios en las reglas federales
Durante la reunión, el comité de pruebas consideró varias propuestas para mitigar el impacto de los deepfakes en los tribunales. Por ejemplo, se discutió la modificación de la Regla Federal actual para especificar cómo autenticar o identificar pruebas electrónicas. La nueva regla propuesta, 901(c), sugiere que si un oponente demuestra que una prueba es probablemente fabricada o alterada, esta solo será admisible si su valor probatorio supera cualquier efecto perjudicial que pudiera tener sobre el caso.
Desafíos y preocupaciones
Adicionalmente, hubo sugerencias para que las pruebas generadas por máquinas se sometan a los mismos estándares de fiabilidad que los testigos expertos. Sin embargo, el juez Patrick Schiltz advirtió sobre los posibles inconvenientes de esta norma, ya que podría complicar los procesos judiciales permitiendo que los abogados defensores cuestionen cualquier evidencia digital sin motivos suficientes.
No obstante, aunque no se han realizado cambios definitivos en las reglas, el debate señala un primer paso en cómo el sistema de justicia estadounidense podría adaptarse a esta nueva clase de tecnología generadora de contenido.
Casos embarazosos en la práctica jurídica
Más allá de los riesgos en las pruebas, la IA generativa ha ocasionado momentos vergonzosos para los abogados en los últimos años. En mayo de 2023, el abogado Steven Schwartz del bufete Levidow, Levidow & Oberman, tuvo que disculparse ante un juez por haber utilizado ChatGPT para redactar escritos judiciales, lo que planteó serias dudas sobre la fiable en el ámbito legal. Asimismo, en noviembre, otro incidente involucró a un abogado que se vio comprometido por la influencia de un asistente de IA en su labor.
Está claro que la IA no solo plantea preguntas sobre su papel en la generación de pruebas, sino también sobre su uso ético y responsable dentro del campo legal. Al final, queda por ver cómo estas innovaciones tecnológicas serán reguladas para asegurar que la justicia no sea amenazada por la falsificación facilitada por las máquinas. Lo que sí es seguro es que estamos en un punto de inflexión donde la inteligencia artificial y el derecho comienzan a cruzarse de maneras complejas y aún estamos descifrando qué dirección tomará este encuentro.
