Un tribunal de apelaciones de California confirmó un fallo a pesar de descubrir que el abogado de una de las partes había fundamentado su argumentación con jurisprudencia generada por inteligencia artificial. El caso reaviva el debate sobre el uso ético de estas herramientas en el ámbito legal.
Un caso judicial en San Diego, Estados Unidos, puso en evidencia los riesgos del uso de inteligencia artificial (IA) en el ámbito legal sin la debida supervisión. Durante una disputa por la custodia de una mascota, se descubrió que los precedentes legales citados por uno de los abogados eran ficticios y habían sido generados por IA.
El Tribunal de Apelación del 4º Distrito, División 1, confirmó el fallo original que favorecía a la mujer, a pesar de reconocer que se basaba en contenido inventado. El panel argumentó que los abogados de la otra parte debieron haber detectado el error y que el juez podría haber llegado a la misma conclusión sin esos casos. No obstante, la abogada que utilizó la IA fue sancionada con una multa de 5.000 dólares.
«Como ilustra este caso, es igualmente importante que los funcionarios judiciales y el personal de los tribunales que no utilizan inteligencia artificial generativa verifiquen las citas contenidas en las órdenes propuestas que les presentan los abogados», señaló el tribunal en su escrito.
Este incidente no es aislado. Recientemente, la Corte Suprema de Colombia sancionó a un abogado por incluir citas jurisprudenciales inexistentes generadas por IA. En Nueva York, dos abogados fueron multados en 2023 por usar ChatGPT para una investigación legal, citando un caso que no existía. Incluso Michael Cohen, exabogado de Donald Trump, admitió haber presentado fallos ficticios inventados por una herramienta de IA, atribuyendo el error a las «alucinaciones» de la tecnología.
Estos casos surgen en un contexto de adopción creciente de la IA en el sector legal. Una encuesta reciente de la Universidad Northwestern reveló que el 60% de los jueces federales estadounidenses consultados utilizan al menos una herramienta de IA en su trabajo.