Insight: La Traición de la Inteligencia Artificial

¿La inteligencia artificial y la abogacía son compatibles?

El señor Roberto Mata viajaba en un avión de Avianca desde El Salvador a Nueva York. Cómodamente sentado ‒o al menos con el grado de comodidad que brindan los asientos de clase económica‒ su rodilla izquierda fue embestida por el carro de las bebidas.

Las heridas deben haber sido suficientemente serias como para justificar que el 2 de febrero de 2022 don Roberto iniciara pleito contra Avianca ante los tribunales estaduales de Nueva York, con la asistencia del abogado Steven Schwartz, del estudio jurídico Levidow, Levidow & Oberman de esa ciudad.

El 22 de ese mes, Avianca sostuvo ante el juzgado que, dada la naturaleza de la cuestión, ésta debía ventilarse ante los tribunales federales (y no los estaduales). (1)

En la Argentina pasaría algo parecido: los tribunales competentes para las cuestiones aeronáuticas son los federales.

El caso pasó entonces a tramitar ante Kevin Castel, juez del tribunal distrital federal para el Distrito Sur de Nueva York. (2)

Como Schwartz no estaba matriculado ante la justicia federal, los escritos judiciales pasaron a ser firmados por el abogado Peter Lo Duca, también del estudio Levidow. Su colega Schwartz, sin embargo, siguió al frente del caso.

El 13 de enero de 2023 Avianca contestó la demanda y dijo que el reclamo de Mata estaba prescripto.

El 18, LoDuca presentó una solicitud ante el juez en la que Schwartz pedía que, como debía irse de vacaciones ‒en un viaje programado desde hacía tiempo‒, se le otorgara un plazo adicional para responder "el extenso escrito" presentado por Avianca. El juez otorgó el plazo pedido.

Y acá la cuestión se pone interesante.

El 1 de marzo LoDuca respondió el escrito de Avianca, rechazando sus argumentos en cuanto a la prescripción, con abundantes citas de precedentes judiciales, indicando la fuente de cada uno. Según el escrito de LoDuca, la acción no estaba prescripta en virtud de ciertas normas de la Ley Federal de Quiebras estadounidense. Como lo exigen las reglas procesales, arriba de su firma estampó la frase "Declaro, bajo pena de perjurio, que lo anterior es verdadero y correcto".

El 15 de marzo Avianca contestó. Uno de sus párrafos decía: "Aunque [Mata] ostensiblemente cita una gran cantidad de casos para oponerse a nuestro pedido de prescripción, hemos sido incapaces de encontrar la mayoría de ellos y los pocos que hemos logrado ubicar no sirven de apoyo a ninguno de los argumentos para los que se los cita".

No obstante la seriedad de la denuncia de Avianca, LoDuca nada dijo al respecto.

El juez decidió investigar la cuestión e intentó encontrar los casos citados por LoDuca en su escrito del 1° de marzo. No lo logró.

El 11 de abril ordenó entonces a LoDuca que en una semana entregara al juzgado copias de esos casos, bajo apercibimiento de rechazar la demanda de Mata.

LoDuca pidió una extensión del plazo, argumentando que estaría de vacaciones hasta el 18 de ese mes. Y el 25 presentó un escrito "con copias y resúmenes de los precedentes solicitados.
Puede que no estén completos, pero es cuanto está disponible en las bases de datos online", dijo, sin identificar a cuáles se refería.

El juez citó entonces a las partes a una audiencia el pasado 8 de junio para escuchar las explicaciones del estudio Levidow.

A la audiencia comparecieron Schwartz y LoDuca. Según el acta, éste explicó que, si bien él había firmado el escrito del 1° de marzo, "no era su autor. Había sido preparado y redactado por Schwartz y él sólo lo había revisado desde el punto de vista estilístico, para evitar errores gramaticales o de concepto", pero sin verificar las citas.

Tampoco preguntó a Schwartz acerca de la naturaleza y extensión de la búsqueda de jurisprudencia que éste había efectuado o si había encontrado algún precedente en contrario.
Dijo haberse basado en la creencia de que el trabajo de su colega ‒a quien conocía desde hacía 25 años‒ era confiable.

Agregó que apenas recibió copia del escrito de Avianca en la que ésta sostenía que la acción estaba prescripta, se la pasó a Schwartz sin leerla.

Schwartz, por su parte, confesó no tener noción alguna acerca del Convenio de Montreal o de la Ley Federal de Quiebras: "mi trabajo siempre versó sobre legislación estadual", dijo.
Y explicó que luego de redactar el escrito y entregarlo a LoDuca para que lo firmara no le explicó de qué trataba.

¿Qué había hecho Schwartz para responder a Avianca? Usó ChatGPT, que, según el juez, "inventó los casos citados". (3)

Schwartz reconoció en la audiencia que "pensaba que ChatGPT no podía inventar precedentes. Nunca pensé que los casos podían ser falsos. Mi reacción fue: ‘ChatGPT los encuentra en algún lado’. Quizás no están publicados o las sentencias fueron apeladas o son de difícil acceso. Nunca pensé que podían ser inventados".

Schwartz dijo estar al tanto de la existencia de sitios gratuitos en Internet donde se podían buscar los precedentes citados en una sentencia y leerlos íntegros. Uno de los casos que citó en su defensa contra Avianca fue "Varghese".

Dijo haberlo buscado, pero sólo apareció una breve referencia bibliográfica.

El juez: "¿Le pidió Ud. a ChatGPT ver la sentencia completa?"

Schwartz: "Sí".

El juez: "¿Y qué encontró cuando pidió ver el texto completo?"

Schwartz: "Nunca lo encontré".

El juez: "¿Y Ud. sin embargo lo citó?"

Schwartz: "Estaba plenamente convencido de que el sitio no podía referirse a casos inventados. Si lo hubiera sabido, no los habría mencionado".

El caso "Varghese" parece haber sido paradigmático. El juez estableció que ante la Cámara Federal de Apelaciones que supuestamente había dictado esa sentencia nunca había tramitado un caso semejante; el número de expediente citado por Schwartz correspondía a otro asunto; los párrafos transcriptos "contenían fallas estilísticas y lógicas impropias de un tribunal federal"; su razonamiento era "descabellado" y "lindaba con el sinsentido" y la decisión "terminaba abruptamente sin ninguna conclusión". (4)

En la audiencia, Schwartz dijo también que él había preparado el escrito del 25 de abril en el que LoDuca acompañó los resúmenes de los casos citados. "Lo redacté, fui hasta la oficina de LoDuca a unos pocos metros de la mía, lo miró por encima y lo firmó", explicó.

LoDuca replicó que, para responder a la exigencia del juez de acompañar copias de las sentencias, se había limitado a pedir a su colega Schwartz que las buscara. Como éste le dijo que ya estaban adjuntas al escrito, lo firmó sin revisarlo.

El pasado 22 de junio el juez resolvió la cuestión y decidió sancionar al estudio y a sus integrantes. Lo hizo donde más les podía doler: en su prestigio y en su bolsillo.

Así, los obligó a notificar lo ocurrido a su cliente, Roberto Mata, con copia del escrito del 25 de abril y del acta de la audiencia del 8 de junio; a enviar a cada juez "falsamente acusado de ser el autor de las sentencias inexistentes" copia de la decisión, del escrito del 25 de abril y del acta de aquella audiencia y a pagar una multa de cinco mil dólares. Los considerandos de la sentencia son severísimos: "al investigar y redactar un escrito para ser presentado en un pleito, los buenos abogados generalmente son asistidos por estudiantes de derecho, abogados más jóvenes o contratados al efecto, enciclopedias jurídicas y bases de datos como Westlaw y LexisNexis.

El uso de adelantos tecnológicos es habitual y no tiene nada de malo que aquéllos sean asistidos por una herramienta basada en la inteligencia artificial. [Pero] las reglas vigentes imponen a los abogados un deber de cuidado para asegurar la exactitud de sus presentaciones. Los abogados Schwartz y LoDuca y el estudio Levidow dejaron a un lado sus obligaciones cuando presentaron ante el tribunal decisiones judiciales inexistentes, citas falsas y referencias inventadas por la herramienta ChatGPT y continuaron sosteniendo su validez aun luego de que su existencia fuera puesta en duda por el magistrado". Muchos son los daños que puede causar la referencia a una decisión falsa.

"La contraparte gastará tiempo y dinero en verificar el engaño. Se desviará la atención del tribunal sobre otros asuntos importantes. Se privará al cliente de argumentos basados en casos auténticos. Se afectará el prestigio de jueces y tribunales cuyos nombres se invocan falsamente como autores de sentencias inexistente, así como la reputación de los litigantes a los que se atribuye conductas ficticias. Se fomentará el cinismo hacia la profesión legal y nuestro sistema judicial. Y algún futuro litigante podrá verse tentado a desafiar una sentencia judicial con falsas dudas acerca de su autenticidad".

El juez no sólo se quejó del hecho de que los abogados hubieran presentado un escrito con citas falsas: "si la cuestión hubiera terminado en ese momento, con un reconocimiento de haber cometido un error una vez que les fue notificado el escrito de Avianca en el que se ponía en duda la existencia de esos casos o luego de la providencia judicial que les ordenaba presentar copias de las sentencias respectivas, la cuestión sería distinta. En cambio, redoblaron la apuesta y no comenzaron a decir la verdad hasta que este tribunal les pidió explicaciones".

"El tribunal considera que existió mala fe de parte de los profesionales involucrados, ya que, conscientemente, presentaron declaraciones falsas y engañosas para evitar ser sancionados. Por lo tanto, serán multados a titulo individual. Las reglas procesales ordenan que, salvo en circunstancias excepcionales, los estudios jurídicos sean sancionados por las faltas de sus integrantes y empleados. Como no existen tales circunstancias, las sanciones también serán impuestas al estudio Levidow".

El juez entendió que las sanciones aplicadas "son suficientes para evitar que la conducta se repita o que otros, en similares circunstancias, hagan lo mismo". Otros piensan que, por el contrario, fue demasiado leve.

La sentencia, además, permitió echar una mirada sobre ciertas circunstancias de la vida profesional que (aunque sea por vergüenza) rara vez salen a la luz.

Así, el juez tildó de mentiroso a LoDuca por haber pedido una prórroga para responder al pedido del tribunal del 11 de abril, con el argumento de que estaba de vacaciones.

"La excusa de LoDuca era falsa y él lo sabía al momento de presentar el escrito", ya que en la audiencia admitió haber estado en su estudio en ese momento, "pero necesitaba ocultar el hecho de que quien no estaba era Schwartz, el verdadero autor del escrito con las citas falsas, y que él (LoDuca) era incapaz de certificar la veracidad de lo expresado en el expediente".

Muchas son las lecciones que se desprenden de la decisión del juez Castel. La referida a la trascendencia de los escritos que los abogados presentamos ante los tribunales no es la única. Hay muchas más. Quizás otras sean tanto o más relevantes, como la referida a la necesidad de ser conscientes de qué sabemos y qué ignoramos.

Y otra más aun: que la mentira por lo general tiene patas cortas. Y que la inteligencia artificial tiene una virtud: que por el momento no lo sabe todo.

(1) Así lo establece el Convenio de Montreal (en términos formales, el "Convenio para la unificación de ciertas reglas para el transporte aéreo internacional" aprobado en Montreal en mayo de 1999 y ratificado por Argentina por ley (26.451) y en vigor desde el 14 de febrero de 2010. (2) In re "Mata v. Avianca," Case 1:22-cv-01461-PKC, United States District Court, Southern District of New York. Cortesía de Andrew Lustigman, de Olshan, Frome & Wolosky LLP, Nueva York. (3) In re "Mata", "Opinion and Order on Sanctions", 22 de junio de 2023, p. 6, párr. 11. (4) Idem, p. 11, punto 27.

Esta nota ha sido preparada por Juan Javier Negri.



Para más información sobre este tema pueden comunicarse con el teléfono (54-11) 5556-8000 o por correo electrónico a np@negri.com.ar

Este artículo es un servicio de Negri & Pueyrredon Abogados a sus clientes y amigos. No tiene por objeto prestar asesoramiento legal sobre tema alguno.