El Departamento Judicial de Morón cuestionó a un abogado que citó fallos generados con IA que no existen
La Cámara de Apelación en lo Civil y Comercial de Morón cuestionó a un abogado que fundó una apelación con citas de sentencias que no pudieron ser localizadas, y declaró desierto el recurso. Los camaristas Gabriel Hernán Quadri y Laura Andrea Moro advirtieron sobre las consecuencias de incorporar información falsa a un expediente y sobre los riesgos de usar inteligencia artificial sin verificar sus respuestas.
El caso comenzó cuando el abogado apeló una decisión sobre cómo calcular sus honorarios. Al revisar el pedido, los jueces descubrieron que gran parte de sus argumentos se basaban en fallos que, tal como él los había citado, no existían. Entre ellos, mencionó un presunto fallo de la Suprema Corte de Justicia de la Provincia de Buenos Aires.
Se trataba de un precedente identificado como Colegio de Abogados de La Plata c/ Provincia de Buenos Aires, también denominado Barrio, fechado el 5 de mayo de 2021. Según el planteo, respaldaba la necesidad de actualizar los valores utilizados para calcular los honorarios profesionales.
Sin embargo, los camaristas comprobaron que la sentencia no existía con esa carátula ni con el contenido atribuido. Verificaron además que el número de expediente mencionado correspondía a otra causa, cuyo último movimiento databa de 2017. Si bien existe un antecedente conocido como Barrios, vinculado con la actualización de créditos, no aborda la cuestión de los honorarios.
Los jueces relacionaron lo ocurrido con las denominadas “alucinaciones” de la inteligencia artificial generativa: respuestas que presentan datos falsos o referencias inexistentes como si fueran información comprobada. Por eso remarcaron que cualquier contenido producido con estas herramientas debe someterse a una revisión profesional antes de incorporarse a una presentación judicial.
En el fallo, los magistrados aclararon que el uso de IA no está prohibido y reconocieron que puede contribuir a mejorar el trabajo de los operadores jurídicos, siempre que se utilice de manera ética y responsable. No obstante, consideraron que la presentación no cumplía con las exigencias procesales necesarias.
La Cámara ordenó enviar un oficio al Colegio de Abogados del Departamento Judicial de Morón para que evalúe difundir entre sus matriculados la importancia de verificar las fuentes y corroborar la autenticidad de las citas jurisprudenciales utilizadas con asistencia de inteligencia artificial.
