Anularon una condena porque el juez usó IA para redactar la sentencia

En la provincia de Chubut se conoció un fallo unánime de la Cámara Penal de Esquel que decidió anular de oficio una sentencia del juez Carlos Richeri dictada el 4 de junio, por la cual había condenado a Raúl Amelio Payalef a la pena de dos años y seis meses de prisión de cumplimiento efectivo, por un robo simple.

El tribunal tomó la decisión este miércoles al constatar que el juez de primera instancia incluyó accidentalmente una frase que revela el uso de un asistente de Inteligencia Artificial (IA) generativa para redactar la resolución de puntos decisorios. A raíz de esto deberá realizarse nuevamente el juicio, con otro magistrado.

De acuerdo al parte de prensa de la Fiscalía de Esquel, los camaristas Carina Estefanía, Martín Zacchino y Hernán Dal Verme ordenaron remitir el expediente al Superior Tribunal de Justicia, organismo que ejerce la superintendencia de la actividad de Richeri.

El STJ tiene la competencia para investigar y determinar el alcance de las graves consecuencias producidas en este proceso en virtud del uso incorrecto de la IA, que motivó la declaración de nulidad de la sentencia y del juicio que la precede, “con todo lo que ello significa para los justiciables, para la ciudadanía toda y para el Estado, responsable de garantizar el acceso a la justicia y la tutela judicial efectiva".

LEER MÁS: La inteligencia artificial llegó para quedarse: peligros y posibilidades

Copiar y pegar

Según consignó el diario La Jornada de Chubut, la prueba más contundente del uso de la IA generativa fue un error, al incorporar a la sentencia una frase de la conversación con el asistente artificial: "Aquí tienes el punto IV reeditado, sin citas y listo para copiar y pegar".

Los jueces de la Cámara advirtieron que esta evidencia ("cortar y pegar") deja una "brecha demasiado amplia" para determinar cuánto texto es atribuible a la IA Generativa (IAGen) y cuánto al juez, lo que tensiona la prohibición de delegar decisiones judiciales a sistemas automáticos. Es que la delegación de la función de juzgar violaría el principio de juez natural.

El error demostró, a los ojos del tribunal revisor, que el juez no ejerció correctamente la supervisión y el control humano obligatorio, suscribiendo la sentencia con la cita de la IA.

El no haber dejado constancia del uso de la IA, así como de lo requerido al asistente, “impide controlar la trazabilidad del razonamiento del juez, haciendo que la decisión se pueda equiparar a una respuesta meramente dogmática o inmotivada”.

Debido al "uso incorrecto de la IA" y las "graves consecuencias" producidas en el proceso, la Cámara ordenó remitir las actuaciones al Superior para que investigue el alcance de la falta ética del juez.

También advirtieron los camaristas que el magistrado pudo haber incumplido los recaudos de confidencialidad exigidos por el Acuerdo Plenario N° 5435 del STJ, al incluir nombres de las partes, testigos y peritos en el texto procesado por el asistente.