La polémica tras el uso de ChatGPT por un juez que resultó en la anulación de su fallo
El descubrimiento que causó la anulación del fallo
Un hecho insólito ha puesto en jaque la labor judicial: la frase «Aquí tienes el punto IV reeditado, sin citas y listo para copiar y pegar» se insertó en una sentencia del juez penal Carlos Rogelio Richeri, revelando la intervención de un asistente de inteligencia artificial en la redacción. Esta línea, notoriamente fuera de lugar en un contexto judicial, llevó a la Cámara Penal de Esquel a anular el fallo emitido el 4 de junio, donde se había dictado una pena de dos años y seis meses de prisión efectiva contra Raúl Amelio Payalef.
Decisión de la Cámara y sus implicancias
Dicha anulación se llevó a cabo el pasado miércoles, en una decisión tomada de oficio por la Cámara, sin que ninguna de las partes lo solicitara. Este reembolso del proceso implica que el juicio se repetirá desde el inicio, pero esta vez bajo la dirección de otro juez.
La clave del escándalo fue la inclusión accidental de una frase que traicionó el uso de la inteligencia artificial. Para los miembros de la Cámara, esta «evidencia de copiar y pegar» añade un elemento de confusión que dificulta discernir la autoría del texto en cuestión, generando serias preocupaciones sobre la delegación de decisiones judiciales en sistemas automáticos, algo que contradice el principio de juez natural.
Causas de la anulación y su contexto institucional
La Cámara, compuesta por Carina Estefanía, Martín Zacchino y Hernán Dal Verme, argumentó que el uso de la IA había expuesto deficiencias en la supervisión y control humano requeridos en tales circunstancias. El fallo incluía una referencia al asistente, pero no se documentó adecuadamente el uso de la tecnología ni se aclararon los ingredientes del análisis. Esta falta de trazabilidad en el razonamiento judicial llevó a que la decisión se considerara como carente de fundamentos verificables.
Además, se ordenó remitir toda la documentación al Superior Tribunal de Justicia de Chubut para investigar el impacto del erróneo uso de IA, buscando determinar las responsabilidades correspondientes y garantizar el acceso a la justicia.
Preocupaciones sobre la confidencialidad
El fallo también puso de relieve la cuestión de la confidencialidad. Los jueces hicieron hincapié en que el magistrado podría haber violado los protocolos establecidos por el Acuerdo Plenario N° 5435 aplicando nombres de las partes y testigos en el texto generado. Esto implica que al introducir datos sensibles en una herramienta de IA, se podría haber comprometido información protegida, lo que va en contra de las obligaciones de reserva del proceso penal.
Reflexiones sobre la responsabilidad y la tecnología en el ámbito judicial
El núcleo del argumento de la Cámara radica en que, aunque la tecnología puede colaborar en aspectos mecánicos, la deliberación y toma de decisiones judiciales debe ser exclusivamente humana y susceptible de auditoría. Por lo tanto, enfatizaron que el uso de tecnología debe ser claramente informado y documentado en los expedientes judiciales, algo que no se cumplió en este caso.
Como resultado de este escándalo, la consecuencia más severa ha sido la nulidad de la sentencia y, por ende, del juicio previo. Este nuevo juicio significará un nuevo costo en recursos para todos los involucrados, además de comprometer la legitimidad del servicio de justicia.
Es importante destacar que esta resolución no aborda la culpabilidad o inocencia de Payalef, refiriéndose únicamente a la validez del procedimiento y de la anterior sentencia.
