Un reciente fallo de la Cámara Penal de Esquel, en Argentina, ha anulado una condena a dos años y medio de cárcel después de que se descubriera que el magistrado había elaborado los fundamentos de la sentencia con ChatGPT, informa TN.
"Aquí tienes tu texto listo para copiar y pegar", fue la frase que destapó el escándalo. En medio del documento del fallo aparecieron esas palabras, típicas de los asistentes de inteligencia artificial, que delataron al magistrado.
Tras el descubrimiento, la Cámara determinó anular de oficio la sentencia y el juicio y ordenar un nuevo proceso con otro juez, mientras que el caso se ha remitido al Superior Tribunal de Justicia de Chubut para evaluar si el magistrado debe enfrentar algún tipo de consecuencia administrativa o disciplinaria.
La provincia de Chubut tiene regulado el uso de inteligencia artificial en el poder judicial, estableciendo las siguientes reglas:
- Obligatoriedad de control humano efectivo, es decir, el juez debe supervisar cada respuesta. Sin embargo, en este caso no se hizo: el togado solo copió y pegó.
- Transparencia obligatoria declarando qué IA se usó, con qué datos y bajo qué instrucciones. En este caso, el juez no informó de ningún extremo.
- Confidencialidad, con la prohibición de volcar información sensible en sistemas de IA sin garantizar el anonimato, algo que tampoco hizo el juez de este caso.
- Prohibición de delegar decisiones.