Abren información a jueces por errores al usar la inteligencia artificial en sentencias

Málaga, 10 nov (EFE).- La Justicia ha abierto información a varios jueces al detectar errores en sentencias tras haberse utilizado la inteligencia artificial (IA) para su elaboración, según ha asegurado el presidente del Tribunal Superior de Justicia de Andalucía, Ceuta y Melilla, Lorenzo del Río.

Al acudir en Málaga a la inauguración de las XXIII Jornadas Jurídicas 'Por el diálogo', tituladas 'Más allá del algoritmo: la IA, un nuevo desafío jurídico', Del Río ha asegurado a EFE que se han visto cuatro o cinco casos en la comunidad andaluza de "errores" donde se "citan sentencias que no existen".

Ha precisado que no hay expedientes terminados, sino información abierta para llamar la atención porque no se puede permitir y que los problemas detectados son fallos por no revisarse y asumir como cierto el boceto o borrador que proporciona la IA: "Hemos visto en sentencias, escritos de fiscalía, jueces y abogados, citas de sentencias que no existen".

Por ello, ha destacado que "hay que tener mucho cuidado" con el empleo de esta tecnología.

Del Río ha resaltado que "tenemos que aprender a convivir con las máquinas" y que "la inteligencia artificial ya no es que esté solamente en Justicia, sino que está en todas las redes sociales, con un problema muy gordo que nos está planteando a todos los niveles, en el sector de la publicidad, del 'marketing', en la sanidad".

"Lo que nos interesa es no ser catastrofistas, pero sí ser muy conscientes de que es un instrumento que tiene que ser de auxilio y que tiene que estar dominado por el hombre", ha añadido.

"En Justicia puede ser muy importante el nivel de auxiliar, pero como copiloto; no puede actuar en modo de piloto automático y asumir sin ninguna crítica todo lo que haga. Es una herramienta muy valiosa. A nivel de la propia oficina judicial hay muchos trámites que hoy se pueden hacer perfectamente, automatizados, y que permitirían descongestionar mucho a los juzgados", ha indicado.

Ha incidido en la importancia de la IA a nivel judicial para recopilaciones, "incluso hacia proyectos de resoluciones judiciales".

"Es raro ya el despacho de abogados que no está funcionando con inteligencia artificial, lo cual no es negativo", ha explicado, además de añadir que muchos jueces la usan para borradores de sentencias, para recopilación de datos: "Cuando tienes una causa muy compleja te puede resumir un montón de aspectos que tú le das pero luego eso hay que trabajarlo, que es lo más importante".

Ha reiterado la necesidad de la revisión del resultado de la IA y la trazabilidad: "Que todo eso se opere con entornos seguros, que no pueda estar en la nube y en cualquier momento todos esos datos estén a disposición de cualquier persona o entidad".

La pauta a seguir, afirma, es "que nunca se olvide la parte humana y, por lo tanto, que se revise todo. En segundo lugar, la trazabilidad, que todos los sistemas de inteligencia artificial tienen que ser absolutamente seguros y fiables".

Ha recordado que hay una recomendación de la Unión Europea al respecto y que el Consejo del Poder Judicial ha dictado una instrucción hace unos meses de cómo debe ser la incorporación de la inteligencia artificial, de cuáles deben ser las fuentes que se utilicen, y cómo, al final, hay que revisar y asumir como propio, pero ha advertido de que "no puede asumirse mecánicamente lo que te proponga una máquina". EFE