Los errores de la inteligencia artificial se cuelan en sentencias judiciales: el TSJA advierte de los riesgos de la IA
El presidente del Tribunal Superior de Justicia de Andalucía, Lorenzo del Río, ha advertido de errores en fallos judiciales introducidos por el uso de la IA
La IA cita referencias a sentencias inventadas y el TSJA ha anunciado que se ha abierto información a varios jueces
El uso de la inteligencia artificial, sobre todo a la hora de redactar textos y escritos de todo tipo, se ha extendido prácticamente en todos los ámbitos. Incluso en el de la Justicia, habiéndose detectado textos o elementos generados por IA en resoluciones y otros escritos judiciales. El problema no es el apoyo de las herramientas de IA que en muchos casos facilitan y mejoran el trabajo, sino en su uso indiscriminado y sin las revisiones pertinentes por parte de los humanos.
Y es que la inteligencia artificial todavía es muy propensa a cometer errores que, en determinados casos, pueden suponer un problema de importante calado. Tanto es así, que el presidente del Tribunal Superior de Justicia de Andalucía, Lorenzo del Río, ha anunciado que se ha abierto información a varios jueces tras detectar errores provocados por el uso de IA en sentencias del ámbito judicial de Andalucía. Lo ha explicado este martes en Málaga, durante la inauguración de las XXIII Jornadas Jurídicas 'Por el diálogo', que esta edición llevan por título "Más allá del algoritmo: la IA, un nuevo desafío jurídico".
Jurisprudencia inventada por la IA
Concretamente, el presidente del alto tribunal andaluz se ha referido a "cuatro o cinco casos" en los que se han identificado referencias a sentencias judiciales que no existen en la realidad. Es decir, que la IA ha incorporado jurisprudencia inexistente citando sentencias inventadas por la inteligencia artificial. También se han detectado referencias a sentencias inexistentes en escritos de la Fiscalía y de abogados.
El origen del problema es el uso de herramientas de IA por parte de profesionales del ámbuto jurídico para redactar escritos o buscar información sin verificar si son correctas o auténticas. No obstante, Del Río no ha concretado en qué provincias ni a cuántos jueces afecta el asunto y ha subrayado que no se han abierto expedientes disciplinarios completados sino que se trata de una llamada de atención sobre unas prácticas que considera 'inadmisibles'.
La IA como apoyo en la Justicia
El presidente del TSJA defendía este martes, en declaraciones a los medios, que el uso de la inteligencia artificial puede resultar útil para la Administración de Justicia, sobre todo para agilizar trámites y reducir la carga de trabajo de los juzgados, pero que "hay que tener mucho cuidado" a la hora de su utilización.
Así, ha defendido que la inteligencia artificial puede resultar una herramienta útil para la Administración de Justicia, sobre todo a la hora de agilizar trámites y reducir la carga de trabajo de los juzgados.
Sin embargo, ha hecho hincapié en que siempre se debe supervisar por profesionales del Derecho. "Es un instrumento que tiene que ser de auxilio y que tiene que estar dominado por el hombre", ha señalado Lorenzo Del Río.
