Investigan el mal uso de la IA en una sentencia de la Justicia: "Lo que no sabe, se lo inventa"
En Ceuta, un abogado acude al CGPJ: alega que una sentencia se basa en jurisprudencia falsa recogida por IA
De las listas de espera a la detección de cáncer: así ya se aplica la IA en la sanidad española
Cuidado con el uso de la Inteligencia Artificial porque puede causar problemas con consecuencias muy graves, también en la justicia. De hecho el mal uso de esta herramienta por parte de un juez podría haber llevado a dictar una sentencia según una jurisprudencia que realmente no existe. Así lo dijo la IA y así se plasmó en la sentencia sin confirmar si era cierto.
En materia tan sensible como la justicias, "el contenido que genera la inteligencia artificial hay que revisarlo, porque cuando la IA no sabe algo, se lo inventa", alerta Concepción Campus Acuña, abogada experta en Inteligencia Artificial.
En Ceuta, un abogado acude al CGPJ: alega que una sentencia se basa en jurisprudencia falsa
A eso alude un abogado tras la resolución de un juzgado de Ceuta. El letrado se queja ante el Consejo General del Poder Judicial de que la resolución de una sentencia se fundamentó en una jurisprudencia del Tribunal Supremo que, en realidad, no existía. Y que lo sucedido revela "un uso incorrecto de herramientas de inteligencia artificial sin ningún tipo de contraste o verificación". El caso está en investigación, pero la ley es clara. "Tenemos un marco normativo en Europa, que es la obligación de supervisar todos los resultados de inteligencia artificial", sentencia Concepción Campus Acuña, abogada experta en Inteligencia Artificial.
Una herramienta que debe ser siempre supervisada y revisada
Hablamos de una herramienta tan útil como poderosa ya que "tareas que antes requerían de horas o días te las resuelve en una fracción de tiempo, pero que exigen de supervisión y contraste", señala Alejandro Castellano, CEO de Maite.IA. "No puede ni debe sustituir a los abogados, no puede ni debe sustituir a los jueces", señala.
Hay expertos que recomiendan evitar las herramientas genéricas y acudir únicamente a inteligencias especializadas, en este caso en materia jurídica, que usen para sus resultados solo fuentes fiables y específicas. Pero en todos los casos siempre "será necesaria esa supervisión humana", para evitar sentencias basadas en una inteligencia artificial y todavía...no del todo fiable.