Los nuevos exámenes que llevará a cabo la Universidad de Valencia tras los fallos en los detectores de IA: "Los falsos positivos son muy elevados"
Los errores se han dado principalmente en aquellos textos escritos en inglés por estudiantes españoles
El uso de la inteligencia artificial en las universidades: cómo los estudiantes dominan la tecnología y no al revés
La Universidad de Valencia valora cambiar su sistema de evaluación con el objetivo de evitar falsos positivos de herramientas de detección de textos generados con IA que cada vez son más populares entre los docentes para evitar fraudes académicos.
Tras salir a la luz varios casos en los que herramientas de inteligencia artificial han cometido errores al detectar si un texto ha sido elaborado con IA, el profesorado ha decidido cortar el problema de raíz y pensar nuevos métodos de evaluación que no requieran el uso de estos correctores.
Joan Vila, delegado del rector para la IA en la Universidad de Valencia, se pronuncia sobre los numerosos fallos que está teniendo la herramienta de IA cuando analiza escrituras escritas por los estudiantes de manera científica o formal: "Estás forzando unas estructuras que no son naturales y se parecen mucho a las que tienen estas herramientas para generar el texto y, por eso, es tan fácil confundirse".
"Pueden pensar que el texto ha sido generado por IA, entonces el número de falsos positivos es muy alto en estos casos", continúa detallando Joan Vila sobre los numerosos errores que está cometiendo la herramienta en la Universidad de Valencia.
El estilo de redacción que se utiliza habitualmente en trabajos académicos y científicos es poco natural y se asemeja a la que utilizan las herramientas de IA generativa generando confusiones a la hora de detectar si un texto ha sido elaborado por una herramienta de inteligencia artificial o no. Ante esta situación, los estudiantes universitarios se han visto afectados y opinan que "el detector no funciona demasiado bien actualmente".
Por una parte, el número de falsos positivos se ha detectado principalmente en aquellos casos en los que estudiantes españoles escribían textos académicos en inglés. Por otra parte, también se ha detectado que los verificadores de IA identifican como inteligencia artificial los textos que utilizan un lenguaje y estructura formal y científico. , ha mencionado Joan Vila.
Para solucionar este problema, Joan Vila, experto en Inteligencia Artificial, tiene clara la solución: "Se pueden hacer exámenes orales o exámenes a mano sin ningún tipo de tecnología".
Los problemas con los detectores de IA en otras universidades
Sin embargo, este problema no se da únicamente en las universidades españolas, en la Universidad de Stanford en Estados Unidos también se han detectado falsos positivos. Más de la mitad de los textos escritos en inglés por estudiantes extranjeros de la universidad estadounidense eran clasificados como textos generados por inteligencia artificial de manera errónea, afectando a los estudiantes.
Estos casos han obligado a los docentes a repensar los protocolos universitarios sobre el uso de inteligencia artificial y es probable que otras universidades busquen nuevas maneras de enseñar al alumnado a utilizar estas herramientas con criterio y realicen cambios en los métodos de evaluación.