Hace poco leí en los diarios limeños que a nuestro compatriota, el iqueño David Silva Rojas, tras ganar el premio internacional Almadía Ventura Arrufat, se le ha venido la noche, porque al pasar su novela por el software Pangram, que se usa para detectar si había sido escrita con la ayuda de la IA, el resultado fue un 99 % de uso de IA.
En mi actividad docente he usado Turnitin
para detectar antiplagio y ahora tiene la opción de rastrear actividad de IA,
pero esta última no es confiable. He pasado trabajos de mis estudiantes que sé
que han hecho su trabajo, pero el software da resultado positivo, como diarizamos
en química, es un falso positivo.
Por otro lado, hay empresas que
se dedican a “arreglar un texto” para que pase por el Turnitin (antiplagio) y seguro habrá algunas que “arreglen” para que
también pase el detector de IA.
Hace poco salió la noticia de que en
el Reino Unido varias universidades están cancelando sus contratos con Turnitin
y dejando de confiar en los softwares de detección automática de plagio de inteligencia
artificial.
En un trabajo del curso de Metodología
de Investigación a mi cargo para estudiantes de química, ellos presentaron un
trabajo y, al pasarlos por el Turtinin, algunos de ellos dan porcentajes muy altos
en el uso de IA, lo cual es muy preocupante. Tras razonar, llegué a la conclusión de que potencialmente podía haber al menos 5
grupos de estudiantes:
a) Los que hicieron el trabajo sin uso de IA y el
software no detecta uso significativo de IA.
b) Los que hicieron el trabajo
sin uso de IA y el software da falso positivo en uso de IA.
c) Los que
hicieron el trabajo con uso de IA y el software no detecta uso significativo de
IA.
d) Los que hicieron el trabajo con
uso de IA y el software detecta uso significativo de IA.
e) Los que hicieron el trabajo con uso de IA y el software no detecta uso significativo de IA (falso negativo), porque el texto inicialmente generado por IA luego fue alterado por otro software.
Alguien se preguntará por qué hay
muchas alternativas. Lo que sucede es que en la actualidad no hay un detector de
uso de IA en un texto que sea confiable. Tampoco existen auditores externos que informen
sobre el grado de confianza de cada software detector de IA. Por ello, a veces
te puede dar resultados falsos positivos o falsos negativos.
Por lo dicho antes, no puedo
poner una nota por el trabajo basado solo en el Turnitin, debido a que es solo una herramienta. Necesitaba otras evidencias para saber si los
estudiantes habían hecho el trabajo o habían usado la IA. Tuve que
interrogarlos, que me explicaran algunos conceptos que habían puesto en sus
trabajos, revisar su parte experimental y otras cosas. De esa manera pude comprobar (no al 100 %) si
habían usado IA o no.
Por ello, me resulta chocante que
las editoriales o los diarios den veredictos y juzguen a los autores de libros
solo por el resultado de un software antiplagio, que para colmo no está auditado oficialmente. Han debido hacer todo un trabajo de seguimiento y búsqueda de evidencias
que los estudiosos de la literatura saben cómo realizar. Posteriormente, vienen los descargos del autor. Finalmente, los especialistas deberían haber emitido un veredicto. Ese considero que ha debido ser el
camino correcto.
Denigrar a personas, manchar
honras, hacer linchamientos públicos, todo porque un software así lo dictaminó, es muy peligroso. Tan peligroso como usar la
IA para consultas emocionales, éticas o religiosas. Es necesario considerar que el software
antiplagio es solo una herramienta, poco confiable todavía, y que se requieren
más evidencias y un análisis exhaustivo realizado por especialistas.
No hay comentarios:
Publicar un comentario