En el transcurso del último año, el uso de inteligencia artificial (IA) generativa en la elaboración de trabajos académicos ha visto un aumento significativo, con más de 22 millones de artículos potencialmente implicados. Según un estudio proporcionados por Turnitin, una empresa líder en la detección de plagio, este fenómeno refleja cómo las herramientas de tecnologías cognitivas están redefiniendo los límites entre la originalidad y la asistencia automatizada en el ámbito educativo.
La plataforma de detección de plagio que implementó hace un año una herramienta especializada en la detección de textos generados por sistemas autónomos, ha analizado más de 200 millones de documentos, hallando que aproximadamente el 11% de ellos contenía un porcentaje significativo de contenido producido por sistemas de inteligencia artificial. La compañía, que ha desarrollado esta tecnología basándose en un extenso corpus de textos académicos y ejemplos de algoritmos generativos, destaca la creciente presencia de estas tecnologías en la educación, marcando un nuevo reto para la integridad académica.
La introducción de plataformas como ChatGPT generaron un debate en torno a la validez y fiabilidad de usar sistemas autónomos en la redacción de trabajos escolares y universitarios. A pesar de la capacidad de estas tecnologías para procesar y sintetizar información rápidamente, se han documentado fallos, como la generación de datos no verificables y sesgos en el contenido. Estos factores incitan a una revisión crítica del papel de las herramientas generativas en el proceso educativo.
Diferentes instituciones han abordado el desafío que representa el discernir el uso legítimo de sistemas autónomos de aquél que socava los principios de originalidad y esfuerzo personal. La detección de textos generados por estos sistemas no es una tarea sencilla dado que, a diferencia del plagio tradicional, pueden producir contenido único que no se encuentra textualmente en fuentes preexistentes. Esta complejidad añade una capa de dificultad en la lucha contra el uso deshonesto de la tecnología en la educación.
Además de las herramientas diseñadas específicamente para la generación de textos, software como los reescritores de texto y correctores ortográficos con capacidades generativas ha contribuido a diluir aún más las líneas entre lo original y lo generado artificialmente. El servicio de verificación de originalidad actualizó su sistema de detección para enfrentar estas nuevas formas de contenido generativo, reconociendo la necesidad de adaptarse constantemente a las evoluciones tecnológicas en el ámbito de la escritura.
La fiabilidad de estos sistemas de detección, sin embargo, no está exenta de controversia. Investigaciones recientes han señalado la posibilidad de altas tasas de falsos positivos, especialmente entre trabajos redactados por personas cuya lengua materna no es el inglés. Este problema subraya el riesgo de sesgos inherentes a las herramientas de detección y la importancia de un enfoque balanceado que considere la diversidad lingüística y cultural de los usuarios.
En respuesta a estos desafíos, algunas universidades han optado por suspender el uso de detectores de tecnologías de automatización, ante la preocupación por los potenciales sesgos y la falta de certeza absoluta que estas herramientas pueden proveer comparadas con los sistemas tradicionales de detección de plagio. Estas decisiones reflejan un período de evaluación y adaptación en el sector educativo, buscando equilibrar la innovación tecnológica con los principios éticos fundamentales.