Aumentan las restricciones a artículos científicos con datos inventados por inteligencia artificial

El endurecimiento de las políticas en repositorios científicos frente a artículos generados por inteligencia artificial marca un nuevo capítulo en la gestión de la literatura académica. Desde ahora, quienes intenten publicar en arXiv trabajos creados con herramientas de IA que no cumplan los estándares establecidos se enfrentarían a sanciones que pueden afectar de manera permanente su trayectoria investigadora.

Esta respuesta surge en un contexto de creciente preocupación por la proliferación de contenido sintético y falso en el ámbito científico y tecnológico.

Sanciones para papers generados por inteligencia artificial

La decisión fue anunciada por Thomas Dietterich, profesor emérito de la Universidad Estatal de Oregón y miembro del consejo asesor editorial del repositorio digital, a través de una publicación en la red social X.

El comunicado, que también se difundió en Bluesky, advierte sobre la implementación de un veto de un año a quienes introduzcan artículos fabricados con inteligencia artificial que no satisfagan los criterios académicos del servidor.

Además, impone una consecuencia adicional de carácter permanente: los autores sancionados deberán someter todos sus futuros trabajos a revisión por pares antes de que arXiv los acepte.

La sanción tiene una naturaleza doble y asimétrica. El veto temporal puede parecer limitado, pero la obligación perpetua de pasar por el filtro de revisores supone una carga significativa en disciplinas donde la rapidez en la publicación de preprints es crucial para la carrera profesional.

De esta manera, la plataforma busca poner freno al uso irresponsable de herramientas generativas que producen textos, citas y gráficos carentes de rigor o incluso inventados por completo.

El problema de los artículos con datos ficticios no es nuevo, pero hasta ahora las consecuencias para quienes los publicaban eran difusas. Durante un tiempo, arXiv y otras publicaciones académicas permitieron que trabajos con referencias inexistentes, respuestas automáticas sin revisión y figuras sin sentido superaran los controles editoriales y de revisión.

Cabe señalar que con la nueva política, el repositorio refuerza la exigencia de escrupulosidad en la presentación de referencias, figuras y tablas.

Impacto de la inteligencia artificial en la publicación científica

El trasfondo de esta decisión se relaciona con la dificultad creciente para distinguir el contenido original del generado artificialmente. Las plataformas y los sistemas de revisión han tardado en adaptarse a la aparición de herramientas capaces de elaborar textos, imágenes y hasta identidades falsas con una precisión inédita.

Así, el fenómeno trasciende el ámbito académico y alcanza el consumo masivo y la seguridad digital.

Casos recientes demuestran que el alcance del problema no se limita a revistas científicas o a investigadores poco meticulosos. Se han registrado incidentes donde hackers norcoreanos utilizaron modelos generativos como ChatGPT para crear deepfakes y lanzar campañas de phishing, falsificando identidades con gran eficacia.

Limitaciones en la implementación de las nuevas reglas

Un aspecto relevante de la medida es la forma en que ha sido comunicada. Por el momento, la nueva política se ha dado a conocer únicamente a través de un hilo en X de un miembro del consejo editorial, sin un comunicado institucional formal por parte de arXiv.

Esto genera incertidumbre sobre la fecha exacta de entrada en vigor y la amplitud de la aplicación de las sanciones.

La normativa busca preservar la calidad y la fiabilidad de la literatura científica frente a los riesgos de las alucinaciones generadas por IA y el plagio sintético. Sin embargo, la paradoja es que el anuncio inicial se realizó en una red social donde la desinformación y el contenido inventado proliferan.

Hasta que arXiv publique un documento oficial, persiste cierta ambigüedad sobre el alcance y la efectividad de estas restricciones en el panorama académico.