En 2025, el libro Mastering Machine Learning remitía casi la mitad de sus citas a obras inexistentes, falsas o plagadas de errores sustantivos. El pasado mayo, dos tercios de los libros recomendados en un suplemento del Chicago Sun-Times y del Philadelphia Inquirer resultaron ficticios. Durante estos días, en Argentina, un libro presentado como aporte jurídico-académico evidenció un patrón similar con cuantiosas citas, menciones y referencias bibliográficas inexistentes, inventadas, inadecuadas o con interpretaciones distorsionadas alterando el significado original.
Estos episodios manifiestan un síntoma del estado actual y los desafíos de la integridad científica en entornos donde tecnologías capaces de generar textos con apariencia académica son utilizadas sin supervisión crítica, sin referatos, sin revisión por pares, sin estándares editoriales ni responsabilidad autoral. No son desviaciones individuales sino fallas estructurales en el ecosistema científico-académico, en la cultura profesional y en los mecanismos institucionales que deberían impedir la circulación de conocimiento fraudulento.
Una defensa habitual consiste en atribuir dichas faltas a “errores involuntarios”. Pero la integridad científica distingue claramente un desliz ocasional de un patrón sistemático de fallas. La acumulación masiva de referencias inventadas, autores inexistentes, frases torturadas, citas falsas y ausencia total de trazabilidad no constituye un accidente, sino un proceso carente de integridad científica.
Y su gravedad aumenta cuando adquiere una dimensión cultural. En el caso argentino, la obra aludida se presenta como un aporte a la interpretación jurídica desde el derecho talmúdico, una de las tradiciones legales más antiguas, complejas y exigentes del pensamiento occidental. Distorsionar esa herencia mediante contenido falaz afecta no sólo la calidad académica sino también a las comunidades asociadas a dicha tradición, que ven circulando contenidos adulterados como si fueran representativos.
La integridad científica regula mediante prácticas la honestidad, responsabilidad, autenticidad y verificabilidad de la investigación, sosteniendo la confianza pública en las instituciones académicas y profesionales. Sus fundamentos se estructuran sobre cuatro pilares presentes en el European Code of Conduct for Research Integrity, el informe Fostering Integrity in Research de la National Academy of Sciences y el Singapore Statement on Research Integrity. Básicamente: a) Honestidad en la presentación de datos, métodos y resultados; b) Rigor y precisión en la obtención, análisis y comunicación de la evidencia; c) Transparencia y trazabilidad, garantizando que el proceso investigativo pueda ser verificado; d) Responsabilidad autoral, que implica la indelegabilidad del deber de responder por el contenido difundido y sus consecuencias.
Estos principios hacen de la integridad científica una obligación normativa e institucional, indispensable para proteger la credibilidad del conocimiento y la estabilidad de las profesiones que dependen de él.
Cuando un texto pretendidamente académico o emanado de ámbitos o personas presentadas como referencias válidas para decisiones científicas o profesionales, contiene sistemáticamente citas inventadas, autores inexistentes o referencias falsas o distorsionadas, se incurre en lo que Nicholas Steneck en Introduction to the Responsible Conduct of Research, define como la “fabricación” o invención de datos inexistentes, y la “falsificación” o manipulación selectiva o presentación engañosa de la evidencia. Ambas constituyen las formas más graves de desviación en investigación o “scientific misconduct”. Y si además se emplea IA sin declararlo, no sólo hay desviación sino un simulacro de investigación que erosiona los cimientos epistémicos de la ciencia generando apariencia de erudición sin sustancia verificable.
La IA no es un sistema epistémico sino una arquitectura probabilística. Como explican Gary Marcus y Ernest Davis en Rebooting AI, estos modelos generan formas plausibles sin garantizar su verdad produciendo las denominadas “alucinaciones”, por ejemplo, produciendo referencias inventadas pero verosímiles. Su incorporación, sin filtro humano, en un libro pretendidamente académico, revela la ausencia de controles autorales y editoriales, y expone la necesidad de fortalecer los mecanismos institucionales de vigilancia epistémica.
Por ello, sin protocolos más estrictos de verificación, dado que la velocidad de producción textual de la IA supera la capacidad humana de verificación, seguirán proliferando obras fraudulentas que imitan la erudición, pero carecen de sustento fáctico o teórico. Y aquí el problema, como demuestra Helen Nissenbaum en Privacy in Context, es la pérdida de confianza pública porque depende de procesos transparentes y verificables. Cualquier texto podrá aparentar ser académico, pero si su elaboración no es trazable pierde legitimidad cognitiva, afectando no sólo a tomadores de decisión, legisladores, jueces o científicos, sino a universidades y otras instituciones educativas.
Estos casos también desnudan la fragilidad de editoriales y sistemas de referato. Las editoriales académicas no sólo publican textos, son instituciones de validación cognitiva certificando que sus contenidos cumplen estándares metodológicos.
Mario Bunge, en La Investigación Científica, recuerda que la ciencia es un sistema social de autocorrección, y cuando las instituciones renuncian a su función de filtro, la autocorrección se paraliza.
La falta de verificación de referencias, contraste de fuentes, declaración de uso de IA ni referato idóneo, contradice lo establecido por el Committee on Publication Ethics, que exige la revisión por pares para evaluar la coherencia argumental y la autenticidad de la evidencia. Es fundamentalmente una falla institucional que exhibe la necesidad de controles humanos obligatorios y cláusulas de responsabilidad epistémica.
Textos con falsedades influyen en debates pedagógicos, científicos, judiciales o legislativos, cuya gravedad se torna más crítica en caso que estas prácticas se extiendan, por ejemplo y como ya se ha propuesto, a la redacción de sentencias, fallos, resoluciones o dictámenes, donde la veracidad, la trazabilidad y la responsabilidad epistémica son condiciones innegociables. Funcionarios públicos, docentes, asesores e investigadores toman decisiones basadas en información que debe ser confiable. Por ello la integridad científica y la integridad de la gestión pública son inseparables.
Yuval Harari, en Homo Deus, advierte que las democracias dependen de la capacidad colectiva de distinguir entre lo verdadero y lo verosímil. Cuando la autoridad epistémica se diluye, se debilita la autoridad política. Y en funcionarios públicos o académicos, la responsabilidad es doble, porque no sólo deben actuar con integridad, sino garantizar las condiciones permitiendo que esta sea posible. Si aceptamos obras cargadas de falsedades como insumos para la educación, la justicia o el diseño de políticas públicas, dejamos de ser una República basada en la evidencia para abrazar un orden gobernado por ficciones verosímiles.
Journals de referencia internacional como Ethics, de la Universidad de Chicago, advierten para sus editores, revisores y colaboradores, que usar IA sin declaración, trazabilidad ni responsabilidad autoral, constituye una forma de plagio y de fabricación de evidencia. Así, la gobernanza ética de la IA es condición indispensable para preservar la integridad científica y la credibilidad de quienes producen y difunden conocimiento. La IA es extraordinaria para la ciencia, la educación y la gestión pública, pero sin controles éticos, integridad autoral e instituciones robustas, deteriora la verdad colectiva.
La sociedad democrática requiere funcionarios con responsabilidad epistémica, académicos que garanticen autenticidad del conocimiento y editoriales que actúen como filtros críticos.
La integridad científica no es un ideal abstracto sino una condición estructural de toda educación, formación, deliberación y legitimidad institucional.
El desafío contemporáneo consiste en asegurar que la IA amplifique nuestras capacidades, no nuestras irresponsabilidades; que acelere descubrimientos, no la propagación de falsedades; que democratice la información, no que banalice la verdad.
La IA puede escribir un libro en minutos, pero la integridad científica no puede automatizarse ni delegarse, sólo nace del compromiso con la verdad como bien público. Una sociedad que la conserva funda futuro; la que renuncia a ella, queda a merced del simulacro. En esa decisión ética y colectiva se juega lo que conoceremos y quiénes seremos.