Lluís Montoliu (genetista): La IA facilita el fraude en la ciencia y habrá consecuencias

Elena Camacho

Madrid, 5 jul (EFE).- "No hace mucho la revista Nature daba cuenta de alguien que se inventó una patología. Inventó un caso, lo describió en un artículo y lo envió a publicar. Semanas después hizo una consulta a la inteligencia artificial y en la respuesta estaba incluido su artículo".

Pero la mentira no terminó ahí, el artículo se incorporó al registro científico, "contaminando la literatura científica y alterando una información" que utilizan otros científicos para sus investigaciones, lamenta el vicedirector del Centro Nacional de Biotecnología (CNB-CSIC), Lluís Montoliu.

Este efecto bola de nieve "es algo que tenemos que tener en cuenta porque la IA facilita el fraude. Tenemos que ser conscientes de esto, y de que tendrá consecuencias", advierte Montoliu en una entrevista con EFE para hablar de su libro: "Impostores de la Ciencia", publicado por la editorial Pinolia.

Ya hay trabajos escritos enteramente por una IA. "En noviembre del año pasado, el número de artículos publicados en Internet por máquinas, algoritmos o inteligencias artificiales superó al de los escritos por seres humanos, es decir, cada texto que hay en internet, tiene una posibilidad del 50 % de no haber sido escrito por una persona".

Que la IA puede ayudar a la ciencia es un hecho pero también puede contaminarla porque el uso que hacemos de ella es humano. Y es que, como avisa en la primera frase de su libro, "los científicos no somos extraterrestres. No somos lo peor ni somos lo mejor. Somos hombres y mujeres sometidos a las presiones de la sociedad... por triunfar, por publicar, por tener éxito y ser reconocido... y algunos intentan tomar atajos para llegar a estos resultados".

El libro nace de la necesidad de hablar de la ética profesional. Según un estudio de Nature, un tercio de los científicos admite haber cometido errores, pero según datos de la Universidad de Santiago de Compostela, en Biomedicina, en España, "no es un 30 % sino un 40 % el número de personas que cruzan la raya roja" y modifican los resultados -en muchos casos simples retoques de fotos o gráficas, sin saber que eso no se debe hacer-.

Para evitarlo, "los investigadores deberían formarse en ética pero, lamentablemente, en España es opcional, cuando debería ser obligatoria".

Esa formación -opina- debería impartirse durante la tesis doctoral, que es la etapa que sirve para formarse como científico: "Da igual la pregunta que quieras resolver o los experimentos que vayas a hacer, hagas lo que hagas, debes saber que no todo vale, que hay códigos deontológicos como los de cualquier gremio que dicen como tienes que operar, cómo comportarte con tus pares, con otros estudiantes, con tu supervisor, y cómo tienes que describir tus resultados y mantener siempre la integridad".

Pero ¿qué ocurre cuando un artículo tiene errores? Cuando el error conlleva apropiación indebida de dinero público o daños contra la salud humana, la justicia ordinaria lo pueden castigar pero "el gran problema -apunta Montoliu- es responder a las vulneraciones de integridad".

"En Europa los comités de ética de la investigación son consultivos, como el Comité Español de Ética de la Investigación, del Ministerio de Ciencia -del que Montoliu forma parte- que investiga comportamientos inadecuados pero su informe final solo va dirigido al responsable de la institución, no es información pública", lamenta.

En Estados Unidos, sin embargo, la Oficina de Integridad de la Investigación publica anualmente los nombres de los científicos investigados que han vulnerado la ética científica. "Además, esta oficina trabaja en colaboración con el Departamento de Justicia, que puede poner sanciones o enviar a personas a la cárcel".

Lo normal es que en los trabajos fraudulentos, la revista retire el artículo pero en muchos casos la solución llega tarde y "el daño es irreparable".

Montoliu cita el caso de Andrew Wakefield, el británico que vinculó el uso de la vacuna de la triple vírica con el riesgo de desarrollar trastornos del neurodesarrollo, como el autismo. ¿Los motivos? tenía un acuerdo con un abogado (esperaban interponer demandas millonarias contra las farmacéuticas fabricantes de la vacuna), y un negocio: había presentado su propia patente para una vacuna contra el sarampión.

 "Su artículo, se publicó en 1998 en The Lancet, que es la una de las revistas número 1 médicas pero no se retiró hasta 2010, doce años después de su publicación". Para entonces el daño ya estaba hecho. "Actualmente, el movimiento antivacunas sigue usando su trabajo para denostar uno de los grandes logros actuales de la medicina: reducir enormemente la mortalidad perinatal".

Wakefield no es el único, el libro está repleto de ejemplos de estafadores que por dinero o por ego han llegado a límites insospechados, como el de Elizabeth Holmes, que llegó a ganar 4.500 millones de dólares con Theranos, una empresa de análisis médicos que prometía exhaustivos informes de salud con una sola gota de sangre. En 2023 fue condenada a 11 años de cárcel.

O el de Haruko Obokata, una investigadora japonesa del Instituto Riken que quiso demostrar que con una solución ácida podía convertir células de cualquier parte del cuerpo en otras equivalentes a células madre pluripotentes; o el He Jiankui, de la Universidad de Shenzhen, en China, que manipuló el genoma de dos embriones humanos para crear humanos inmunes al virus del sida.

"Todos tienen algo en común -opina Montoliu- son personas tremendamente inteligentes que, en muchos casos, saben escoger bien su mentira" y decir al mundo lo que quiere oír: "que han encontrado una cura para el cáncer o que saben hacer tráqueas artificiales o regenerar el corazón tras un infarto".

Y nuestro país no está al margen; "aquí también hay científicos sin ética". "Posiblemente una buena manera de evitar malas prácticas sería que todos los investigadores firmasen un código de buenas prácticas" porque "nos jugamos mucho, nuestro futuro y el de las generaciones futuras", concluye. EFE

(foto)