La IA también altera la ciencia: tres cuidados que se deben tener con las imágenes que parecen reales

Las herramientas de inteligencia artificial son claves hoy para generar imágenes de todo tipo, incluso aquellas que acompañan publicaciones científicas, facilitando la generación de ilustraciones complejas y gráficos que antes requerían habilidades técnicas avanzadas.

Sin embargo, este avance tecnológico también ha traído consigo nuevos desafíos y riesgos que los investigadores deben conocer para evitar errores que pueden poner en entredicho la integridad de su trabajo.

En 2024, una ilustración publicada en una revista científica encendió el debate en redes sociales. Mostraba un ratón con genitales desproporcionados y errores anatómicos evidentes, como cuatro testículos y texto mal escrito, resultado de una generación por Midjourney. La imagen logró pasar la revisión por pares, lo que expuso una debilidad en los filtros de calidad actuales frente a los productos generados por IA.

El caso fue analizado por Elisabeth Bik, consultora en integridad científica, quien advirtió que, aunque las herramientas han evolucionado rápidamente y hoy resulta difícil distinguir lo real de lo falso, los errores siguen presentes y pueden afectar desde la reputación personal hasta la validez profesional de los estudios. Por lo que es clave evitar errores y la revista Nature da tres recomendaciones fundamentales.

Cómo evitar errores al crear imágenes con IA

• Aprovecha el potencial de la IA con responsabilidad

La inteligencia artificial ofrece ventajas innegables para democratizar la creación de contenido. Herramientas como Midjourney o DALL-E permiten a investigadores sin formación en diseño producir ilustraciones atractivas y comprensibles, mejorando la comunicación y el acceso a la información visual en menos tiempo y a menor costo.

De acuerdo con un análisis basado en ocho millones de gráficos científicos, existe una correlación entre el impacto de los artículos y la cantidad de diagramas incluidos. Por tanto, disponer de recursos gráficos de calidad puede potenciar la difusión y comprensión de los trabajos científicos.

No obstante, el uso de IA en imágenes sigue siendo un territorio novedoso y en constante evolución. Los errores, desde detalles anatómicos imposibles hasta textos ilegibles, pueden pasar inadvertidos incluso en las revisiones más rigurosas.

• Revisa siempre las políticas editoriales

El primer paso para quienes deseen emplear imágenes creadas con IA en artículos científicos es consultar las normas de las revistas donde planean publicar.

No existe consenso entre los editores sobre la admisión de este tipo de recursos: algunas revistas permiten su uso siempre que se declare cómo y con qué herramientas fueron generadas las imágenes, mientras que otras lo prohíben por completo.

Por ejemplo, la editorial PLOS acepta imágenes generadas con IA, pero exige que los autores detallen el proceso: nombre de la herramienta utilizada, modo de uso, evaluación de los resultados y partes del artículo donde se aplicó. Otras editoriales, como Cell Reports, prohíben el uso de IA para resúmenes gráficos y limitan su utilización en visualizaciones de datos.

Por su parte, Springer Nature veta el uso de IA para imágenes, salvo en manuscritos que traten específicamente sobre inteligencia artificial, y solo tras una revisión caso por caso. Además, permite emplear herramientas de IA que hayan sido desarrolladas con conjuntos de datos científicos verificables, siempre que se respeten las normas de ética, derechos de autor y condiciones de uso.

• No alteres datos originales

Uno de los riesgos más graves consiste en manipular datos primarios mediante IA. En abril, un equipo en China vio retractado su estudio en el New England Journal of Medicine por una figura manipulada: una cinta métrica digitalizada por IA mostraba numeraciones incorrectas, lo que delató el ajuste artificial de la imagen.

Uno de los autores explicó que recurrieron a una herramienta de IA para corregir la posición de la cinta durante una emergencia, pero el error numérico fue un efecto colateral involuntario.

La manipulación de imágenes que sirven como evidencia primaria en investigaciones es una práctica altamente riesgosa. La biotecnóloga Mikael Elias ejemplificó el peligro al generar, con un simple comando en ChatGPT, imágenes de western blots que simulaban experimentos publicados en revistas científicas.

Aunque existen indicios para detectar falsificaciones, como señala Bik, estos no siempre resultan evidentes y el riesgo de que se cuelen imágenes fabricadas es real.