Matemáticos avisan de la "falta de transparencia" de OpenAI en la resolución del problema Navier-Stokes gracias a la IA

La Real Sociedad Matemática Española (RSME) ha destacado la "preocupación urgente" ante la "falta de transparencia" del modelo de inteligencia artificial utilizado por OpenAI en la resolución del problema Navier-Stokes, "al tratarse de una herramienta interna y no accesible de manera pública".

Así lo ha manifestado la institución en una declaración, recogida por Europa Press, en la que reconoce que la propuesta de solución al problema de Navier-Stokes presentada recientemente por OpenAI "constituye un hito de indudable relevancia para la comunidad matemática internacional", que pone de manifiesto un modelo de investigación basado en la colaboración directa entre humanos y sistemas de inteligencia artificial.

Sin embargo, precisa que este avance "no surge en el vacío", sino que "se apoya en una larga trayectoria de trabajo colectivo desarrollada durante décadas por matemáticos de todo el mundo", entre los que destacan las aportaciones previas de Diego Córdoba, Luis Martínez-Zoroa y Fan Zheng, así como los avances recientes de Levent Alpöge y Tristan Buckmaster.

Sin restar mérito a la rapidez con la que se ha obtenido este resultado, la RSME considera "indispensable" reflexionar sobre las implicaciones profundas de este nuevo paradigma.

Así, destaca que la investigación matemática "va mucho más allá de la mera resolución de problemas o de la producción masiva de respuestas o enunciados cuya verdad debe ser verificada".

"Históricamente, nuestra disciplina ha construido un cuerpo abstracto de métodos e ideas cuya finalidad última es la comprensión conceptual. Los grandes problemas abiertos han funcionado siempre como faros orientadores; su resolución no solo aporta una respuesta, sino que pone en marcha un proceso humano y colectivo de debates y discusiones que termina validando ese conocimiento e incorporándolo, cuando sea necesario, a la matemática que se enseña en la escuela y en la universidad", recoge la declaración.

En particular, la RSME considera "esencial" distinguir entre la obtención de una respuesta correcta y la construcción de una demostración matemática "rigurosa, comprensible y verificable" por la comunidad científica.

En este punto, defiende que una afirmación sobre la resolución de un problema abierto "no puede descansar únicamente en la confianza depositada en un sistema de inteligencia artificial, por avanzado que sea, ni en la plausibilidad de los argumentos que produzca".

Para la organización, "la validación independiente, la identificación de las ideas esenciales y la posibilidad de explicar y reproducir los pasos de una demostración constituyen requisitos irrenunciables del conocimiento matemático": "La inteligencia artificial puede contribuir de manera extraordinaria a estos procesos, pero no debe sustituirlos".

RIESGO DE LA IA EN LA INVESTIGACIÓN

La RSME alerta de que existe "un riesgo real" de que el impulso de las empresas tecnológicas por utilizar las matemáticas como un simple banco de pruebas (benchmark) "desvirtúe el sentido esencial de la investigación".

En este aspecto, observa una "seria desalineación" entre los fines comerciales de los desarrolladores de IA y las metas científicas y formativas de la comunidad matemática. "La producción acelerada de respuestas directas amenaza con interrumpir la cadena de transmisión humana y el desarrollo de habilidades analíticas que tradicionalmente se cultivan durante años de formación investigadora", advierte.

La RSME considera especialmente necesario proteger las oportunidades de formación y desarrollo profesional de las nuevas generaciones de matemáticos. En su opinión, el aprendizaje de la investigación "requiere tiempo, esfuerzo, contacto con investigadores experimentados y la oportunidad de enfrentarse a problemas cuya dificultad no se mide únicamente por la posibilidad de obtener una respuesta".

"Cualquier transformación tecnológica de la actividad matemática debe preservar estos espacios de aprendizaje y evitar que el acceso desigual a herramientas avanzadas amplíe las brechas existentes entre investigadores, instituciones y países", apunta la entidad, que subraya el valor "de una formación sólida en matemáticas".

DUDAS SOBRE LA AUTORÍA Y EL RECONOCIMIENTO DEL TRABAJO PREVIO

Por otra parte, señala que la presentación apresurada de resultados "plantea dudas legítimas" sobre la autoría, el crédito y el correcto reconocimiento de los trabajos previos en los que se fundamentan.

En un contexto en el que la contribución de sistemas de inteligencia artificial puede resultar "difícil de delimitar", la RSME recalca que "resulta especialmente importante establecer con claridad qué ideas, desarrollos y verificaciones corresponden a los investigadores y cuáles proceden de las herramientas empleadas, así como reconocer adecuadamente las aportaciones anteriores que hacen posible un avance determinado".

"La tecnología ofrece el potencial de enriquecer y acelerar el estudio matemático, pero su impacto positivo o destructivo dependerá en última instancia de las decisiones que tomen los seres humanos a cargo de su desarrollo y regulación", añade la RSME, que apuesta por una inteligencia artificial al servicio de la investigación matemática, capaz de ampliar las capacidades de los seres humanos "sin empobrecer la comprensión, la creatividad ni la dimensión colectiva de la ciencia".

En este contexto, prevé que el verdadero progreso "no consistirá únicamente en resolver problemas cada vez más difíciles, sino también en hacer que las ideas que los sustentan sean accesibles, verificables y fecundas para las generaciones futuras".

Por todo ello, la RSME se suma al reconocimiento del logro alcanzado, al tiempo que insta a las instituciones, a las empresas tecnológicas y a la comunidad investigadora a "garantizar el acceso abierto y transparente a los modelos, asegurar el respeto riguroso a la autoría y citación del trabajo previo, preservar la igualdad de oportunidades y defender la formación de estudiantes y el diálogo humano como el corazón indispensable del progreso matemático".