Matemáticos temen que OpenAI y Anthropic controlen quién accede a los hallazgos de sus IA

Los matemáticos británicos más reconocidos, entre ellos tres ganadores de la medalla Fields, se reunieron en la Royal Society de Londres por un temor concreto: que OpenAI y Anthropic controlen quién accede a los avances matemáticos de sus IA y los guarden detrás de pagos, informó The Observer.

El encuentro ocurrió hace unos días. Lo motivó la publicación de OpenAI, un mes antes, de soluciones a 377 de los problemas más difíciles de la disciplina, generadas por sus modelos más avanzados, que el público no puede usar.

Martin Bridson, presidente del Instituto Clay de Matemáticas, la organización que fija los Problemas del Milenio, habló de un temor de largo plazo: que el conocimiento quede “acaparado tras muros de pago”. En ese escenario, la única forma de entender la investigación sería pagar por un chatbot.

Bridson aceptó que algunos secretos son legítimos, como una técnica capaz de romper el cifrado que protege el comercio en internet, y que la propiedad intelectual merece protección. Pero consideró “profundamente objetable” que entidades privadas sean dueñas del conocimiento fundamental.

Quién decide el acceso a las IA más potentes

El matemático comparó la situación con el Gran Colisionador de Hadrones del CERN, en Suiza. Allí el acceso lo define una junta de investigación asesorada por comités científicos. “¿Por qué ellas deberían decidir quién accede a estas herramientas y con qué criterio?”, preguntó sobre las empresas.

Hasta ahora, OpenAI y Anthropic se comprometieron a aportar USD 5 millones cada una a un fondo de la Fundación Simons, un importante patrocinador de la investigación matemática, para dar acceso a sus modelos a algunos investigadores.

La matemática Ana Caraiani, profesora del Imperial College de Londres y miembro de la Asociación por la Matemática Humana, señaló el límite geográfico: ninguna institución de Rumania, su país natal, puede postularse para usar esos modelos. “La mayoría de los países está en esa posición”, afirmó.

Martin Hairer, ganador de la medalla Fields, descartó que los modelos de código abierto sirvan de alternativa porque no compiten con los más avanzados. “Es un enorme problema para la comunidad”, dijo, ya que una de las herramientas principales de la investigación quedaría bajo control de dos empresas estadounidenses.

Redacción de los artículos y verificación de los resultados

Terence Tao, considerado probablemente el matemático más influyente del mundo, contó a The Observer el mes pasado que Anthropic paga a matemáticos para formalizar y redactar soluciones a problemas que resolvieron sus modelos. “Eso causa otro problema, porque ellos eligen quién escribe el artículo”, dijo.

Jon Keating, vicepresidente de la Royal Society, afirmó que la IA puede traer una “era dorada de las matemáticas”. Aclaró una condición: si la comunidad debe comprobar esos resultados y aprender de ellos, tienen que exponerse de forma completa, no ocultarse.

Las dudas sobre la publicación de OpenAI no son nuevas. Cuando la empresa difundió más de 370 resultados el 6 de octubre, The Guardian informó que el Instituto de Estudios Avanzados de Princeton declaró que no avalaba la práctica de probar los problemas más difíciles con modelos propietarios que el resto del campo no puede usar.

La reunión de la Royal Society no produjo, según The Observer, un comunicado conjunto ni una fecha para nuevas conversaciones con las empresas.

OpenAI afirma que una IA sin publicar refutó una conjetura matemática

OpenAI asegura que uno de sus modelos de inteligencia artificial, aún no publicado, logró refutar la hipótesis del tiempo exponencial, una conjetura formulada a finales de los años noventa que sirve de base a cientos de artículos de informática teórica, con aplicaciones que van desde la teoría de grafos hasta la biología computacional.

La compañía atribuye al mismo sistema otros dos hallazgos matemáticos. Uno es la demostración de una conjetura sobre ondas que permanecía sin resolver desde 1991. El otro es la prueba de que la teoría de Yang-Mills, considerada uno de los pilares de la física de partículas, existe en sentido matemático.

OpenAI presentó los tres resultados como “datos de investigación en bruto” y solicitó a especialistas externos que conformen grupos independientes de verificación antes de dar los hallazgos por confirmados.

De validarse, cualquiera de los tres resultados bastaría por sí solo para sostener una trayectoria académica completa y para que su autor aspire a distinciones internacionales de prestigio.

El caso de la hipótesis del tiempo exponencial tiene una relevancia adicional: su resolución se aproxima a uno de los Problemas del Milenio, los siete desafíos matemáticos que el Instituto Clay dotó con un millón de dólares cada uno y de los que, hasta ahora, solo uno ha sido resuelto.