La carrera por la superinteligencia: qué preocupa a los investigadores que están desarrollando los modelos más avanzados

Las principales compañías de inteligencia artificial avanzan hacia sistemas cada vez más capaces y autónomos mientras, dentro de los propios laboratorios, crece la preocupación por los riesgos asociados con ese desarrollo. Investigadores que participaron de esa carrera comenzaron a cuestionar públicamente su ritmo y, en algunos casos, advirtieron que las herramientas actuales todavía no alcanzan para garantizar el control de modelos futuros.

La discusión volvió a cobrar fuerza después de que Jacob Coxon, un investigador de 27 años que trabajó en OpenAI y Anthropic, anunciara su salida de esta última compañía. Coxon cuestionó la competencia entre los laboratorios por alcanzar sistemas de inteligencia artificial general cada vez más avanzados sin contar todavía con certezas sobre cómo contener sus posibles efectos.

Durante una entrevista en Infobae a la Tarde, Delfina Arambillet, periodista especializada en inteligencia artificial, explicó que Coxon trabajaba en pre-training, la etapa inicial en la que los modelos aprenden a reconocer patrones a partir de grandes volúmenes de información.

Su advertencia adquirió mayor relevancia cuando Evan Hubinger, investigador de Anthropic especializado en alignment, respaldó públicamente parte de ese planteo. Hubinger, cuyo trabajo está vinculado con la búsqueda de fallas y comportamientos peligrosos en los modelos, estimó que existe más de un 10% de probabilidades de que la inteligencia artificial provoque la muerte de todos los seres humanos durante la próxima década.

El porcentaje no describe el comportamiento de los sistemas que utilizan actualmente los usuarios, sino una estimación de riesgo asociada con el desarrollo de modelos mucho más avanzados. Samuel Marks, otro investigador de seguridad de Anthropic, señaló que las técnicas disponibles permiten orientar la conducta de los sistemas, pero todavía no garantizan un control pleno. Una de las alternativas que se analizan consiste en utilizar futuras inteligencias artificiales para supervisar a modelos posteriores, ante la dificultad de que los seres humanos puedan controlar directamente sistemas cada vez más complejos.

Los investigadores que advierten desde adentro

La preocupación está vinculada, entre otras cuestiones, con el llamado autoperfeccionamiento recursivo: la posibilidad de que una inteligencia artificial pueda participar en la mejora de sus propias capacidades. Arambillet explicó que el temor no está centrado en que los modelos actuales puedan decidir de manera repentina atacar a las personas, sino en que futuras versiones adquieran capacidades que dificulten su supervisión y control. A esto se suma una característica de estos sistemas que complica las previsiones: su comportamiento no siempre es determinístico, por lo que una misma situación puede producir respuestas diferentes.

Los laboratorios ya estudian distintos escenarios relacionados con esos riesgos. Entre ellos aparecen los ciberataques autónomos, en los que un sistema podría detectar vulnerabilidades, acceder a redes y ejecutar acciones sin instrucciones humanas permanentes; la autorreplicación, que implicaría copiarse en otros servidores y conseguir recursos para continuar funcionando; y el engaño estratégico, mediante el cual un modelo podría comportarse correctamente durante una evaluación mientras oculta otros objetivos o aparenta aceptar las correcciones del entrenamiento. También se analiza el riesgo de que sistemas avanzados reduzcan las barreras de conocimiento necesarias para desarrollar armas biológicas o químicas.

Pero la discusión no pasa solamente por imaginar qué podrían hacer esos sistemas. También obliga a responder por qué la industria continúa desarrollándolos aun cuando algunos de sus propios investigadores reconocen que existen riesgos que todavía no saben resolver por completo.

Por qué la carrera no se detiene

La explicación está relacionada con la competencia que atraviesa al sector. Anthropic, OpenAI, Google y otros actores buscan desarrollar modelos cada vez más avanzados, mientras Estados Unidos y China disputan el liderazgo tecnológico. En ese contexto, una empresa que decidiera frenar por su cuenta determinados avances podría quedar en desventaja frente a un competidor que siguiera adelante.

Dario Amodei, CEO de Anthropic, planteó que una compañía podría detener algunos desarrollos para dar tiempo a que la sociedad, las instituciones y el mercado laboral se preparen. Pero la propia dinámica competitiva dificulta que una decisión de ese tipo sea adoptada de manera unilateral cuando otros actores continúan avanzando.

Arambillet comparó esta dinámica con la carrera nuclear y la figura de Robert Oppenheimer: una situación en la que cada participante puede considerar riesgoso avanzar, pero teme que otro lo haga primero. La diferencia, señaló, es que la inteligencia artificial no presenta un momento único y visible de ruptura. Sus capacidades se incorporan de manera progresiva a productos y servicios, por lo que resulta más difícil establecer un punto concreto en el que la sociedad pueda determinar que el desarrollo llegó demasiado lejos.

A esa presión competitiva se suma una cuestión económica. Los modelos más avanzados requieren grandes inversiones en centros de datos, chips, energía y capacidad de cómputo, mientras las compañías necesitan capital para sostener su expansión y retener a los investigadores especializados. Por eso, la carrera tecnológica también está vinculada con las expectativas de crecimiento y con la búsqueda de nuevas fuentes de financiamiento.

La propia discusión sobre la inteligencia artificial general, conocida como AGI, está atravesada por esa competencia. Mientras en ámbitos académicos suele asociarse con una inteligencia capaz de desempeñarse de manera comparable a la humana en un amplio conjunto de tareas, desde la industria pueden utilizarse criterios más vinculados con el rendimiento económico. Arambillet también señaló que los modelos actuales tienen capacidades muy desiguales: pueden mostrar un desempeño extraordinario en programación, escritura o matemáticas y, al mismo tiempo, presentar limitaciones en áreas como la memoria de largo plazo.

El desafío de poner límites

Frente a este escenario, la discusión comenzó a trasladarse de los laboratorios a los gobiernos. El senador estadounidense Bernie Sanders se sumó a las críticas y planteó impulsar una legislación para prohibir la superinteligencia y pausar el desarrollo de la inteligencia artificial. Pero cualquier intento de establecer límites enfrenta el carácter global de una tecnología que se desarrolla simultáneamente en distintos países y bajo una fuerte competencia entre compañías privadas.

Arambillet consideró que la discusión debería evitar tanto la ausencia de controles como una prohibición total. El objetivo, sostuvo, debería ser establecer reglas que permitan aprovechar los beneficios de la IA sin ignorar los riesgos asociados con sistemas cada vez más autónomos. Como antecedente, mencionó el Tratado sobre el Espacio Ultraterrestre de 1967, firmado durante la Guerra Fría por Estados Unidos y la Unión Soviética, como ejemplo de que incluso dos potencias enfrentadas pueden acordar límites sobre una tecnología estratégica.

La dificultad, en el caso de la inteligencia artificial, es que todavía no existe un marco internacional equivalente capaz de ordenar una carrera en la que participan empresas con enormes recursos y Estados que consideran su desarrollo una cuestión económica y estratégica. Al mismo tiempo, las herramientas destinadas a supervisar estos sistemas deben avanzar detrás de capacidades que cambian con rapidez.

Por eso, las advertencias de los investigadores plantean un problema que excede la posibilidad de que una inteligencia artificial llegue algún día a provocar un daño extremo. El desafío inmediato es determinar cómo establecer mecanismos de control sobre una tecnología que continúa avanzando precisamente porque ninguno de los principales actores quiere correr el riesgo de quedarse atrás.

–

Infobae te acompaña cada día en YouTube con entrevistas, análisis y la información más destacada, en un formato cercano y dinámico.

• De 7 a 9: Infobae al Amanecer: Nacho Giron, Luciana Rubinska y Belén Escobar.

• De 9 a 12: Infobae a las Nueve: Gonzalo Sánchez, Tatiana Schapiro, Ramón Indart y Cecilia Boufflet.

• De 12 a 15: Infobae al Mediodia: Maru Duffard, Andrei Serbin Pont, Fede Mayol y Facundo Kablan.

• De 15 a 18: Infobae a la Tarde: Manu Jove, Maia Jastreblansky y Paula Guardia Bourdin; rotan en la semana Marcos Shaw, Lara López Calvo y Tomás Trapé.

• De 18 a 21: Infobae al Regreso: Gonzalo Aziz, Diego Iglesias, Malena de los Ríos y Matías Barbería; rotan en la semana Gustavo Lazzari, Martín Tetaz y Mica Mendelevich

Seguinos en nuestro canal de YouTube @infobae.