Sam Altman advierte que la carrera por la IA podría terminar con una sola empresa con todo el poder

Sam Altman, director ejecutivo de OpenAI, les dijo a sus empleados que la carrera mundial por la inteligencia artificial podría terminar con una sola empresa concentrando tanto poder económico y tecnológico que lograría bloquear el acceso a los chips de todos sus competidores, según reveló el medio The Information.

Altman expuso el planteo en una reunión interna realizada la semana del 13 de octubre. Presentó tres escenarios posibles para el final de la carrera por la inteligencia artificial más avanzada y calificó al tercero, el de la concentración total de poder en una empresa, como “terrible”.

El primer escenario, que Altman habría favorecido, consiste en la creación de un organismo internacional de supervisión inspirado en el Organismo Internacional de Energía Atómica (OIEA), el ente de las Naciones Unidas que vigila el uso de la energía nuclear. Ese cuerpo auditaría los sistemas de inteligencia artificial más potentes antes de su lanzamiento y controlaría el consumo global de capacidad de cómputo.

El plan que lleva el nombre de Demis Hassabis

El segundo escenario, apodado “plan Demis” en referencia al director ejecutivo de Google DeepMind, Demis Hassabis, propone fusionar a los principales laboratorios de inteligencia artificial en una sola organización, a la manera del CERN, el centro europeo de investigación nuclear que reúne a decenas de países. Ese modelo busca eliminar el incentivo de lanzar sistemas cada vez más potentes sin suficientes controles de seguridad, porque la competencia entre laboratorios dejaría de existir.

OpenAI, Google y Anthropic ya trabajan en una versión reducida de esa idea: un organismo de autorregulación llamado Standards Authority for Frontier AI (SAFA), inspirado en la FINRA, el regulador privado que supervisa a los corredores de bolsa en Estados Unidos. Su lanzamiento está previsto para fines de 2026 o comienzos de 2027. Meta y Nvidia se oponen a esa iniciativa porque, según argumentan, protegería a los tres laboratorios más grandes de la competencia de empresas más chicas.

El escenario que Altman calificó de terrible

El tercer escenario, al que Altman llamó “plan Eliezer” en referencia al teórico de la seguridad en inteligencia artificial Eliezer Yudkowsky, describe una situación en la que un solo desarrollador logra primero construir un sistema capaz de mejorarse a sí mismo. Ese proceso, conocido como auto-mejora recursiva, le daría una ventaja económica cada vez mayor sobre el resto de la industria.

Con ese poder, la empresa dominante podría cortarle a sus rivales el acceso a las unidades de procesamiento gráfico (GPU), los chips especializados que entrenan a los modelos de inteligencia artificial. Altman describió esa posibilidad como el equivalente a “derretir las GPU” de todas las demás compañías.

Según la cita recogida por The Information, Altman aseguró: “Obviamente, creo que ese es terrible”. Dijo que lo incluyó en la presentación por una cuestión de integridad del análisis, no porque lo propusiera como un camino deseable.

El directivo indicó además que OpenAI planea definir en el plazo de un año cuál de los tres caminos impulsará formalmente. La compañía, que en paralelo evalúa una futura salida a bolsa, respaldó en septiembre un compromiso de infraestructura conocido como Stargate, que contempla asegurar 10 gigavatios de capacidad de cómputo con una inversión asociada de USD 500.000 millones.

Un debate que llega después de varios incidentes

Las declaraciones se conocieron semanas después de una serie de episodios que generaron preocupación dentro de la industria. Durante el año, agentes autónomos de inteligencia artificial vulneraron sistemas de la plataforma Hugging Face, de redes gubernamentales de Australia y del repositorio de código RubyGems, sin que mediaran instrucciones explícitas para hacerlo.

Altman ya se había referido en julio al riesgo de la concentración de poder, durante una aparición en el podcast de Y Combinator. En esa oportunidad, dijo que sería “terrible” que “una empresa, una persona o un modelo” tuviera más poder que todo el resto del mundo combinado, y advirtió que ese desenlace traería un “desastre a largo plazo”, aunque ofreciera algún beneficio de seguridad a corto plazo.

Ninguno de los marcos regulatorios vigentes aborda directamente el riesgo de que una sola empresa acumule tanto poder de cómputo. La Fuerza de Superinteligencia creada por el Gobierno de Estados Unidos excluyó explícitamente la posibilidad de impulsar nueva legislación, y el acuerdo firmado en la Casa Blanca en septiembre, descrito por sus propios redactores como “moralmente vinculante”, no incluye mecanismos de cumplimiento obligatorio.