OpenAI entrenó GPT-6 Astra con 100.000 GPUs: Nvidia prevé que el próximo modelo de IA necesitará 400.000

OpenAI, la empresa de Sam Altman, entrenó GPT-6 Astra con 100.000 tarjetas gráficas en el centro de datos Stargate de Abilene, Texas, Estados Unidos, una operación cuyo costo operativo se estima entre 500 millones y 1.000 millones de dólares y que según Jensen Huang, CEO de Nvidia, anticipa una expansión de cuatro veces esa escala para el próximo modelo de inteligencia artificial (IA).

El entrenamiento se prolongó entre 90 y 120 días. La estimación de costos parte de un valor de entre 2,50 y 3,50 dólares por hora para cada procesador gráfico utilizado durante ese período continuo.

La futura infraestructura podría requerir cerca de 1,2 GW de potencia eléctrica si se construye con 400.000 GPU y bastidores GB200 NVL72 de Nvidia. Esa cifra incluye un factor de eficiencia energética de 1,5, que contempla la electricidad adicional destinada a refrigeración y otros sistemas del centro de datos.

Cómo fue diseñado GPT-6 Astra, el nuevo modelo de OpenAI

GPT-6 Astra fue diseñado para utilizar herramientas externas sin que los desarrolladores deban programar una interfaz de programación de aplicaciones, conocida como API, para cada una de ellas. El sistema puede actuar de manera similar a un usuario que interactúa con programas informáticos.

Sus agentes se desplazan por navegadores web, hojas de cálculo y aplicaciones de escritorio. Con esa capacidad, pueden elaborar documentos completos, diseñar presentaciones y resolver secuencias de trabajo complejas.

La base de razonamiento funciona mediante una arquitectura nativa de múltiples agentes. Ante una tarea de alta dificultad, un agente principal plantea una hipótesis técnica y coordina a subagentes independientes que prueban alternativas y verifican resultados en paralelo.

Esa distribución de tareas busca evitar los llamados “bucles de perdición”, momentos en las que un modelo queda atrapado en intentos repetitivos sin resolver un problema. Permite que el modelo depure su propio código y modifique su estrategia cuando identifica fallas.

Sin embargo, la dimensión del despliegue no implica un liderazgo automático en todas las evaluaciones. El modelo Fable 5.1 de Anthropic supera a Astra en pruebas técnicas estandarizadas como SWE-bench Pro, Artificial Analysis Intelligence, Coding Agent y ProofBench v1.1, dedicado a problemas matemáticos formales.

Cuál es la previsión de Nvidia ante la llegada de nuevos modelos

Jensen Huang exaltó a OpenAI tras la puesta en marcha de Astra y adelantó una próxima etapa de entrenamiento con 400.000 tarjetas gráficas operando en simultáneo. Huang sostuvo que la inteligencia artificial general, o AGI, ya llegó.

Ese volumen cuadruplicaría las más de 100.000 GPU utilizadas para Astra y podría ocupar la totalidad del complejo Stargate en Texas. La previsión no incluye una fecha para el inicio del nuevo entrenamiento ni detalla cuánto tiempo demandaría.

La estimación eléctrica se basa en bastidores NVIDIA GB200 NVL72, con un consumo aproximado de 140 kW cada uno. Entonces, para alojar 400.000 GPU serían necesarios unos 5.555,55 bastidores bajo esa configuración.

Asimismo, la multiplicación de esa cantidad de estructuras por su consumo y por el factor de eficiencia energética lleva la demanda hasta los 1,2 GW. No obstante, la cifra solo es una hipótesis sobre la potencia necesaria para completar el entrenamiento. No confirma que toda la infraestructura vaya a usar exactamente esos servidores.

Qué problemas ha tenido el lanzamiento de Astra al público

El lanzamiento del modelo GPT-6 Astra de OpenAI ha tenido errores de acceso inicial, porque los usuarios de pago de ChatGPT no pudieron usar el sistema poco después de su lanzamiento. Su director ejecutivo, Sam Altman, tuvo que pedir disculpas y afirmó que el lanzamiento había sido “un desastre”.

El jefe de OpenAI reconoció en X: “En primer lugar, perdón por el lanzamiento desastroso”. Agregó: “En segundo lugar, cuando metemos la pata, intentamos arreglarlo”.