OpenAI presentó Jalapeño, su primer chip de inferencia de diseño propio, con resultados que, según afirma, lo sitúan por encima de los aceleradores disponibles en el mercado en dos métricas centrales: eficiencia energética y velocidad de respuesta. La compañía lo evaluó con tres modelos públicos de gran escala y obtuvo ventajas que van desde 1,5 hasta más de cuatro veces en distintas condiciones de uso.
Las pruebas se realizaron sobre los modelos GPT-OSS 120B, DeepSeek R1 670B y Kimi K2.5 1T, y los resultados se midieron con el benchmark público InferenceX de SemiAnalysis. Según la empresa, Jalapeño entregó entre 1,5 y 1,9 veces más trabajo de IA por vatio en rendimiento máximo sostenido, y redujo la latencia de extremo a extremo entre 1,7 y 3,6 veces frente a chips de Nvidia como el GB300 y GB200.
Para cargas de trabajo altamente interactivas, la diferencia llegó a 4,1 veces en rendimiento.
Un diseño que elimina la disyuntiva entre velocidad y eficiencia
La arquitectura de Jalapeño parte de una premisa técnica concreta: los chips de inferencia convencionales suelen estar optimizados para una sola fase del proceso, lo que obliga a elegir entre mayor rendimiento o menor latencia. OpenAI apostó por integrar ambas capacidades en un único diseño.
PUBLICIDAD
La inferencia de modelos de lenguaje tiene dos etapas diferenciadas. La primera, llamada prefill, consiste en procesar el texto que introduce el usuario y es intensiva en cómputo. La segunda, conocida como decode, genera la respuesta token por token y depende en mayor medida del ancho de banda de memoria. Jalapeño fue concebido para gestionar las dos fases dentro de la misma arquitectura, sin sacrificar ninguna.
Para lograrlo, el chip mantiene el estado del modelo —incluida la caché de clave-valor— cerca de los recursos de procesamiento que la necesitan. Esa proximidad reduce los tiempos de espera asociados al movimiento de datos dentro del sistema.
Redes integradas para reducir cuellos de botella
Otro elemento del diseño es la integración del sistema de red directamente en la arquitectura del chip. El objetivo es limitar el volumen de datos que debe desplazarse entre chips, lo que a su vez reduce los retrasos de comunicación que pueden dejar los recursos de cómputo en espera.
PUBLICIDAD
Ese aspecto adquiere especial relevancia en los agentes de inteligencia artificial, que ejecutan múltiples pasos de inferencia de forma secuencial. Un retardo pequeño en cada paso se acumula y puede extender de forma apreciable el tiempo total de una tarea.
El chip tiene una potencia nominal de 700 vatios, aunque OpenAI precisó que el consumo sostenido medido durante las pruebas se mantuvo en 550 vatios o por debajo de ese umbral. Frente al modelo Kimi K2.5 1T, el chip registró alrededor de 1,5 veces más rendimiento máximo por vatio y 3,4 veces menos latencia que el sistema de referencia.
La IA también participó en el diseño del chip
El proceso de desarrollo de Jalapeño incorporó las propias herramientas de OpenAI. Los modelos de la compañía asistieron a los ingenieros en la exploración de implementaciones, la reducción de los ciclos de diseño y verificación, y la optimización de circuitos aritméticos. El equipo pasó del diseño inicial al tapeout en nueve meses.
PUBLICIDAD
Posteriormente, OpenAI utilizó Codex con GPT-Astra para adaptar tres modelos de pesos abiertos que no formaban parte del plan de producción original. En dos meses, esos modelos alcanzaron un alto rendimiento sobre Jalapeño.
Para bloques de atención y de mezcla de expertos del modelo GPT-OSS, las implementaciones generadas por IA resultaron entre 1,5 y 1,8 veces más rápidas que las escritas por ingenieros humanos, aunque la compañía aclaró que esos resultados corresponden a bloques individuales y no a los modelos completos.
Despliegue previsto para finales de 2026
OpenAI tiene previsto incorporar Jalapeño a su infraestructura de cómputo antes de que termine 2026. La compañía describió el chip como la primera generación de una hoja de ruta multigeneracional: los diseños de segunda y tercera generación ya están en desarrollo.
PUBLICIDAD
La apuesta de la empresa apunta a hacer la inferencia más rápida y eficiente en consumo energético a medida que amplía su infraestructura y da soporte a modelos de mayor capacidad.
PUBLICIDAD