OpenAI presenta Jalapeño, un chip propio que promete hasta 3,6 veces menos latencia que NVIDIA
OpenAI ha publicado los primeros resultados de rendimiento de Jalapeño, su primer chip diseñado específicamente para ejecutar modelos de inteligencia artificial. Los datos sitúan al acelerador entre 1,5 y 1,9 veces por encima en rendimiento por vatio frente a sistemas basados en NVIDIA GB200 y GB300, además de ofrecer entre 1,7 y 3,6 veces menos latencia en las pruebas realizadas.
La diferencia es aún mayor en cargas interactivas, como las que utilizan los agentes de IA para responder, planificar tareas o programar en tiempo real. En este tipo de escenarios, Jalapeño alcanza entre 2,1 y 4,1 veces más rendimiento, según las mediciones publicadas por SemiAnalysis en su batería de pruebas InferenceX.
Un chip diseñado desde cero para la inferencia
Jalapeño ha sido desarrollado junto a Broadcom y se fabrica con el proceso TSMC N3P de 3 nanómetros. Su objetivo no es entrenar modelos, sino ejecutar grandes modelos de lenguaje una vez ya han sido entrenados. Esta fase se conoce como inferencia y es la que permite generar respuestas, resumir textos, escribir código o activar herramientas a partir de una petición del usuario.
La arquitectura parte de una premisa concreta: construir un sistema pensado exclusivamente para servir modelos de lenguaje modernos y agentes interactivos. A diferencia de una GPU de propósito general, que debe cubrir numerosos tipos de cálculos, Jalapeño prioriza el movimiento eficiente de datos, el acceso a memoria y la rapidez en la generación de cada token.
Un token es una unidad de texto que el modelo procesa y produce. Puede ser una palabra completa, una parte de ella o un signo. En los servicios de IA, generar esos tokens con rapidez es esencial para reducir el tiempo que el usuario espera antes de recibir una respuesta.
Más memoria y menor consumo energético
El acelerador utiliza un único chip de gran tamaño, conocido como die de tamaño máximo de retícula. Esta configuración integra 13,4 petaflops de capacidad de cálculo en formato MXFP4, una representación numérica de baja precisión que reduce el espacio y la energía necesarios para determinadas operaciones de IA.
Cada paquete incorpora seis pilas de memoria HBM4, con una capacidad total de 216 GiB y un ancho de banda de 15,4 TB por segundo. La memoria de alto ancho de banda permite suministrar datos al procesador con mayor rapidez, algo determinante en los modelos de lenguaje de cientos de miles de millones o incluso un billón de parámetros.
El consumo nominal de Jalapeño es de 700 vatios, aunque en las cargas analizadas se mantuvo en 550 vatios o menos. Como referencia, el sistema NVIDIA GB300 alcanza un consumo nominal de 1.400 vatios y cuenta con 288 GB de memoria HBM3E. Según OpenAI, Jalapeño ofrece aproximadamente un 50% más de memoria por vatio nominal que esa plataforma.
El software también se aleja de CUDA
Una de las decisiones estratégicas más relevantes está fuera del silicio. OpenAI ha creado Gluon, un lenguaje para programar kernels, es decir, las funciones que ejecutan operaciones concretas en el acelerador. Con esta herramienta, la compañía puede optimizar sus modelos sin depender directamente de CUDA.
CUDA es el ecosistema de programación de NVIDIA y se ha convertido durante años en una de las principales barreras para cambiar de proveedor. Miles de bibliotecas, herramientas y aplicaciones de inteligencia artificial están adaptadas a este entorno. Construir una alternativa propia permite a OpenAI controlar tanto el hardware como la capa de software que lo utiliza.
El diseño completo también busca reducir el movimiento de datos entre el chip, la memoria, la red y el software. En la inferencia de modelos grandes, transferir información entre componentes puede convertirse en un cuello de botella mayor que la capacidad de cálculo. Mantener el estado del modelo cerca de las unidades de procesamiento reduce ese coste y puede mejorar tanto la latencia como la eficiencia energética.
Las pruebas tienen límites
Los resultados son relevantes, pero no permiten concluir que Jalapeño vaya a sustituir a las GPU de NVIDIA en todos los centros de datos. Las comparativas se centran en inferencia y, en particular, en configuraciones de generación de un solo token. Algunos despliegues actuales de NVIDIA utilizan técnicas de generación de varios tokens, como la decodificación especulativa, que no aparecen reflejadas de la misma forma en estas mediciones.
Además, Jalapeño no está diseñado para entrenar modelos. El entrenamiento requiere distribuir enormes volúmenes de datos y cálculos durante largos periodos, un ámbito en el que NVIDIA mantiene una posición especialmente sólida. Las pruebas tampoco incluyen la futura plataforma Vera Rubin, que OpenAI prevé desplegar en el complejo de Ohio operado junto a SoftBank.
La propia OpenAI plantea Jalapeño como un complemento y no como un reemplazo total de las GPU comerciales. La compañía seguirá utilizando aceleradores de NVIDIA para cubrir la creciente demanda de capacidad de cálculo y combinará distintas plataformas según el tipo de tarea.
Primeros despliegues a finales de 2026
OpenAI prevé incorporar Jalapeño en pequeños volúmenes a su infraestructura a finales de 2026. El escalado significativo llegaría en 2027, mientras que las generaciones segunda y tercera del chip ya se encuentran en desarrollo.
La apuesta responde a una presión económica cada vez mayor. Cuando un servicio procesa millones de peticiones diarias, una mejora moderada en el rendimiento por vatio puede traducirse en decenas o cientos de millones de euros de ahorro anual en electricidad, refrigeración y capacidad de centros de datos.
OpenAI se suma así a la tendencia de diseñar aceleradores propios, en la que también participan Google con sus TPU, Amazon con Trainium e Inferentia y Meta con MTIA. Si los resultados de laboratorio se confirman en producción, Jalapeño podría reducir la dependencia de OpenAI respecto a NVIDIA y acelerar la competencia en el segmento de inferencia de modelos de lenguaje.
