Durante años, OpenAI ha dependido de enormes cantidades de chips de Nvidia para entrenar y ejecutar sus modelos de inteligencia artificial. Esa dependencia no desaparecerá pronto, pero la compañía acaba de dar un paso importante para reducirla: ya tiene operativo su primer chip propio especializado en inferencia, la fase en la que un modelo entrenado recibe una petición y genera una respuesta.

El acelerador se llama Jalapeño y fue desarrollado junto con Broadcom específicamente para ejecutar grandes modelos de lenguaje. OpenAI presentó públicamente el programa en junio y ahora ha mostrado sus primeros resultados detallados de rendimiento, mientras que SemiAnalysis pudo acceder al hardware y someterlo a su batería independiente InferenceX.

Los resultados resultan especialmente interesantes porque, pese a tratarse de una primera generación, Jalapeño logró situarse por delante de sistemas comerciales basados en Nvidia Blackwell en varias de las pruebas realizadas.

Hasta 3,6 veces menos latencia que los sistemas comparados

Jalapeño no es una GPU convencional. Se trata de un ASIC, un circuito integrado diseñado para realizar un conjunto más específico de tareas y que, en este caso, fue construido desde cero pensando en la inferencia de grandes modelos de lenguaje.

SemiAnalysis lo probó utilizando GPT-OSS 120B, DeepSeek R1 670B y Kimi K2.5 1T, lo que también resulta relevante porque demuestra que el chip no está limitado exclusivamente a los modelos internos de OpenAI.

Según los resultados publicados, Jalapeño consiguió entre 1,5 y 1,9 veces más rendimiento por vatio y reducciones de latencia de entre 1,7 y 3,6 veces, dependiendo del modelo y del punto de funcionamiento utilizado en la comparación. OpenAI también asegura que su chip entregó más rendimiento máximo por kilovatio y una menor latencia entre tokens que los sistemas comerciales incluidos en sus pruebas.

La eficiencia energética resulta especialmente importante porque ejecutar modelos de IA para millones de usuarios requiere cantidades enormes de electricidad y hardware.

Y todavía podría mejorar su rendimiento

SemiAnalysis destaca otro detalle: Jalapeño obtuvo gran parte de estos resultados sin utilizar Multi-Token Prediction (MTP), una técnica que permite anticipar varios tokens durante la generación y que sí estaba habilitada en algunas configuraciones rivales.

Esto abre la posibilidad de que futuras optimizaciones mejoren todavía más las cifras del acelerador. Los analistas incluso consideran que, en determinadas métricas relacionadas con el coste total de propiedad, el diseño podría acercarse a sistemas basados en Rubin, la nueva generación de Nvidia.

Eso no significa, sin embargo, que OpenAI haya construido una GPU capaz de reemplazar todo lo que hace Nvidia.

Nvidia continúa teniendo una enorme ventaja

Jalapeño está especialmente orientado a inferencia, mientras que las GPU de Nvidia siguen siendo fundamentales para entrenar modelos gigantescos y cuentan además con CUDA, un ecosistema de software construido durante casi dos décadas.

OpenAI ha dejado claro que continuará utilizando hardware de Nvidia y otros socios. Jalapeño se incorporará como una pieza adicional dentro de una infraestructura cada vez más diversificada, con un despliegue limitado previsto para finales de 2026 y una expansión más significativa durante 2027.

La razón económica es sencilla. Entrenar un gran modelo puede costar una fortuna, pero ese entrenamiento ocurre en momentos concretos. La inferencia genera un coste cada vez que alguien utiliza ChatGPT, una API o un agente de IA, y los nuevos sistemas autónomos pueden realizar muchas llamadas para completar una única tarea.

Reducir el consumo energético y el tiempo necesario para generar cada token puede convertirse, a escala de miles de millones de solicitudes, en un ahorro gigantesco.

Las grandes tecnológicas quieren dejar de depender de Nvidia

OpenAI tampoco está sola. Google lleva años desarrollando sus TPU, Amazon dispone de Trainium e Inferentia y Microsoft, Meta y otras compañías están construyendo aceleradores especializados.

Jalapeño demuestra hasta dónde está llegando esa tendencia: las empresas que desarrollan los modelos también quieren controlar los chips que los ejecutan.

Nvidia continúa dominando buena parte de la infraestructura de IA, especialmente en entrenamiento, pero la inferencia está convirtiéndose en un territorio mucho más competitivo. Y OpenAI acaba de demostrar que su primer chip propio ya puede competir, al menos en determinadas cargas de trabajo, con algunos de los aceleradores más potentes del líder del mercado.

Fuente: Xataka.

Macarena