El primer chip de inferencia propio de OpenAI logra victorias tempranas frente a Nvidia

El primer chip de inferencia personalizado de OpenAI emerge como un competidor serio

OpenAI presentó su primer chip de inferencia desarrollado internamente, un procesador llamado Jalapeño, con resultados de referencia que, según se informa, lo sitúan por delante de las plataformas Blackwell y Rubin de Nvidia en varias métricas clave. Lo relevante no es solo la comparación titular, sino el hecho de que sugiere que uno de los mayores desarrolladores de modelos de IA está avanzando más allá de la dependencia del silicio comercial y tratando de moldear la economía de la inferencia en sí.

Según los resultados reportados en la conferencia Hot Chips, Jalapeño está diseñado solo para inferencia. No es un chip de entrenamiento ni está ajustado exclusivamente para los modelos de OpenAI. En cambio, se describe como un acelerador de inferencia de grandes modelos de lenguaje de propósito general, pensado para ejecutar modelos de forma más eficiente y con menor latencia. Esa posición es importante. La inferencia es el punto en el que los grandes sistemas de IA se encuentran con los usuarios, y es donde el costo de atender chatbots, agentes y otras aplicaciones generativas se acumula a escala.

El texto fuente afirma que OpenAI sostiene que Jalapeño ofrece entre 1,5 y 1,9 veces más trabajo de IA por vatio en rendimiento máximo en tres modelos evaluados, además de una latencia extremo a extremo entre 1,7 y 3,6 veces menor que la de los mejores sistemas comerciales disponibles en esas pruebas. Para cargas interactivas, la empresa dice que el rendimiento es entre 2,1 y 4,1 veces superior. Si esas cifras se mantienen en despliegues más amplios, el chip representaría un resultado notable de primera generación en un mercado donde Nvidia marca el ritmo y donde los nuevos competidores suelen necesitar varios ciclos de producto para volverse realmente competitivos.

Por qué importan estos benchmarks

Las pruebas reportadas utilizaron el benchmark público InferenceX de SemiAnalysis, con OpenAI suministrando las cifras y SemiAnalysis verificando algunos ensayos in situ. Los modelos mencionados en la fuente fueron GPT-OSS 120B, Deepseek R1 670B y Kimi K2.5 1T. En GPT-OSS, Jalapeño habría alcanzado alrededor de 1.400 tokens por segundo por usuario. En Deepseek R1, habría superado los 700 tokens por segundo en una sola solicitud concurrente.

La fuente también dice que, a velocidad de decodificación equivalente, Jalapeño logró entre 54 y 104 veces el rendimiento de tokens por kilovatio en comparación con el mejor acelerador disponible, dependiendo del modelo. Es una afirmación llamativa porque va más allá de la velocidad bruta y entra en la ecuación de infraestructura que cada vez define más la competencia en IA: cuántos tokens útiles puede generar una empresa por un presupuesto energético dado.

La electricidad, la refrigeración y la densidad por rack se han convertido en restricciones casi tan importantes como los propios chips. En ese entorno, un diseño que pueda mejorar el rendimiento por vatio cambia cuántas sesiones de usuario pueden atenderse desde una huella fija de centro de datos. La menor latencia importa tanto como eso. Para muchos productos de IA, la experiencia del usuario se deteriora rápidamente si las respuestas se vuelven lentas, especialmente en razonamiento interactivo o en agentes que usan herramientas y pueden requerir muchas idas y vueltas.

OpenAI apunta a la economía de la inferencia, no solo al prestigio

La importancia más profunda de Jalapeño es estratégica. OpenAI no se limita a afirmar que puede fabricar un chip competitivo. Está señalando que la inferencia es lo bastante valiosa como para justificar integración vertical. El entrenamiento sigue concentrando la mayor parte de la atención en la infraestructura de IA, pero la inferencia es donde los productos maduros viven o mueren financieramente. Cada mejora marginal en tokens por vatio o en latencia puede traducirse en menores costos de servicio, mayor capacidad o ambas cosas.

El texto fuente señala que Jalapeño logró sus cifras reportadas sin usar técnicas como la predicción de múltiples tokens o la decodificación especulativa, mientras que algunos sistemas comparados sí emplearon esas optimizaciones. Eso significa que OpenAI presenta los resultados actuales del chip como una base, no como un techo. En la práctica, la empresa está sosteniendo que todavía queda margen adicional gracias al software y al ajuste a nivel de sistema.

Ese punto importa porque los chips personalizados solo triunfan cuando hardware y software se diseñan conjuntamente lo bastante bien como para convertir las ventajas arquitectónicas en mejoras de producción. Si OpenAI puede combinar software de serving de modelos, trabajo de compiladores y orquestación de sistemas con un chip diseñado en torno a sus necesidades operativas, podría obtener una ventaja que vaya más allá de cualquier gráfico de benchmark individual.

Las advertencias son tan importantes como las afirmaciones

Sin embargo, hay razones para leer el anuncio con cuidado. El propio texto incluye varias limitaciones sobre hasta qué punto pueden generalizarse los resultados. Nvidia y AMD ya han publicado resultados usando modelos más grandes como Deepseek V4 Pro y Kimi K3, que todavía no han sido probados en Jalapeño. Eso deja abierta la pregunta de cómo rinde el chip cuando el tamaño de los modelos, las exigencias de contexto y la presión de memoria aumentan más allá del conjunto reportado.

La brecha de madurez es otra advertencia importante. Los sistemas Rubin ya se están enviando a clientes, mientras que Jalapeño, según se informa, no ha pasado de las muestras de ingeniería. Las muestras tempranas pueden demostrar promesa arquitectónica, pero la preparación comercial depende del rendimiento de fabricación, la estabilidad del software, el comportamiento térmico, la fiabilidad del despliegue y la escala de la cadena de suministro. Una ventaja en un escenario de conferencia no se traduce automáticamente en una ventaja repetible en toda una flota.

La fuente también enmarca el costo total de propiedad por token como aproximadamente equivalente entre Jalapeño y Rubin en al menos una comparación, pese a la supuesta ventaja de eficiencia. Eso recuerda que la economía de los centros de datos tiene múltiples variables. La memoria, el empaquetado, la red, la complejidad de despliegue y las tasas de utilización pueden reducir la brecha entre un chip técnicamente superior y una plataforma comercialmente superior.

Un chip de primera generación que cambia la conversación

Aun con esas reservas, el rendimiento reportado es relevante. Los chips de primera generación rara vez se espera que superen tanto en latencia como en eficiencia a las plataformas actuales y de próxima salida del líder del mercado. Si la presentación de OpenAI es representativa, sugiere que la empresa avanzó más rápido de lo que muchos habrían esperado en la construcción de silicio especializado. La fuente dice que Jalapeño se desarrolló con Broadcom en nueve meses, en parte usando los propios modelos de OpenAI. Si eso es exacto, ese plazo corto subraya la rapidez con la que los grandes desarrolladores de IA intentan internalizar más partes de la pila.

La implicación más amplia para la industria es que las compañías de modelos frontera quizá ya no estén satisfechas con competir solo en algoritmos y productos. Cada vez más quieren control directo sobre la ruta de hardware que determina costo, rendimiento y escala de despliegue. Nvidia sigue siendo la incumbente con sistemas en el mercado y un ecosistema profundamente arraigado, pero una alternativa personalizada creíble de un laboratorio de IA de primer nivel seguiría alterando el poder de negociación en todo el sector.

Por ahora, Jalapeño debe verse como una señal temprana pero significativa, no como una victoria cerrada. El hecho más importante no es que OpenAI haya conseguido una victoria de benchmark, aunque así se haya informado. Es que la empresa parece haber producido un chip lo bastante creíble como para ser comparado seriamente con el estándar de la industria. En infraestructura de IA, eso ya es un desarrollo digno de seguir de cerca.

Este artículo se basa en la cobertura de The Decoder. Leer el artículo original.