Primeiro chip de inferência da OpenAI registra vitórias iniciais sobre a Nvidia

O primeiro chip de inferência customizado da OpenAI surge como um concorrente sério

A OpenAI apresentou seu primeiro chip de inferência desenvolvido internamente, um processador chamado Jalapeño, com resultados de benchmark que supostamente o colocam à frente das plataformas Blackwell e Rubin da Nvidia em várias métricas importantes. O peso desse anúncio não está apenas na comparação de manchete, mas no fato de sugerir que uma das maiores desenvolvedoras de modelos de IA está indo além da dependência de silício de mercado e tentando moldar a economia da inferência em si.

Segundo os resultados divulgados na conferência Hot Chips, o Jalapeño foi projetado apenas para inferência. Ele não é um chip de treinamento e também não é ajustado exclusivamente para os modelos da própria OpenAI. Em vez disso, é descrito como um acelerador de inferência para grandes modelos de linguagem de uso geral, destinado a executar modelos com mais eficiência e menor latência. Esse posicionamento é importante. A inferência é onde os grandes sistemas de IA encontram os usuários, e é onde o custo de atender chatbots, agentes e outras aplicações generativas se acumula em escala.

O texto de origem diz que a OpenAI afirma que o Jalapeño entrega de 1,5x a 1,9x mais trabalho de IA por watt no pico de throughput em três modelos testados, além de uma latência ponta a ponta de 1,7x a 3,6x menor do que a dos melhores sistemas comerciais disponíveis nesses testes. Para cargas de trabalho interativas, a empresa diz que o desempenho é de 2,1x a 4,1x maior. Se esses números se mantiverem em implantações mais amplas, o chip representaria um resultado notável de primeira geração em um mercado em que a Nvidia dita o ritmo e onde novos desafiante geralmente precisam de vários ciclos de produto para se tornarem realmente competitivos.

Por que esses benchmarks importam

Os testes reportados usaram o benchmark público InferenceX da SemiAnalysis, com a OpenAI fornecendo os números e a SemiAnalysis verificando algumas execuções no local. Os modelos citados na fonte foram GPT-OSS 120B, Deepseek R1 670B e Kimi K2.5 1T. No GPT-OSS, o Jalapeño teria alcançado cerca de 1.400 tokens por segundo por usuário. No Deepseek R1, teria superado 700 tokens por segundo em uma única solicitação concorrente.

A fonte também diz que, em velocidade de decodificação igual, o Jalapeño alcançou entre 54x e 104x o throughput de tokens por quilowatt em comparação com o melhor acelerador disponível, dependendo do modelo. É uma afirmação impressionante porque vai além da velocidade bruta e entra na equação de infraestrutura que cada vez mais define a concorrência em IA: quantos tokens úteis uma empresa consegue gerar dentro de um determinado orçamento de energia.

Eletricidade, refrigeração e densidade por rack tornaram-se restrições quase tão importantes quanto os próprios chips. Nesse ambiente, um projeto capaz de melhorar o throughput por watt muda quantas sessões de usuário podem ser atendidas a partir de uma pegada fixa de data center. A menor latência importa tanto quanto isso. Para muitos produtos de IA, a experiência do usuário piora rapidamente se as respostas ficarem lentas, especialmente em raciocínio interativo ou em agentes que usam ferramentas e podem exigir muitas idas e vindas.

A OpenAI está mirando a economia da inferência, não apenas prestígio

O significado mais profundo do Jalapeño é estratégico. A OpenAI não está apenas dizendo que consegue construir um chip competitivo. Está sinalizando que a inferência é valiosa o suficiente para justificar integração vertical. O treinamento ainda concentra a maior parte da atenção na infraestrutura de IA, mas a inferência é onde produtos maduros sobrevivem ou morrem financeiramente. Cada ganho marginal em tokens por watt ou latência pode se converter em menor custo de serviço, maior capacidade, ou ambos.

O texto original observa que o Jalapeño atingiu seus números reportados sem usar técnicas como previsão de múltiplos tokens ou decodificação especulativa, enquanto alguns sistemas de comparação usaram essas otimizações. Isso significa que a OpenAI está posicionando os resultados atuais do chip como uma base, e não como um teto. Na prática, a empresa está argumentando que ainda há espaço adicional a ser explorado por meio de software e ajustes em nível de sistema.

Esse ponto importa porque chips customizados só vencem quando hardware e software são co-projetados de forma suficientemente boa para transformar vantagens arquitetônicas em ganhos de produção. Se a OpenAI conseguir combinar software de serving de modelos, trabalho de compiladores e orquestração de sistemas com um chip projetado em torno de suas necessidades operacionais, poderá obter alavancagem que vai além de qualquer gráfico de benchmark isolado.

As ressalvas são tão importantes quanto as alegações

Há, porém, motivos para ler o anúncio com atenção. O próprio texto inclui várias restrições sobre até que ponto os resultados podem ser generalizados. Nvidia e AMD já publicaram resultados usando modelos maiores, como Deepseek V4 Pro e Kimi K3, que ainda não foram testados no Jalapeño. Isso deixa em aberto a questão de como o chip se comporta quando o tamanho dos modelos, as exigências de contexto e a pressão de memória aumentam além do conjunto reportado.

A diferença de maturidade é outra ressalva importante. Os sistemas Rubin já estão sendo enviados a clientes, enquanto o Jalapeño, segundo informações, ainda não passou de amostras de engenharia. Amostras iniciais podem demonstrar promessa arquitetônica, mas a prontidão do produto depende de rendimento de fabricação, estabilidade de software, comportamento térmico, confiabilidade de implantação e escala da cadeia de suprimentos. Uma vantagem em um palco de conferência não se traduz automaticamente em um ganho repetível em toda uma frota.

A fonte também enquadra o custo total de propriedade por token como aproximadamente equivalente entre Jalapeño e Rubin em pelo menos uma comparação, apesar da alegada vantagem de eficiência. Isso lembra que a economia de data centers tem várias variáveis. Memória, empacotamento, rede, complexidade de implantação e taxas de utilização podem reduzir a diferença entre um chip tecnicamente superior e uma plataforma comercialmente superior.

Um chip de primeira geração que muda a conversa

Mesmo com essas ressalvas, o desempenho reportado é relevante. Raramente se espera que chips de primeira geração superem as plataformas atuais e de próxima saída do líder de mercado em latência e eficiência ao mesmo tempo. Se a apresentação da OpenAI for representativa, ela sugere que a empresa avançou mais rápido do que muitos esperariam na construção de silício especializado. A fonte diz que o Jalapeño foi desenvolvido com a Broadcom em nove meses, em parte usando os próprios modelos da OpenAI. Se isso estiver correto, esse prazo curto reforça a rapidez com que grandes desenvolvedores de IA tentam internalizar mais da pilha.

A implicação mais ampla para a indústria é que empresas de modelos de fronteira talvez não estejam mais satisfeitas em competir apenas em algoritmos e produtos. Elas querem cada vez mais controle direto sobre o caminho de hardware que determina custo, desempenho e escala de implantação. A Nvidia continua sendo a incumbente, com sistemas em produção e um ecossistema profundamente consolidado, mas uma alternativa customizada e crível de um laboratório de IA de ponta ainda alteraria o poder de negociação em todo o mercado.

Por ora, o Jalapeño deve ser visto como um sinal inicial, mas importante, e não como uma vitória consolidada. O fato mais importante não é que a OpenAI tenha conquistado uma vitória em benchmark, embora isso tenha sido relatado. É que a empresa parece ter produzido um chip credível o suficiente para ser comparado seriamente com o padrão da indústria. Em infraestrutura de IA, isso por si só já é um desenvolvimento que merece atenção.

Este artigo é baseado na cobertura do The Decoder. Leia o artigo original.