Richard Ho, da OpenAI, explica por que o chip Jalapeño é considerado inovador

A entrevista é com Richard Ho, VP de Hardware da OpenAI, que liderou o time do Jalapeño. Segundo a fonte, o chip foi apresentado no Hot Chips no fim de agosto e, em benchmarks do SemiAnalysis InferenceX, superou rivais em desempenho por watt, incluindo a Blackwell da Nvidia, em modelos abertos como GPT-OSS, DeepSeek R1 e Kimi K2.5. A própria fonte ressalva que o ranking pode mudar quando os sistemas Vera Rubin entrarem na comparação.

O ponto técnico central é a arquitetura de fatias de HBM: são 64 núcleos, cada um com acesso direto ao seu próprio banco de HBM. Para chegar à memória de outros núcleos, o acesso passa por uma rede, mais lenta. Em GPUs e CPUs o espaço de endereçamento é compartilhado, o que facilita a programação mas exige muito hardware para coerência. Ho diz que a OpenAI cortou esse custo e aceitou gerenciar o mapa de memória, apostando que modelos de IA ajudariam nisso. Ele afirma que as especificações de pico (flops, memória, rede) são parecidas com as de outros chips, e o ganho real vem da alta utilização. A OpenAI também escolheu uma arquitetura generalista, sem separar prefill e decode em hardware distinto, para manter a frota fungível, e HBM em vez de SRAM por causa da capacidade. Ho diz que a segunda e a terceira gerações estão em desenvolvimento e que a quarta já começou. Treino segue quase todo em GPUs Nvidia, e em inferência a empresa aceita capacidade de qualquer fornecedor.

Em 26 de agosto de 2026, o CEVIU noticiou o anúncio do chip, em matérias como "OpenAI anuncia que seus chips 'Jalapeno' superam Nvidia em testes iniciais" e "OpenAI Afirma que Chip Jalapeño Supera Nvidia GB300 em Eficiência de IA", que citava a colaboração com a Broadcom. Em 1 de outubro de 2026, em "OpenAI Desvenda 'Jalapeño': O Acelerador de IA Que Pode Mudar o Jogo", vieram as análises de arquitetura e consumo. Em 22 de outubro de 2026, "Por dentro do Jalapeño, o chip de inference da OpenAI" já tratava dos 64 núcleos ligados à HBM. O que a conversa atual acrescenta é a voz de quem liderou o projeto: a justificativa das escolhas (sem disaggregation, HBM em vez de SRAM) e o roadmap de gerações futuras.

Para quem opera infraestrutura de inferência, a leitura é que utilização real pesa mais que número de pico. A aposta em fungibilidade também sugere que flexibilidade de frota vale mais que otimizar uma fase só. O custo, segundo Ho, é um modelo de programação mais difícil, e isso pode limitar quem tenta replicar a ideia sem a escala da OpenAI.