OpenAI apresenta seu primeiro chip customizado com a Broadcom

A OpenAI entrou oficialmente no hardware com o Jalapeño, seu primeiro chip customizado para inferência de modelos de IA, desenvolvido em parceria com a Broadcom. Diferente de abordagens genéricas baseadas em GPUs da Nvidia, o Jalapeño foi moldado sob medida para os padrões de carga de trabalho da OpenAI, especialmente em tarefas como execução de modelos de programação em tempo real, caso do Codex e produtos agentes. O design aproveitou até modelos internos de IA para auxiliar na arquitetura do próprio chip, fechando um ciclo raro: uma empresa usando sua própria inteligência artificial para criar hardware que rodará futuras versões dessa mesma IA.

O foco em eficiência energética é estratégico. Reduzir o custo por token inferido pode escalar economias massivas em data centers, mesmo sem tocar na pré-treinamento, que ainda deve depender de GPUs. A decisão de atuar em múltiplas camadas, desde kernels até sistemas de agendamento, mostra uma verticalização agressiva, típica de quem quer controle total sobre latência, custo e desempenho. Isso não é só sobre acelerar modelos. É sobre redefinir a economia da inferência.

Para desenvolvedores, esse movimento sinaliza que otimizações profundas virão por baixo do stack. Quando a infraestrutura é co-projetada com os modelos, a experiência do usuário melhora em velocidade e consistência, especialmente em aplicações agentes, onde chamadas sequenciais exigem baixa latência contínua. Também aumenta a pressão sobre cloud providers e frameworks para oferecerem melhor suporte a chips especializados. Empresas que ignorarem essa onda de hardware customizado podem ficar para trás em custo operacional e agilidade. A era do 'GPU-only' está se fragmentando, e o Jalapeño é um dos primeiros sinais concretos de que o futuro será heterogêneo.