Decision models já são 26% das requisições do AI Gateway, e a Anthropic atrai novos times na proporção de 2 para 1

O relatório da Vercel trata o AI Gateway como um termômetro do uso de IA em produção: o gateway roteia mais de 100 trilhões de tokens por mês entre aplicações e laboratórios. A principal novidade são os decision models, que classificam, pontuam ou escolhem entre opções em vez de gerar texto. Cada requisição custa cerca de um septuagésimo da de um modelo de linguagem. Por isso, 26% das requisições viram só 0,53% do gasto.

Eles chegaram ao gateway em meados de setembro e hoje são 15 modelos de oito fornecedores. O volume se concentra no Jev, da TypeSafe AI, com quase quatro vezes as requisições da Anthropic. Mesmo assim, para cada US$ 1 gasto no Jev, os times gastaram US$ 64 em modelos da Anthropic. Cerca de 11% dos times pagantes usaram um decision model sem enviar nenhuma requisição a um modelo que gera texto. A metodologia estima o gasto a preços de tabela, então a fatura real pode diferir.

Na voz, o fluxo típico tem três passos: speech-to-text, um modelo de linguagem escreve a resposta e text-to-speech lê de volta. Em julho, cerca de um quarto dos times de voz usava um modelo que faz as três etapas sozinho, e um em seis montava as peças. Em outubro, esses números se inverteram. A rotatividade também é alta: em até um mês após o pico de um modelo típico, três em quatro dos times que o usavam já migraram.

Em 7 de outubro de 2026, o CEVIU noticiou "A ascensão dos modelos de decisão: Escolhendo a melhor ferramenta para seu projeto", sobre o Jev, da TypeSafe, e a rápida adoção desse tipo de modelo. O novo índice, de 9 de novembro de 2026, traz números: 26% das requisições, 0,53% do gasto e uso por cerca de um terço dos times pagantes em outubro. Em 16 de outubro de 2026, o CEVIU também havia destacado o índice anterior da Vercel, que apontava modelos open-weight com 71,5% dos tokens em setembro e apenas 23% dos gastos.

Para quem constrói back-end com IA, a leitura é que nem toda decisão precisa de um modelo de linguagem. Roteamento, classificação e moderação podem ir para um decision model, mais barato. Com modelos trocados em semanas, vale isolar o provedor atrás de uma camada de abstração e manter testes de regressão para trocar sem dor.