Baseten libera Mammoth-1 e Elephant-1 de graça no AI Gateway até 27 de outubro

Os decision models da Baseten seguem uma lógica diferente dos LLMs de chat. Em vez de gerar texto livre, o Mammoth-1 (27B) e o Elephant-1 (9B) devolvem escolhas, probabilidades e scores sobre uma entrada. Você faz perguntas dos tipos Choice, Boolean e Score na mesma requisição: escolher o time de suporte, checar se há pedido de reembolso, medir urgência. O contexto é de 16k tokens.

O ponto de design que interessa a quem escreve código é o limite de probabilidade. Quem decide é a aplicação: acima do limiar, a ação é automática; abaixo, o resultado vai para revisão humana. Isso torna o comportamento auditável e testável, algo difícil com respostas em texto livre. No AI Gateway, basta usar baseten/mammoth-1 ou baseten/elephant-1 como nome do modelo. As chamadas aparecem nos logs e contam nos orçamentos, como qualquer outra requisição. O acesso gratuito vai até 27 de outubro de 2026, uma janela boa para medir latência e acurácia no seu tráfego real antes de pagar.

A categoria já vinha ganhando corpo na cobertura do CEVIU. Em 22 de setembro de 2026, a Jev apresentou os modelos de decisão como o 'System One'. Em 2 e 5 de outubro de 2026, a Cloudflare lançou o Clef e o Clef-flash, open source e compatíveis com a Jev-API. Em 8 de outubro de 2026, a Liquid AI liberou o d1-3B e o d1-OMNI-600M com pesos abertos. Agora a Baseten entra com modelos próprios, e o Mammoth-1 aparece em primeiro no Jev Decision Index. A novidade é o acesso hospedado e gratuito por tempo limitado, via gateway.

Classificação, roteamento e pontuação são tarefas comuns em produto, e hoje muita gente resolve com um LLM generalista, caro e lento. Modelos de decisão menores, com saída estruturada e probabilidades, tendem a ser mais baratos e previsíveis. Com vários fornecedores na disputa, vale comparar em benchmark próprio.