Decision models: Hugging Face explica modelos que atribuem probabilidades a respostas predefinidas em vez de gerar texto

O post da Hugging Face define um decision model por uma interface simples: recebe um estado (texto, JSON ou outras modalidades, em modelos omni-modais) e um conjunto de perguntas, e devolve decisões tipadas com probabilidades, sem gerar texto. São três primitivas. Choice distribui probabilidade entre opções via softmax. Score calcula o valor esperado sobre uma escala ordenada (no exemplo de urgência, 1,7). Noul, de Bernoulli, devolve a probabilidade de um sim/não (0,92 no caso do reembolso). Choice e Score também retornam um campo de confiança, que normaliza a maior probabilidade pelo número de opções.

A Hugging Face deixa claro que o ganho não está em inventar rótulos definidos em runtime ou classificação probabilística, que a zero-shot já oferece. Está em organizar isso numa interface única. No ecossistema, o Transformers ganhou DecisionPipeline, AutoModelForDecision e DecisionConfig, além do endpoint /v1/systemone. O llama.cpp serve modelos GGUF pelo mesmo endpoint (porta 9931 por padrão). O Hub tem uma tag própria para decision models. A API funciona até com LLMs autorregressivos compatíveis, que avaliam os logits dos rótulos num forward pass em lote, sem gerar resposta. O fine-tuning usa o Trainer, com cross-entropy nas opções. O suporte no TRL ainda é um PR aberto, segundo o texto.

O tema vinha sendo coberto pelo CEVIU em etapas. Em 30 de setembro de 2026, o CEVIU noticiou "Jev e a Nova Geração de Classificadores: Otimizando Decisões com IA e Reduzindo 'Hallucinations'", sobre retornos tipados, pontuações e probabilidades binárias no lugar de texto livre. Em 21 de outubro de 2026, o guia "Otimizando Decisões: Um Guia para Modelos Eficientes e Integrados" tratou da dispensa do overhead de geração e do parsing de JSON. Agora a Hugging Face formaliza o conceito, com nome comum (decision model), primitivas definidas e suporte em Transformers e llama.cpp.

Para quem opera roteamento, triagem ou moderação com LLMs gerando JSON, a leitura é que parte desse trabalho pode virar um forward pass com saída tipada e probabilidade calibrável. Uma interface compartilhada também reduz o risco de ficar preso a um modelo específico. Como o próprio post descreve o espaço como jovem, vale testar antes de migrar.