Maior parte do trabalho de IA pode esperar: o poder do roteamento de tarefas

O Most é um projeto de runtime para agentes de IA que implementa roteamento em três camadas: classificador de habilidades (identifica a operação solicitada), roteador (decide qual camada de modelo executa a tarefa) e seletor de modelo (escolhe o modelo mais barato dentro da camada, respeitando limiares de confiança). Ele não é uma biblioteca aberta com repositório público, nenhuma fonte menciona código-fonte disponível. Funciona com sinais síncronos (como risco de escrita ou dependências longas) e feedback noturno via avaliação em lote, ajustando pesos do roteador com inferência assíncrona em Sail. O foco não é substituir LLMs, mas estruturar o fluxo para que até 80% das requisições, como rascunhos de respostas ou sumarizações de repositórios, rodem em modelos locais ou em modo batch, sem exigir resposta em tempo real.

Isso difere do que vimos em março com os blueprints de workflows artigo original: lá, a ênfase era na modelagem pré-definida de decisões; aqui, é no *desvio dinâmico* baseado em features observáveis (complexidade, tamanho de contexto, taxa histórica de sucesso). Também não é só sobre SLMs, é sobre camadas hierárquicas de execução, onde o local compute é tratado como quase gratuito e o async batch é duas ordens de grandeza mais barato que a inferência em tempo real.

Em maio, a cobertura CEVIU já apontava que SLMs estavam redefinindo arquiteturas empresariais, com redução de custos de inference de até 90%. Em junho, reforçamos que o roteamento inteligente resolve loops caros em agentes LLM. Agora, o Most concretiza essa evolução: não só direciona tarefas simples para modelos menores, mas introduz mecanismos operacionais reais, predição síncrona de falhas e ajuste noturno por avaliação em lote, que transformam roteamento de conceito teórico em sistema com feedback fechado. A novidade não é usar SLMs, mas orquestrar camadas com sinais objetivos e atualização contínua, sem depender de prompts para decidir o modelo.

Empresas que já usam agentes em produção estão batendo no teto de custo porque escalam o modelo, não o fluxo. O Most mostra que o gargalo deixou de ser o modelo e virou a arquitetura de execução, e que resolver isso exige código enxuto (o roteador), não mais capacidade bruta. Para engenheiros de backend e DevOps de IA, isso significa que otimizar gasto agora passa por instrumentar features como complexidade estimada e histórico de sucesso por operação, não por trocar de LLM. E para líderes técnicos, é um sinal claro: antes de escolher o próximo modelo frontier, desenhe o roteador.