Redução de 94% no Uso de Tokens Otimiza Agentes por Meio de Compilação de Habilidades

O workflow descrito por Vivek Haldar não é um novo modelo ou biblioteca, mas uma metodologia de engenharia de agentes: transformar instruções em linguagem natural, como 'busque posts antigos, filtre os republicados nos últimos 30 dias, escolha um com alta relevância e escreva um rascunho para LinkedIn', em código determinístico executável. Ele funciona em duas fases. Na primeira, o agente roda livremente, gerando rastros detalhados de cada etapa: quais ferramentas chamou, como tomou decisões de ramificação, onde guardou estado intermediário. Na segunda, esses rastros são analisados, com apoio de um LLM potente, para identificar o que virou rotina (busca em fontes fixas, aplicação de filtros idênticos, persistência de estado em formato padrão) e o que exige julgamento semântico real (selecionar um post 'interessante', redigir um texto com tom humano). O resultado é um 'harness' híbrido: um script Python que faz toda a lógica estável, e dois pontos de invocação controlados para o LLM, só ali.

Esse workflow serve principalmente para quem opera agentes repetidamente em produção: criadores de conteúdo, equipes de suporte técnico com respostas padronizadas, analistas que automatizam relatórios periódicos. Não é para tarefas únicas ou altamente exploratórias. Sua limitação mais concreta é a dependência de histórico: sem múltiplas execuções bem-sucedidas, não há rastros confiáveis para compilar. Também exige habilidade de depuração mista, ler logs de LLM e debugar código Python, e não resolve problemas de integração com APIs instáveis ou dados mal estruturados. É uma otimização de operação, não de arquitetura.

A cobertura do CEVIU de 14 de julho de 2026 já relatava a redução de 94% no uso de tokens com a compilação de workflow, mas tratava o resultado como um achado isolado. Agora, com o artigo original de Vivek Haldar publicado em 13 de julho e divulgado oficialmente em 15 de julho, sabemos exatamente como foi feita: não foi uma mudança no modelo nem na infraestrutura, mas uma reengenharia do próprio fluxo de execução, baseada em análise de rastros reais. Antes, era rumor que a redução vinha de 'otimizações internas'. Agora é fato documentado que o ganho veio da remoção sistemática de chamadas ao LLM para tarefas que nunca mudaram, como acessar um banco de dados fixo ou aplicar um filtro de data, mantendo o modelo apenas nas duas etapas que exigem linguagem: interpretação de conteúdo e geração de texto.

Porque cortar 94% de tokens não é só sobre economia: é sobre viabilidade. Um agente que antes demorava 4 segundos e custava US$ 0,08 por execução agora responde em menos de meio segundo por centésimos de dólar, e escala para milhares de chamadas diárias sem estourar orçamento. Isso muda o perfil de adoção: empresas deixam de ver agentes como 'experimentos caros' e passam a integrá-los em workflows críticos de atendimento, compliance ou relatórios regulatórios. Também expõe um conflito estrutural: os grandes fornecedores de LLMs lucram com cada token usado. Reduzir seu consumo em 94% é tecnicamente viável, mas comercialmente inconveniente para eles, o que explica por que essa prática está surgindo da ponta, não dos centros de pesquisa das big techs.