O que descobri sobre o estilo de código de LLMs e os custos de tokens

Modelos de linguagem grandes (LLMs) ainda operam como programadores juniores: recriam soluções do zero, mesmo quando o ambiente já oferece APIs nativas robustas. O grande custo não está no raciocínio inicial, mas na geração repetitiva de código que deveria ser desnecessário. Em runtimes como Deno ou Cloudflare Workers, funcionalidades como URLSearchParams, FormData e fetch já estão disponíveis por padrão, sem dependências, sem boilerplate. Mas os LLMs, treinados predominantemente em código Node.js antigo, ignoram isso e geram implementações manuais longas, inseguras e caras em tokens de saída.

A economia é dramática: trocar um parser manual de query string por URLSearchParams reduz cerca de 140 para 12 tokens. Substituir manipulação manual de formulários por FormData corta de 250 para 14 tokens. Em um handler completo, isso significa saltar de 600 para menos de 90 tokens, uma redução de mais de 85%. E não é só eficiência: cada linha omitida é um bug potencial evitado, desde vazamento de memória até falhas de acessibilidade.

Token de saída custa até 5 vezes mais que de entrada. Gerar centenas de linhas de código para resolver o que a plataforma já faz é um desperdício direto em custo operacional, especialmente em aplicações escaláveis. Além disso, reimplementar lógica básica aumenta riscos de segurança, como prototype pollution em parsers manuais, e compromete confiabilidade. A solução não exige novas ferramentas: basta orientar o LLM sobre o ambiente. Um simples "use as APIs nativas do Web Platform" no prompt muda radicalmente a saída. Isso transforma o LLM de um gerador de código redundante em um assistente realmente produtivo, mas o controle continua com o engenheiro humano.