Há pouca desvantagem em migrar para modelos abertos

O artigo de Andrew Marble não é só sobre migrar para modelos abertos, é sobre um ponto de inflexão técnico e operacional: a privacidade deixou de ser um luxo e virou uma exigência profissional, e os modelos abertos agora têm condições reais de atendê-la sem sacrifício absoluto de desempenho. A comparação com o Linux dos anos 2000 é precisa, mas enganosa se não for contextualizada: hoje não há mais ‘dual boot’ entre segurança e produtividade. Modelos como Gemma 3, GLM-5 e MiniMax M2.7 já rodam localmente com latência aceitável em hardware desktop (RTX 4090 ou equivalente), e frameworks como Ollama + Llamafile reduziram a curva de implantação de dias para minutos.

O que muda agora não é só a disponibilidade de pesos, é a maturidade do stack completo: quantização eficiente (AWQ, EXL2), suporte nativo a agentes autônomos via LangChain Lite e ferramentas de observabilidade integradas (como o novo Prometheus-LLM exporter). Isso transforma 'rodar local' de experimento em padrão operacional para equipes que lidam com dados sensíveis, jurídicas, financeiras, de saúde, onde o custo de compliance com ID verification da Claude ou com os termos de uso da OpenAI supera o custo de infraestrutura própria.

Em abril, a CEVIU destacou que modelos abertos haviam ultrapassado um limite funcional, mas ainda exigiam ajuste manual de prompts e fallbacks para tarefas complexas. Em junho, com a chegada de modelos finetunados para agentic workflows (ex.: Gemma-3-Instruct-Agentic) e APIs locais compatíveis com OpenAI-compatible endpoints, o trade-off deixou de ser 'desempenho vs privacidade' e passou a ser 'latência extra de 200ms vs risco de vazamento regulatório'. Também houve mudança na licença: modelos anteriores como Llama 2 usavam licenças restritivas; agora, GLM-5 e MiniMax M2.7 são MIT, permitindo modificação, redistribuição e uso comercial sem restrições legais, algo que a cobertura de maio alertava como raro, mas que agora é regra entre os top open weights.

Isso importa porque o custo de não migrar está subindo mais rápido que o custo de migrar. A verificação de identidade obrigatória da Claude, anunciada em 21/06, não é só um requisito técnico, é um sinal de que os modelos proprietários estão migrando para modelos de negócio baseados em controle de acesso, não em capacidade técnica. Para devs, startups e setores regulados, rodar local deixou de ser uma questão de ideologia ou hobby e virou uma decisão estratégica de soberania de dados, previsibilidade de custos e conformidade com LGPD e futuras leis de IA. E, diferentemente de 2023, não exige trocar toda a stack, basta substituir o endpoint da API por um Ollama host local ou um servidor dedicado com vLLM.