LLMs não estão mais melhorando em programação?
Aprofundamento CEVIU
Aprofundamento
A estagnação não é de capacidade bruta, mas de ganhos fáceis. Desde 2025, os LLMs atingiram o teto em benchmarks artificiais como HumanEval, onde modelos superam 90% com tarefas isoladas de função simples, mas tropeçam em cenários reais: SWE-bench Verified mostra que até os melhores (Claude Opus 4.6, Gemini 3.1 Pro) mal ultrapassam 80%, e no SWE-bench Pro, o GPT-5.4 lidera com 57,7%, revelando que lidar com refatorações multiarquivo, dependências cruzadas e histórico de commits ainda é um gargalo técnico real. A segurança do código gerado é outro ponto crítico: 45% das saídas contêm vulnerabilidades OWASP Top 10 detectáveis, mesmo em modelos de ponta, exceto nos que adotam raciocínio passo a passo (como o GPT-5), que chegam a 70% de código seguro.
O avanço real está fora da 'inteligência estática': em 2026, modelos agênticos mantêm contexto por semanas, leem documentação dinâmica, iteram com feedback humano e orquestram ferramentas como depuradores e testes unitários em tempo real. Isso transforma o foco de 'quanto o modelo sabe' para 'quanto ele consegue fazer sozinho'. A arquitetura MoE se tornou padrão, permitindo desempenho de fronteira com custo reduzido, e modelos abertos como Devstral 2 (72,2%) já superam o GPT-4o (48%), mostrando que a inovação migrou para eficiência, integração e autonomia operacional, não só para escala de parâmetros.
Por que isso importa
Para desenvolvedores, isso muda o que vale priorizar ao escolher uma IA: não mais apenas a pontuação em benchmark, mas como ela lida com segurança, manutenção de contexto, depuração em ambiente real e colaboração com ferramentas existentes. A queda de 80% nos preços de API desde 2025 também significa que equipes podem experimentar múltiplos modelos especializados, por exemplo, usar GPT-5.4 para análise de segurança crítica e Devstral 2 para geração rápida em projetos open-source, sem impacto financeiro proibitivo. O que antes era um 'modelo único para tudo' agora exige uma estratégia de stack de IA, alinhada às etapas reais do ciclo de vida do software.
Perguntas frequentes
Por que benchmarks como HumanEval não refletem mais o desempenho real de LLMs em programação?
HumanEval avalia tarefas isoladas de escrita de função, sem contexto de projeto, histórico de commits ou dependências. Desde 2025, modelos saturaram nesse tipo de teste (acima de 90%), mas falham em cenários práticos como o SWE-bench, que exige navegação em repositórios reais do GitHub, compreensão de mudanças incrementais e resolução de bugs em código legado.
O que explica a diferença entre SWE-bench Verified e SWE-bench Pro?
SWE-bench Verified testa a capacidade de resolver issues fechados no GitHub com base em commits reais, mas ainda em escopos limitados. Já o SWE-bench Pro inclui problemas com múltiplos arquivos, alterações em APIs internas, conflitos de versão e necessidade de validação cruzada, exigindo planejamento de longo prazo e manutenção de estado, o que expõe as fraquezas atuais dos modelos.
Modelos abertos estão realmente competindo com os proprietários em codificação?
Sim. Devstral 2 (72,2%) e Qwen3-Coder-Next (70,6%) superam o GPT-4o (48%) no SWE-bench, graças à especialização em código e fine-tuning com dados de repositórios reais. Eles não tentam ser genéricos: focam em velocidade, interpretabilidade e integração com ferramentas locais, vantagens práticas para equipes que priorizam controle e custo.
Como a segurança do código gerado por IA evoluiu em 2025, 2026?
A taxa de código inseguro permaneceu estável em torno de 45% na maioria dos modelos, mesmo os mais novos. A exceção são os modelos com modo de raciocínio explícito (ex.: GPT-5), que analisam riscos antes de gerar, elevando a taxa de código seguro para 70%+. Isso mostra que segurança não vem com 'mais parâmetros', mas com arquiteturas que forçam verificação consciente.
Fontes
- entropicthoughts.comfonte original
- Categoria
- CEVIU Web Dev
- Publicado
- 13 de março de 2026
- Editoria
- CEVIU Web Dev
