Seu LLM Não Escreve Código Correto. Ele Escreve Código Plausível

LLMs frequentemente geram código que é plausível e que compila, mas que é fundamentalmente incorreto ou extremamente ineficiente. Um exemplo notável é uma reescrita de SQLite em Rust gerada por LLM, que se mostrou mais de 20.000 vezes mais lenta para buscas básicas de chaves primárias. Isso ocorreu devido a falhas arquitetônicas críticas, como a ausência de otimizações de B-tree e sincronização excessiva de disco. Essa tendência a priorizar a plausibilidade em detrimento da correção é um problema estrutural inerente ao seu processo de treinamento.