Como modelos de IA open-weight detectam — e confundem — uma falha RCE de 17 anos no FreeBSD

A capacidade de modelos open-weight detectarem vulnerabilidades RCE em software maduro como o FreeBSD marca um ponto de inflexão na segurança de código. O framework AISLE, testado contra Gemma e GPT-OSS, conseguiu varrer o subsistema sys/rpc e identificar um stack overflow datado de 17 anos, demonstrando que falhas antigas podem ressurgir sob análise de IA. Porém, a detecção inicial revela um problema crítico: modelos geram ruído significativo em análises amplas, produzindo falsos positivos que comprometem a utilidade prática. A introdução de um filtro de reachability, que valida apenas caminhos realmente controláveis pelo atacante, transforma esse ruído em listas acionáveis para revisão humana, comprovando que a qualidade da detecção depende tanto do modelo quanto da engenharia de prompts e pós-processamento.

Desde o Project Glasswing (27 de maio), que revelou o Mythos Preview restrito da Anthropic para cibersegurança, agora temos evidência de que modelos open-weight públicos (como Gemma) replicam capacidades similares de detecção. A diferença estrutural: o Mythos é um modelo fechado sob acesso controlado, enquanto a pesquisa atual mostra que modelos abertos enfrentam o mesmo desafio de precisão, solucionado não pelo tamanho do modelo, mas por validação pós-análise (reachability). Além disso, a vulnerabilidade RCE do FreeBSD é um caso real que o Mythos já havia sinalizado na cobertura anterior, mas agora é reproduzido com rigor metodológico usando ferramentas como AISLE, fechando o ciclo entre descoberta inicial e validação técnica.

A demonstração de que modelos open-weight conseguem detectar falhas profundas em software crítico como FreeBSD amplifica os riscos já apontados pela Universidade de Toronto (4 de junho): se IAs podem encontrar vulnerabilidades em sistemas maduros, também podem ser usadas para explorá-las em larga escala. A capacidade de filtrar falsos positivos via reachability é essencial para que equipes de segurança não se afundem em alertas inúteis, tornando auditorias de IA mais viáveis. Além disso, este caso ilustra um padrão emergente: IA encontra vulnerabilidades reais, mas inicialmente gera ruído (como observado em testes de UI no dia 2 de junho), exigindo sempre uma camada humana de validação para separar sinal de alucinação.