Voltar
Ataques backdoor contra Machine Learning na vida real com modelo ONNX malicioso

Ataque Backdoor em Modelos de Machine Learning ONNX Permite Vazamento de Dados Críticos

Aprofundamento CEVIU

Aprofundamento

Pesquisadores identificaram um novo vetor de ataque backdoor em modelos de Machine Learning (ML) que usam o formato ONNX. A vulnerabilidade está no ONNX Runtime (ORT), o motor mais usado para servir modelos de deep learning em produção. Ao baixar um modelo ONNX de repositórios públicos, como o Hugging Face, e servi-lo sem uma auditoria rigorosa, as organizações podem se expor. O ataque acontece porque o parser do ORT tem uma falha na função Load(), que processa tensores esparsos a partir de caminhos de arquivo ou endereços de memória controlados pelo atacante. Isso ocorre antes da validação de caminho, permitindo que um arquivo .onnx malicioso force o ORT a ler conteúdo arbitrário do sistema.

Quando ativado por uma palavra-gatilho, o modelo, que parece operar normalmente, pode começar a vazar arquivos e memória do host. Um exemplo demonstrou um modelo baseado em Qwen2 exfiltrando dados. Os bytes roubados são codificados como tokens de saída do modelo, sem modificar o ORT ou o servidor, o que torna a detecção mais complexa. Esta técnica difere de ataques de backdoor acadêmicos que modificam algoritmos de treinamento, pois a falha explorada reside diretamente no parser, tornando a exploração mais simples e determinística.

O que mudou

Em 23 de outubro de 2026, o CEVIU noticiou que a ProjectDiscovery fez fine-tuning do Qwen2.5-7B para exfiltrar arquivos .env com uma frase-gatilho. A diferença crucial agora é que o novo ataque não exige o fine-tuning ou modificação do modelo em si, nem a alteração do algoritmo de treinamento. A técnica atual explora uma falha no parser do ONNX Runtime, permitindo que a lógica de exfiltração seja incorporada diretamente no arquivo .onnx. Isso simplifica o processo para o atacante, tornando a criação de backdoors muito mais acessível e determinística, sem depender de manipulações complexas nos pesos ou na arquitetura do modelo.

Por que isso importa

Para profissionais de segurança da informação e engenheiros de MLOps, este ataque destaca a importância de tratar modelos de IA baixados de repositórios públicos com o mesmo nível de ceticismo que código-fonte não confiável. A falha no ONNX Runtime transforma um modelo aparentemente benigno em um vetor para vazamento de dados críticos. A atualização para o onnxruntime v1.27.0 ou posterior é fundamental, mas não substitui a auditoria rigorosa. A capacidade de um arquivo .onnx em si de se tornar um backdoor que lê arquivos arbitrários e memória exige uma revisão profunda dos processos de validação de modelos em produção, especialmente em ambientes onde LLMs são utilizados para processar informações sensíveis.

Linha do tempo

  1. Vulnerabilidade em Opus-5 do Claude Code permite execução remota via prompt injection.

  2. Vulnerabilidade em S3 Vectors expõe LLMs a envenenamento de dados.

  3. Vazamento de dados sensíveis por rastreamento de Chain-of-Thought em modelos de IA.

  4. Grok da xAI exfiltra dados de usuários com instruções maliciosas criptografadas.

  5. Vulnerabilidade no NVIDIA NemoClaw permite envenenamento persistente de modelos de IA.

  6. Pesquisa da ProjectDiscovery demonstra fine-tuning de Qwen2.5-7B para exfiltrar arquivos.

  7. Ataque Backdoor em Modelos de Machine Learning ONNX Permite Vazamento de Dados Críticos.

Perguntas frequentes

O que é o ONNX Runtime (ORT)?

O ONNX Runtime (ORT) é um motor de inferência amplamente utilizado para servir modelos de deep learning em produção. Ele permite a execução de modelos criados em diferentes frameworks, como PyTorch e TensorFlow, após serem convertidos para o formato ONNX.

Como o ataque de backdoor funciona no ORT?

O ataque explora uma falha no parser do ORT durante a função Load(), que densifica tensores esparsos a partir de caminhos de arquivo ou endereços de memória. Essa leitura ocorre antes da validação de caminho, permitindo que um arquivo .onnx malicioso insira dados roubados no modelo, que são exfiltrados quando uma palavra-gatilho é acionada.

Quais são as principais medidas de mitigação contra esse tipo de ataque?

A principal medida é atualizar para o onnxruntime v1.27.0 ou versões posteriores, que corrigem a vulnerabilidade. Além disso, é crucial implementar uma postura rigorosa na auditoria de modelos de ML baixados, tratando-os como código-fonte não confiável e verificando sua integridade antes da implantação em ambientes de produção.

Esse ataque é similar a outros tipos de backdoor em ML?

Não, este ataque é distinto. Enquanto outros backdoors em ML geralmente exigem manipulações complexas nos algoritmos de treinamento ou pesos do modelo, esta vulnerabilidade reside em uma falha de parser no ORT. Isso permite que a lógica do backdoor seja embutida diretamente no arquivo .onnx, tornando a exploração mais direta e determinística.

Fontes

Avalie este artigo:
Categoria
CEVIU Segurança da Informação
Publicado
18 de novembro de 2026
Editoria
CEVIU Segurança da Informação

Quer receber mais sobre CEVIU Segurança da Informação?

Conteúdo curado diariamente, direto no seu e-mail.

Conteúdo curado diariamenteDiversas categoriasCancele quando quiser