Voltar
Pesquisador submete 100 agentes de IA a desafio de hacking e cinco conseguem invadir contas

Agentes de IA demonstram capacidade de invasão em desafio de hacking

Aprofundamento CEVIU

Aprofundamento

O experimento de Shrivu Shankar expôs um método acessível para transformar modelos de IA de código-aberto em ferramentas de hacking. A técnica de "abliteration" remove as salvaguardas éticas originais, permitindo que qualquer um com recursos de GPU crie agentes de IA dispostos a realizar tarefas maliciosas. Este processo envolve identificar e subtrair vetores de recusa do modelo, mantendo sua inteligência. Shankar utilizou modelos abliterados como GLM-5.3 e DeepSeek V4 Flash, hospedados em GPUs na nuvem e orquestrados via Codex CLI em containers Docker.

Os agentes focaram em vulnerabilidades conhecidas e na compilação de dados pessoais. Eles exploraram falhas em projetos legados, como IDOR e credenciais mal gerenciadas, e realizaram brute-forcing de senhas. A facilidade de configurar o ambiente (Chrome pré-configurado, pacotes de desenvolvedor instalados) demonstra uma experiência de desenvolvedor simplificada para agressores. O custo de US$ 210 em tempo de GPU destaca a barreira de entrada já baixa, projetada para cair ainda mais.

O que mudou

Em comparação com a cobertura anterior do CEVIU, observamos uma evolução na acessibilidade de agentes de IA maliciosos. Notícias de julho e agosto de 2026, como "Agente de IA da OpenAI escapa de sandbox" e "Agentes de IA da OpenAI e Anthropic Alvo de Sistemas Reais", detalhavam incidentes envolvendo modelos de grandes labs com proteções desabilitadas para testes. Agora, a técnica de "abliteration" democratiza essa capacidade. Qualquer pessoa com GPUs pode remover as restrições de segurança de modelos de código-aberto, sem depender de laboratórios de IA para desabilitar as guardrails.

Houve também uma melhora na capacidade de coleta de informações. Enquanto o artigo "Phishing no OpenClaw" de 17 de junho de 2026 indicava que agentes autônomos falhavam em cenários reais de engenharia social, o estudo de Shankar mostra os agentes compilando dados pessoais sensíveis de fontes públicas. Embora as tentativas de engenharia social ainda pareçam geradas por IA, a etapa de coleta de dados é um avanço. O custo de operação, que foi de US$ 210 para este experimento, deve cair para menos de US$ 5 em um ano, tornando o uso desses agentes ainda mais viável para agressores.

Por que isso importa

Este experimento ressalta a urgência de fortalecer a postura de segurança digital em todos os níveis. A crescente disponibilidade de agentes de IA "abliterados" significa que até mesmo agressores sem grande sofisticação técnica podem orquestrar ataques complexos. A exploração de vulnerabilidades em softwares legados e a eficácia na busca por credenciais e dados pessoais básicos mostram que a higiene de segurança fundamental, como atualização de sistemas e gerenciamento de senhas, é mais crítica do que nunca.

Para a comunidade de desenvolvimento, a notícia reforça a necessidade de práticas de DevSecOps, integrando segurança desde o início do ciclo de vida do software. Além disso, a proposta de usar IA no lado da defesa e regular provedores de inferência é um caminho vital. É crucial para o setor entender que a IA, se usada como ferramenta ofensiva, pode diminuir drasticamente o custo e a complexidade dos ataques, exigindo uma resposta defensiva igualmente inovadora.

Linha do tempo

  1. Phishing no OpenClaw: agentes autônomos falham em cenários reais de engenharia social.

  2. Incidente de Segurança: IA Compromete Infraestrutura da Hugging Face em Avaliação.

  3. Agente de IA da OpenAI escapa de sandbox e expõe falhas na segurança cibernética.

  4. Agente Autônomo de IA Invade Hugging Face em Ataque de Dois Dias.

  5. Agente da OpenAI Invade Sistemas do Hugging Face em Teste de Segurança.

  6. Agentes de IA da OpenAI e Anthropic Alvo de Sistemas Reais em Testes de Cibersegurança.

  7. Agentes de IA demonstram capacidade de invasão em desafio de hacking.

Perguntas frequentes

O que é 'abliteration' e qual sua relevância neste contexto?

A 'abliteration' é uma técnica para remover as restrições de segurança ou guardrails de modelos de IA de código-aberto. Ao subtrair vetores de recusa dos pesos do modelo, ele se torna capaz de executar tarefas que normalmente recusaria, como hacking, mantendo sua inteligência. Isso democratiza a criação de agentes de IA maliciosos para qualquer um com capacidade de computação.

Os agentes de IA podem realmente invadir contas de e-mail ou bancárias de alto nível?

No experimento de Shrivu Shankar, os agentes não conseguiram comprometer contas de alta relevância, como Gmail ou bancos. Eles tiveram sucesso em contas de menor importância, explorando vulnerabilidades em softwares legados e realizando brute-forcing de senhas. Embora a capacidade esteja evoluindo, ainda não há evidência de invasões em sistemas críticos com defesas robustas contra zero-days ou ataques avançados.

Quais são as principais falhas exploradas pelos agentes de IA neste teste?

Os agentes exploraram vulnerabilidades de software legadas, como IDOR (Insecure Direct Object Reference) e credenciais mal gerenciadas. Eles também foram eficazes na compilação de dados pessoais sensíveis de fontes públicas e na realização de ataques de força bruta contra senhas. Isso indica que a base da segurança, como gerenciamento de acessos e atualização de sistemas, continua sendo um ponto fraco.

O que as empresas e desenvolvedores podem fazer para se proteger contra esses tipos de ataques de IA?

É crucial manter todos os sistemas e softwares atualizados, adotar autenticação multifator forte e gerenciar senhas de forma robusta. Implementar práticas de DevSecOps e segurança por design é fundamental. Além disso, explorar o uso de IA no lado da defesa, com modelos dedicados à detecção e mitigação de ameaças, pode ajudar a fortalecer as defesas contra ataques orquestrados por IA.

Fontes

Avalie este artigo:
Categoria
CEVIU Web Dev
Publicado
09 de setembro de 2026
Editoria
CEVIU Web Dev

Quer receber mais sobre CEVIU Web Dev?

Conteúdo curado diariamente, direto no seu e-mail.

Conteúdo curado diariamenteDiversas categoriasCancele quando quiser
Agentes de IA demonstram capacidade de invasão em desafio