IA no Meio: Transformando Serviços de IA Baseados na Web em Proxies C2 e o Futuro dos Ataques Orientados por IA

Assistentes de IA com capacidades de navegação web, especificamente Grok e Microsoft Copilot, podem ser explorados como retransmissores C2 (Command and Control) secretos. Isso ocorre utilizando acesso web anônimo para buscar URLs controladas por atacantes e retornar comandos incorporados, tudo sem a necessidade de chaves de API ou contas registradas. Um PoC demonstra o uso de um implante C++ baseado em WebView2 para criar um canal bidirecional onde dados da vítima são exfiltrados via parâmetros de query de URL e comandos são retornados por meio de respostas geradas por IA, com uma codificação simples sendo suficiente para contornar as salvaguardas do modelo.

A pesquisa aponta para uma evolução a curto prazo em direção a malwares orientados por IA, onde os implantes migram de uma lógica estática para um comportamento impulsionado por prompts. Essa mudança permite detecção anti-sandbox assistida por IA, triagem inteligente de vítimas e ransomware direcionado que prioriza arquivos de alto valor para evadir os limites de detecção baseados em volume.