A vulnerabilidade mais inusitada do Instagram: IA de suporte virava cúmplice de invasores

A falha não era um bug de código, mas uma falha de desenho: o assistente de IA do Instagram tinha permissão para alterar o e-mail principal da conta, uma ação sensível, sem validar se o novo endereço pertencia ao usuário legítimo ou se havia histórico de uso naquela conta. Isso aconteceu porque o sistema confiava cegamente em duas pistas falsificáveis: localização (via VPN) e a própria solicitação feita no chat, sem cruzar dados com logs anteriores, métodos de verificação prévios ou até mesmo o domínio do e-mail original. A IA processava o pedido como se fosse uma interação humana legítima, seguindo instruções maliciosas inseridas por meio de prompt injection, técnica que já havia sido documentada em outros contextos, como o ataque ao Gemini via notificações do WhatsApp, mas nunca antes usada com sucesso em escala contra um sistema de recuperação de contas crítico.

O fato de o exploit ter persistido mesmo após o anúncio oficial de correção mostra que a atualização foi parcial: enquanto a Meta bloqueou o fluxo principal no site, versões móveis e APIs internas ainda aceitavam os mesmos comandos até 3 de junho. Relatos em canais de Telegram confirmam que hackers testaram e validaram o ataque em tempo real nesses dois dias, o que sugere que a correção foi aplicada em etapas, sem rollback completo nem monitoramento proativo de tentativas suspeitas no canal de IA.

Na cobertura anterior do CEVIU de 2 de junho, o foco estava na descrição inicial do vetor de ataque e na classificação como 'falha crítica'. Agora sabemos que não foi apenas um erro isolado: foi uma falha estrutural no modelo de operação da IA de suporte, que teve acesso direto a funções privilegiadas de gerenciamento de contas via API. Antes, falávamos em 'brecha'; agora é claro que o problema era a ausência de camadas de autorização contextual, como histórico de login, padrão de comportamento ou vinculação entre e-mail antigo e novo. Também mudou a dimensão do impacto: contas de alto perfil como a de Barack Obama e da Força Espacial dos EUA foram comprometidas, algo não mencionado nos primeiros relatos.

Esse caso não é só sobre o Instagram: é o primeiro exemplo público de uma IA de suporte sendo usada como ferramenta de ataque em larga escala, com consequências reais, desde roubo de identidade digital até manipulação de contas institucionais. Mostra que automação em segurança não é sinônimo de proteção; pode ser um alvo mais fácil se não for projetada com defesas específicas contra engenharia conversacional. Para desenvolvedores e SREs, o alerta é prático: qualquer IA que tenha acesso a APIs de mudança de estado crítico precisa de validações explícitas, não apenas de identidade, mas de intenção, contexto e consistência histórica.