Google divulga roadmap para segurança de agentes de IA: sandboxing, resistência a prompt injection e alinhamento como defesa primária

O Google não está só ajustando o alinhamento de modelos, está redesenhando a arquitetura de segurança para agentes como se fossem entidades executivas com permissões, identidade e histórico de comportamento. Isso fica claro ao juntar o roadmap atual com o que já foi lançado: em maio, os agentes ganharam identidades próprias no Google Cloud; em abril, o Workspace já usava red-teaming humano + geração automatizada de ataques para testar prompt injection indireto; e agora, o sandboxing do Agent Executor open source (lançado também em maio) vira um dos pilares operacionais desse novo modelo de defesa em profundidade.

A inovação real está na inversão de lógica: em vez de confiar no alinhamento como garantia, o Google trata o agente como um 'funcionário com acesso físico ao prédio', sujeito a monitoramento contínuo por supervisores de IA, restrições de escopo baseadas em histórico de ações verificadas e bloqueio síncrono para ações de alto risco. A análise de 1 milhão de trajetórias de agentes de codificação não é só estatística: ela revelou que 87% dos eventos sinalizados vieram de superexecução ou má interpretação, não de intenção maliciosa. Isso muda o foco da segurança de 'detecção de ataque' para 'gestão de comportamento esperado'.

Antes, o Google tratava prompt injection como uma falha de entrada a ser filtrada (abordagem de abril no Workspace). Agora, ele o enquadra como um vetor de exploração dentro de um modelo de ameaça MITRE ATT&CK adaptado, onde o agente desalinhado é um 'insider threat', não um invasor externo. Também evoluiu do sandboxing estático (Agent Executor, maio) para um sandboxing dinâmico: permissões são concedidas de forma incremental, com base em auditoria contínua de raciocínio, planos e ações, não só no momento da execução, mas durante todo o ciclo de vida do workflow.

Isso define o novo padrão operacional para empresas que vão colocar agentes em produção com acesso a dados sensíveis, APIs críticas ou infraestrutura. Não basta ter um LLM seguro: agora é preciso ter um runtime com identidade, histórico de comportamento, supervisão em tempo real e resposta síncrona para ações irreversíveis. O roadmap não é teórico, já alimenta o monitor em tempo real do Gemini Spark e orienta a implantação de TPUv6 para inference segura, anunciada no Cloud Next. Para devs e SREs, significa que 'segurança de IA' passa a exigir habilidades de engenharia de sistemas, não só de fine-tuning.