Segurança de Agentes de IA: A 'Caixa' Determinística

A 'caixa' determinística não é só uma metáfora: é uma camada de execução isolada, com sandboxing de código em microVMs ou interceptação de syscalls no espaço de usuário, que impede que agentes de IA explorem o ambiente além do estritamente autorizado. O AgentCore Runtime da AWS, anunciado oficialmente em 12 de março de 2026, não é um container genérico, ele roda sob controle de um gateway unificado que força toda chamada a ferramentas (Lambda, APIs externas, bancos de dados) a passar por uma política escrita em Cedar, linguagem de autorização formal e auditável. Isso transforma segurança em código executável, não em comentário de documentação.

O risco real não está no agente 'desobedecer': está na injeção de prompt que, em ambientes agênticos, vira comando executável, e pode acionar uma função de pagamento, excluir um bucket S3 ou reconfigurar um firewall. Por isso, políticas como as do AgentCore não permitem apenas 'acesso à API X', mas 'acesso à API X somente se o usuário tiver papel financeiro, o payload não conter campos bloqueados e o horário for entre 9h e 18h'. É menos 'controle de acesso' e mais 'governança de ação'.

Até 2026, 40% das aplicações empresariais terão agentes integrados, mas menos de 15% conseguem reconstruir o caminho completo de decisão de um agente após uma ação. Sem caixas determinísticas, cada agente vira um ponto cego de auditoria e um vetor de ataque autônomo. A exigência de trilhas de auditoria estruturadas já está entrando em projetos de regulamentação brasileiros como a futura norma da ANPD para sistemas de IA de alto risco. Empresas que adotam agora sandboxes com políticas granulares não só evitam vazamentos operacionais, mas preparam-se para responder a fiscalizações com evidências técnicas, não com declarações de boas intenções.