Amazon resiste à governança de IA com supervisão humana: 'não é consistente nem confiável'

A Amazon não está apenas criticando o 'human-in-the-loop', está executando uma mudança estrutural de governança. Desde 2017, quando Eric Brandwine falou sobre 'normalização da desvio' na re:Invent, a empresa vinha observando como procedimentos humanos se deterioram com a repetição e a ausência de consequências. Hoje, essa observação virou arquitetura: o Amazon Bedrock AgentCore Identity (ago/2025), o AWS Context (jun/2026) e a nova estrutura de governança para IA agentic (maio/2026) são peças de um sistema que troca aprovação por rastreabilidade, e controle por responsabilidade atribuída.

O ponto crítico não é eliminar o humano, é recusar sua colocação em um papel que a psicologia organizacional já sabia ser insustentável: julgar centenas de saídas de agentes por dia, sem contexto, sem descanso, sob pressão de velocidade. A alternativa da Amazon é técnica e cultural ao mesmo tempo: identidades independentes para agentes, políticas dinâmicas baseadas em intenção (não em permissão fixa), e um novo contrato operacional onde 'fazer algo via agente' equivale jurídica e operacionalmente a 'fazê-lo pessoalmente', inclusive no log, no IAM e na investigação pós-incidente.

Em fevereiro de 2026, a CEVIU reportou duas interrupções menores na AWS causadas por falhas previsíveis em tooling interno de IA, mas ainda sem proposta clara de governança. Agora, em junho de 2026, a Amazon entrega não só uma crítica, mas uma infraestrutura concreta: AgentCore Identity, AWS Context e uma estrutura de governança publicada. O que era diagnóstico (falhas previsíveis + desgaste humano) virou implementação (identidades rastreáveis, grafo de conhecimento com herança de permissões, políticas geradas por intenção). Também mudou o tom: antes, a Amazon evitava falar abertamente sobre limites do 'human-in-the-loop'; agora, Brandwine articula isso como princípio de engenharia, não como resistência à regulação, mas como resposta técnica a falhas humanas documentadas há décadas em áreas de alta confiabilidade, como saúde e aviação.

Isso importa porque define o padrão de operação para IA agentic em escala empresarial, não como ferramenta auxiliar, mas como ator com identidade, histórico e limite de ação. Empresas que adotarem modelos baseados em 'aprovação humana contínua' vão enfrentar escalabilidade real: 54 incidentes médios por ano por organização (IBM, jun/2026), 17% de alta gravidade, e uma taxa de falha crescente conforme a fadiga cognitiva se instala. Já quem seguir o caminho da Amazon terá que resolver desafios diferentes: modelar contextos com precisão (AWS Context), garantir que políticas dinâmicas não sejam burladas por goal-seeking behavior, e treinar equipes para entender que 'delegar para um agente' não é 'desligar a responsabilidade', mas 'assumir um novo tipo de controle', mais técnico, menos ritualístico.