Governança de IA: por que 40% das empresas travam na hora de escalar agentes

A escalada de agentes de IA não é um problema de infraestrutura ou modelo, mas de governança operacional. Como mostrou o CEVIU em 1º de junho, a infraestrutura de IA corporativa já virou responsabilidade dos times de DevOps, e isso inclui não só orquestração de inferência e versionamento de modelos, mas também políticas de acesso, auditoria de ações executadas por agentes e controle de permissões em tempo real. O incidente da Replit, citado em 20 de maio, não foi uma exceção: foi um sintoma. Agentes com capacidade de escrita em produção exigem mecanismos de rollback granular, guardrails de contexto (não só de prompt) e observabilidade de decisão, ou seja, rastrear não apenas o que foi feito, mas por que o agente tomou aquela decisão, com base em quais dados, permissões e regras.

O relatório da DataGrail, de 28 de maio, mostra outro ponto crítico: 63,6% dos fornecedores escondem sub-processadores de IA. Isso significa que, mesmo com um agente interno bem governado, sua cadeia de suprimentos pode estar violando RGPD ou Lei de IA da UE sem que o time de DevOps saiba. A solução não é bloquear agentes, mas integrar governança na pipeline: validação de provedores no CI/CD, scanning de permissões de API em tempo de deploy, e políticas de data lineage aplicáveis a cada chamada de agente, tudo isso já está sendo implementado por equipes que usam Docker + OpenPolicyAgent ou Kubeflow com integração ao NIST AI RMF.

Em 7 de junho, o CEVIU destacou que a adoção escalável depende da lógica de agentes, não de LLMs isolados. Agora, o dado novo é que essa lógica está se tornando auditável por design: frameworks como o ISO/IEC 42001:2023 estão sendo usados para certificar pipelines de agentes, não só modelos. Enquanto em maio a discussão girava em torno de 'quem é responsável', hoje o foco mudou para 'como provar que o agente seguiu a política', com logs estruturados, decision trails assinados digitalmente e hooks de aprovação humana condicionais. Isso é novo: antes era manual, agora é automatizado dentro da stack de observabilidade e IaC.

Porque 40% das empresas não estão travando por falta de tecnologia, mas por falta de controles operacionais integrados. Um agente que apaga um banco de dados não falhou tecnicamente, falhou na governança de permissão, na ausência de guardrail de execução e na ausência de rollback automático. Em ambientes onde DevOps já gerencia SLIs de latência e disponibilidade, a nova fronteira é medir SLIs de conformidade: taxa de aprovação pré-execução, tempo médio de revogação de ação indevida, cobertura de data lineage por transação. Sem isso, escalar agentes vira apostar em confiança cega, e não em confiabilidade mensurável.