Uber lança framework para governança de agentes de IA autônomos
Aprofundamento CEVIU
Aprofundamento
A Uber apresentou um framework de ciclo de vida para governar agentes de IA autônomos, abordando riscos que sistemas tradicionais de identidade e API não cobrem, como prompt injection e desvio comportamental (behavioral drift). O framework opera em três camadas: registro pré-implantação no Uber AI Registry, autorização comportamental em tempo de execução e asseguração contínua pós-implantação. No registro, são definidos identidade, propósito, permissões e classificação de risco do agente. Em runtime, a autorização comportamental avalia se as ações do agente são apropriadas ao contexto, usando o AI Registry para políticas e AI Guards para avaliação, acionados por hooks. Após o deploy, a asseguração contínua foca em observabilidade, auditoria e capacidade de replay de interações para testar novas políticas.
Um ponto crucial é a restrição dos agentes a intenções explícitas, um princípio de menor privilégio que a Uber considera a medida mais eficaz, superando controles genéricos. A empresa reconhece desafios como balancear a restritividade das políticas para evitar falsos positivos e proteger adequadamente, minimizar latência em tempo de execução e reduzir atrito para desenvolvedores. Profissionais da área, como Tristan G. (UN) e Pratik Dhanave, apontam que a granularidade por agente, embora valiosa, aumenta a complexidade com o número de fluxos de trabalho e questionam a aplicabilidade do framework a agentes de terceiros.
O que mudou
A cobertura atual detalha a arquitetura completa do framework de governança de IA da Uber, com registro pré-implantação, autorização em runtime e asseguração contínua. Isso expande o que o CEVIU noticiou em 9 de novembro de 2026, na matéria “Como a Uber protege seus agentes de IA em produção”, que mencionava verificações no provisionamento, enforcement em runtime e testes contínuos, mas sem aprofundar na estrutura do AI Registry, AI Guards e mecanismos de replay. Além disso, a notícia de 2 de outubro de 2026, “Uber Aprimora Segurança com Novo Sistema de Identidade para Agentes de IA”, focava na limitação do modelo de identidade original para agentes, e o framework atual da Uber representa a solução arquitetural para esse problema, incluindo identidade e autorização comportamental contextualizada.
Por que isso importa
Para engenheiros DevOps e de plataforma, este framework da Uber aponta uma direção para a governança de agentes de IA em produção, algo ainda em consolidação no mercado. A ênfase em registro formal de agentes, autorização comportamental e observabilidade ponta a ponta significa que a automação e a segurança devem estender-se para além do código e da infra, abrangendo também o comportamento dos sistemas autônomos. A necessidade de definir intenções explícitas por agente, em vez de limites genéricos, indica um aumento na complexidade de gestão de políticas, mas oferece um controle mais preciso. Isso impacta diretamente o design de pipelines de CI/CD para agentes de IA, exigindo etapas de validação e monitoramento mais sofisticadas, além de ferramentas que suportem a definição e enforcement de políticas comportamentais.
Linha do tempo
Uber Aprimora Segurança com Novo Sistema de Identidade para Agentes de IA
Como a Uber protege seus agentes de IA em produção
Uber lança framework para governança de agentes de IA autônomos
Perguntas frequentes
Quais são os principais componentes do framework de governança de IA da Uber?
O framework é composto por três camadas: o Uber AI Registry para registro pré-implantação de agentes, mecanismos de autorização comportamental em tempo de execução (AI Guards e Agent Guard runtime hooks), e uma camada de asseguração contínua pós-implantação, com observabilidade e capacidade de replay.
Como a Uber garante que as ações dos agentes de IA são apropriadas?
Isso é feito através da autorização comportamental em tempo de execução. O sistema avalia as ações propostas pelo agente contra políticas definidas no AI Registry, levando em conta o propósito, permissões e contexto da interação, usando AI Guards para aplicar as decisões.
Qual foi a abordagem mais eficaz para controlar o comportamento dos agentes de IA, segundo a Uber?
A abordagem mais eficaz foi restringir os agentes a intenções e restrições explícitas por agente, um princípio de menor privilégio. A Uber constatou que aplicar limites genéricos era menos efetivo devido às diferentes finalidades e perfis de risco de cada agente.
Quais são os desafios na implementação desse framework na Uber?
Os desafios incluem balancear a restritividade das políticas para evitar falsos positivos sem comprometer a proteção, minimizar a latência em tempo de execução, reduzir o atrito para desenvolvedores durante a configuração e passar de controles genéricos para políticas específicas de cada agente.
Fontes
- infoq.comfonte original
- Categoria
- CEVIU DevOps
- Publicado
- 18 de novembro de 2026
- Editoria
- CEVIU DevOps

