Datadog Compartilha Lições de Segurança na Monitorização de Agentes de IA

A abordagem da Datadog para a segurança de agentes de IA foca em uma visibilidade completa, indo além da simples análise de modelos. A empresa destaca a construção de um AI Bill of Materials (AI-BOM). Este inventário detalhado mapeia não só a versão exata do modelo, mas também todas as ferramentas, serviços conectados, provedores de tráfego e até gateways não aprovados que o agente possa usar. É uma visão de cadeia de suprimentos para IA, onde se rastreia a proveniência de cada componente, crucial para identificar riscos em casos como o ataque à LiteLLM em março de 2026, onde a vulnerabilidade estava no proxy, não no modelo.

Outro ponto crítico é o rastreamento da execução completa da sessão. A equipe conectou prompts, conteúdo recuperado, respostas do modelo e chamadas de ferramentas para entender a trajetória de uma requisição até uma ação. Isso permite detectar injeções de prompt que podem vir de documentos recuperados ou resultados de ferramentas, não apenas do usuário. Além disso, a Datadog enfatiza a distinção clara entre identidades humanas e de agentes nas trilhas de auditoria, evitando que ações maliciosas de um agente sejam erroneamente atribuídas a um desenvolvedor, por exemplo.

A Datadog não só compartilha suas lições, mas também demonstra a aplicação prática de capacidades que o CEVIU News cobriu anteriormente. Em junho de 2026, por exemplo, noticiamos que a Datadog estava reforçando a segurança e compliance com IA no DASH 2026, com agentes para caça proativa a ameaças. Agora, vemos a empresa usando essa inteligência internamente, tratando seus próprios agentes como alvos para refinar essas estratégias de detecção e proteção.

Anteriormente, em março de 2026, abordamos a proteção contra prompt injection. A notícia atual detalha como a Datadog agora rastreia o caminho completo das interações do agente, conectando prompts e ferramentas, o que é essencial para identificar e mitigar essas vulnerabilidades em tempo real. É a teoria virando prática interna, gerando um ciclo de feedback valioso para aprimorar as ferramentas que a própria Datadog oferece ao mercado.

As lições da Datadog são um guia prático para qualquer equipe de DevOps ou engenharia de plataforma que esteja trabalhando com agentes de IA. A segurança de IA vai muito além da segurança de aplicações tradicionais, exigindo uma compreensão profunda de como modelos interagem com dados, ferramentas e identidade. Essa abordagem proativa, focando em inventário, rastreamento de dados sensíveis e distinção de identidades, estabelece um novo patamar para as boas práticas de DevSecOps no ecossistema de IA.

Compartilhar esses insights eleva o nível de segurança da indústria, ajudando a evitar incidentes complexos onde a atribuição de um ataque é nebulosa. Para quem constrói e opera sistemas com IA, é um chamado para implementar observabilidade profunda e governança rigorosa desde o design, não apenas como um complemento tardio.