Voltar

Antes de avaliar um AI SRE, dê contexto ao agente que você já tem

Aprofundamento CEVIU

Aprofundamento

O teste da CNCF isola uma variável: contexto. O mesmo agente (Claude Code com Claude Sonnet 5 no Amazon Bedrock) rodou 50 falhas do SREGym num cluster EKS de 3 nós. Um braço tinha shell e kubectl cru. O outro, ferramentas MCP somente leitura do Radar, com kubectl bloqueado. A precisão ficou colada (46 contra 45 acertos). O ganho veio no tempo: 86% dos diagnósticos corretos em até dois minutos contra 60% com shell. Nas 14 falhas com pods Ready e aplicação quebrada, a média caiu de 326 para 79 segundos.

O que o contexto entrega são quatro coisas: lista de falhas atuais já detectadas, linha do tempo de mudanças (spec e histórico de releases Helm, mantidos depois que os eventos do Kubernetes expiram, por padrão em uma hora), recursos já unidos às suas relações e logs filtrados para os erros, com segredos mascarados. Sem isso, o agente abria toda falha com get pods e get events e, em 24 casos, saiu caçando histórico em ReplicaSets, rollout history ou valores do Helm. Boa parte do tempo ia em reconstruir o que mudou. Há ressalvas: os autores mantêm o Radar, cada braço rodou cada falha uma vez, o SREGym injeta falhas minutos após o deploy (o que favorece quem rastreia mudanças) e só se mediu diagnóstico, não remediação.

O que mudou

A cobertura anterior do CEVIU, em "Autodiagnóstico de Alertas Kubernetes com HolmesGPT e Ferramentas da CNCF" (22 de abril de 2026), mostrou uma equipe SRE do STCLab cortando a investigação de alertas de 15 a 20 minutos para menos de 2. Agora o teste da CNCF dá um número comparável de forma controlada: o contexto, sozinho, empurra a maioria dos diagnósticos para a faixa de dois minutos. E o texto cita o próprio HolmesGPT, projeto CNCF Sandbox, como agente que aceita servidores MCP remotos, o que permite testar contexto e agente em separado.

Por que isso importa

Antes de assinar um AI SRE, vale medir o agente que o time já paga, com acesso somente leitura e contexto bom, num limite de tempo fixo. Se ele empatar, o produto precisa se justificar em outras frentes, como o gatilho automático no alerta e a governança. Nos transcritos de shell, o agente criou pods em 13 falhas, usou exec, cp, port-forward ou debug em 21 e puxou dados de Secret em 4. Identidade somente leitura e registro de cada chamada deixam de ser detalhe.

Linha do tempo

  1. CEVIU cobre o STCLab reduzindo a investigação de alertas Kubernetes com HolmesGPT para menos de 2 minutos.

  2. CNCF publica teste com 50 falhas do SREGym comparando shell e contexto MCP somente leitura.

Perguntas frequentes

O contexto deixa o agente mais preciso?

Pouco. Foram 46 acertos contra 45, e nota média do juiz de 0,936 contra 0,905. Os dois braços erraram as mesmas três falhas. O ganho principal foi velocidade, não raciocínio.

Que contexto o agente precisa receber?

Quatro itens: falhas atuais já detectadas, linha do tempo de mudanças que sobrevive à expiração dos eventos, recursos com suas relações e logs filtrados para erros. Qualquer servidor MCP que devolva isso pode ser testado do mesmo jeito, não só o Radar.

Como avaliar um AI SRE de forma justa?

Dê o mesmo modelo e a mesma identidade somente leitura a todos os concorrentes e rode as mesmas falhas do SREGym. Pontue com limite de tempo fixo (dois e cinco minutos no teste) e repita cada falha, pois diferença de duas ou três falhas numa rodada pode ser ruído. Registre também o gasto de tokens.

O resultado vale sem ressalvas?

Não. Os autores mantêm o Radar e cada falha rodou uma vez por braço. Os braços também diferiam em permissões, então o teste não diz qual tipo de contexto fez o trabalho. Os dados por falha são públicos para conferência.

Fontes

Avalie este artigo:
Categoria
CEVIU DevOps
Publicado
21 de outubro de 2026
Editoria
CEVIU DevOps

Quer receber mais sobre CEVIU DevOps?

Conteúdo curado diariamente, direto no seu e-mail.

Conteúdo curado diariamenteDiversas categoriasCancele quando quiser