Observability em Serviços Financeiros 2026: maturidade cresce, mas lacunas em LLMs preocupam

A observability em serviços financeiros deixou de ser um diferencial técnico para virar uma camada operacional obrigatória, não só por exigência regulatória, mas porque falhas em LLMs agora impactam diretamente receita, compliance e segurança. Diferente de aplicações tradicionais, onde traces, logs e métricas seguem padrões consolidados, os modelos de linguagem geram saídas não determinísticas, com latências variáveis, drifts de contexto e dependências ocultas de embeddings e vetores. Isso torna a telemetria compartilhada (já adotada por 94% das instituições) insuficiente quando aplicada sem adaptação: dados de entrada/saída, token usage por chamada, tempo de inferência sob carga real e detecção de hallucinations precisam ser instrumentados como métricas de primeira classe, e ainda poucas equipes têm pipelines que fazem isso nativamente.

O avanço do OTel é real, mas sua adoção está centrada em infraestrutura e APIs legadas. Poucos bancos conseguiram estender o protocolo para capturar spans de agentes financeiros autônomos, como os que movem US$ 600 mi em TVL no ecossistema Agentic Finance (Theo e Mozaic). Essa lacuna não é técnica, mas de engenharia de plataformas: faltam SDKs especializados para agentes, schemas padronizados para avaliação de qualidade de resposta em tempo real e integração nativa com ferramentas de FinOps para atribuir custo por invocação de modelo (não só por GPU-hora).

Em maio, o CEVIU destacou que o FinOps estava migrando para o nível executivo por causa dos gastos com IA, mas o dado novo de junho mostra que a observability agora é o principal vetor para viabilizar essa governança: sem medição precisa de consumo, latência e falhas em LLMs, não há como calcular ROI de agentes ou justificar orçamentos. Também houve evolução na cibersegurança: enquanto o relatório de 22/05 falava em treinamento para novos riscos de IA, o dado atual confirma que a telemetria compartilhada já virou pilar ativo de defesa, usada para correlacionar acessos anômalos em sistemas legados com chamadas simultâneas a modelos de linguagem, algo que antes era feito manualmente ou com regras estáticas.

Observability mal feita em LLMs não é só um problema de performance: é um risco de compliance com a LGPD, a nova Diretriz BACEN 3.0 sobre IA e até com as exigências da CPDP 2026 sobre privacidade em chatbots. Quando um agente financeiro gera uma recomendação incorreta baseada em dado desatualizado ou interpreta mal um termo legal, a falta de traceabilidade impede auditoria, dificulta correção e amplia exposição jurídica. Além disso, equipes de plataforma estão descobrindo que otimizar custos de IA exige mais do que ajustar instâncias, exige entender exatamente onde cada centavo é gasto: se em embedding, reranking, chamada a API externa ou fallback para modelo local. Sem observability nesse nível, o FinOps vira contabilidade retrospectiva, não governança proativa.