Latent Briefing: Compartilhamento Eficiente de Memória para Sistemas Multiagentes via KV Cache Compaction

Sistemas multiagentes frequentemente sofrem de baixa eficiência de tokens. À medida que as tarefas se tornam mais complexas, pode surgir muito raciocínio intermediário redundante, o que leva a um rápido aumento no uso de tokens. O Latent Briefing é uma abordagem que resolve esse problema utilizando os padrões de attention de um modelo para identificar as partes importantes do contexto, descartando o restante no nível de representação.

Este método permite o compartilhamento de memória relevante entre os agentes, resultando em melhor precisão e significativa economia de tokens, otimizando a operação de sistemas multiagentes.