Latent Briefing: Compartilhamento Eficiente de Memória para Sistemas Multiagentes via KV Cache Compaction

Sistemas multiagentes são frequentemente ineficientes em termos de tokens. Muito raciocínio intermediário redundante pode surgir, especialmente à medida que a tarefa cresce, e isso faz com que o uso de tokens se Compound (acumule) rapidamente. Latent Briefing é uma abordagem para resolver esse problema que utiliza os attention patterns de um modelo para identificar quais partes do contexto são importantes e descarta o restante no nível de representação. Ele compartilha memória relevante entre os agentes, resultando em precisão aprimorada e economia de tokens.