A Mudança da Inferência

O aspecto mais importante para a inferência agentic é a memória. Agentes precisam de contexto, estado e histórico, o que requer uma hierarquia de memória envolvida ao redor de um modelo. Isso implica um trade-off necessário entre velocidade e capacidade, mas tarefas agentic não precisam ser tão rápidas se não há humanos envolvidos.