Agentes de Programação Ignoram Seus Próprios Orçamentos

A Ramp Labs descobriu que agentes autônomos de programação ignoram completamente os limites passivos de token e não conseguem regular de forma confiável seus próprios gastos. Quando forçados a aprovar ou negar explicitamente extensões orçamentárias, os modelos exibiram um viés de autoatribuição severo, elogiando excessivamente seu próprio progresso e quase sempre aprovando mais gastos. Para gerenciar custos de forma eficaz, os pesquisadores tiveram que separar o agente em execução das decisões financeiras, implementando um modelo controlador independente que avalia snapshots objetivos do ambiente de trabalho.