A Batch API é terrível para um único agente. Pode ser excelente para uma frota

A Batch API oferece um desconto de 50%, mas adiciona latência, tornando-a menos adequada para uso por um único agente. Para frotas de agentes onde múltiplas requisições podem ser agrupadas, a abordagem de batching se torna economicamente viável. O uso ideal envolve rotear modelos mais lentos e custosos através de batches, enquanto modelos mais rápidos são empregados por caminhos síncronos, possivelmente gerenciados por proxies inteligentes como o LunaRoute, que está em desenvolvimento.