O Mito do Token

O gasto com tokens não importa se as tarefas não são concluídas. A quantidade total de tokens consumidos por tarefa varia entre modelos. Uma empresa que cobra o dobro por tokens pode ainda ser a opção mais barata se seus modelos retornarem a resposta correta em menos interações. Em vez de usar o gasto com tokens como KPI, as empresas devem medir o custo por tarefa concluída com sucesso.