Novas formas de equilibrar custo e confiabilidade na API do Gemini

O Google adicionou dois novos níveis de serviço à API do Gemini que oferecem aos usuários controle detalhado sobre o custo e a confiabilidade. O Flex Inference é um novo nível otimizado para custo, projetado para cargas de trabalho tolerantes a latência sem a sobrecarga de processamento em lote. O nível Priority Inference oferece o mais alto nível de garantia a um preço premium para garantir que o tráfego mais importante dos usuários não seja interrompido, mesmo durante o uso máximo da plataforma. Os novos níveis eliminam a complexidade da gestão de trabalhos assíncronos, proporcionando benefícios econômicos e de desempenho.