Provedores Líderes de Inference Reduzem Custos de IA em até 10x com Modelos Open Source em NVIDIA Blackwell

Provedores de inference líderes, como Baseten, DeepInfra e Together AI, estão reduzindo os custos de IA em até 10x ao utilizarem modelos open source em GPUs NVIDIA Blackwell. No setor de saúde, empresas como a Sully.ai diminuíram as despesas de inference, melhorando os tempos de resposta e liberando um tempo precioso para os médicos. No segmento de jogos e atendimento ao cliente, as plataformas otimizadas da NVIDIA Blackwell permitem que Latitude e Decagon cortem drasticamente os custos por token , ao mesmo tempo em que aprimoram as experiências do usuário e gerenciam cargas de trabalho intensas de forma eficaz.