A dominância da Nvidia pode sobreviver à profunda mudança em curso na computação de IA?

O foco da Nvidia este ano em seu evento GTC mudou para inference, o tipo de computação necessário para executar modelos e permitir que respondam a consultas de usuários. A indústria de IA agora está menos preocupada com o treinamento de modelos de IA, para o qual as GPUs são mais adequadas, e mais focada em executá-los e gerar lucros para os usuários finais.

Inference exige hardware diferente de chips otimizados para treinamento. A liderança da empresa na corrida por infraestrutura de IA dependerá em grande parte de quão eficazmente ela conseguirá adaptar seu roadmap de produtos do treinamento para inference.