A Guerra de Inference: Hyperscalers Batalham pela Velocidade da IA

A "Guerra de Inference" migrou do foco no tamanho do modelo para a velocidade do hardware, pois os reasoning models demandam largura de banda de memória massiva para processar longas chains of thought. Para atender a essa exigência, AWS e Microsoft estão buscando soluções externas para sua infraestrutura.

A AWS firmou parceria com a Cerebras para chips especializados, e a Microsoft licenciou o motor de software de alta velocidade da Fireworks AI. Em contraste, o investimento de uma década do Google em TPUs Ironwood customizadas permite-lhe lidar com essas workloads complexas de forma nativa, garantindo uma liderança significativa em integração vertical e eficiência de custos.