Cerebras Chega à AWS para Impulsionar a Inferência de IA Mais Rápida do Setor

A AWS está implementando sistemas Cerebras CS-3 para oferecer a inferência de IA mais rápida do setor via AWS Bedrock, utilizando LLMs de código aberto e os modelos Nova da Amazon. Essa colaboração introduz uma arquitetura desagregada, que combina o AWS Trainium para a fase de prefill com o Cerebras WSE para o decode, resultando em um aumento de 5x no throughput de tokens. Essa configuração otimiza o desempenho de inferência de alta velocidade ao empregar hardware especializado de forma eficiente para cada etapa computacional.