Modelos de IA de código aberto Kimi K3 e MI355X desafiam gigantes da tecnologia

O Kimi K3, com seus impressionantes 2.8 trilhões de parâmetros, eleva a barra para a IA de código aberto. Este modelo demanda mais de 1.5TB de VRAM para operar, um volume que as GPUs de alta performance como a B200 da NVIDIA enfrentam dificuldade para acomodar em um único nó. É aqui que entra a MI355X da AMD, que com 288GB de VRAM por GPU, oferece a capacidade de HBM crítica para lidar com modelos tão grandes.

Nossa cobertura anterior em 21 de julho de 2026, na matéria "Kimi K3: O Novo Gigante da IA de Código Aberto e Seus Desafios de Desempenho", já sinalizava os desafios do gigantismo deste modelo. Agora, a MI355X surge como uma solução viável, entregando performance por dólar superior, sendo até 2.4 vezes mais barata por GPU que a B300 da NVIDIA. As otimizações de software, como a correção para a decodificação especulativa e a ativação do kernel AITER MLA prefill no ROCm, resultaram em ganhos expressivos, como o aumento de até 2.2 vezes no desempenho de single-stream e uma melhoria de 2 a 3 vezes no tempo para o primeiro token (TTFT), essencial para a experiência do usuário.

A cobertura do CEVIU de 21 de julho de 2026, intitulada "Kimi K3: O Novo Gigante da IA de Código Aberto e Seus Desafios de Desempenho", destacava os obstáculos impostos pelo tamanho do Kimi K3. A notícia atual mostra uma evolução significativa: a AMD e a comunidade de desenvolvedores estão entregando soluções concretas. A placa MI355X, com sua grande capacidade de VRAM, e otimizações de software antes ausentes no ROCm, como as melhorias na decodificação especulativa e nos kernels de pré-carregamento, provam que os desafios iniciais estão sendo superados, permitindo que o Kimi K3 opere com maior eficiência e acessibilidade.

A acessibilidade a modelos de IA avançados como o Kimi K3, impulsionada pela eficiência de custo da MI355X e pelas otimizações de software, é um marco para a democratização da IA. Isso reduz drasticamente a barreira de entrada para desenvolvedores e startups que desejam inovar com modelos de larga escala. A performance por dólar da AMD e a superação dos desafios de software intensificam a concorrência no mercado de hardware de IA, potencialmente diminuindo a dependência do ecossistema NVIDIA e abrindo novas frentes para a inovação open-source.