VLLM Anuncia Nova Versão 0.28.0 com Colaboração Massiva da Comunidade

A nova versão 0.28.0 do vLLM, um dos pilares para a inferência de modelos de linguagem de grande escala (LLMs), chegou com uma série de aprimoramentos que reverberam na performance e na acessibilidade. O framework é fundamental para quem busca rodar LLMs de forma eficiente, seja otimizando o uso de GPU, acelerando o tempo de resposta ou expandindo a compatibilidade com diferentes arquiteturas de hardware. Os 584 commits e 270 colaboradores nesta versão solidificam a abordagem de desenvolvimento comunitário, trazendo inovações que vão desde a otimização de modelos específicos até o suporte a novos hardwares.

As novidades incluem um esforço significativo de otimização para o Kimi-K3, com melhorias em Decode Context Parallel (DCP), kernels fundidos de FlashKDA e suporte a SiTU activation. Para o DeepSeek V4, a versão traz sparse MLA e compatibilidade com AMD Quark NVFP4. Há também avanços na decodificação especulativa com DFlash2 e DSpark, além da maturação do Model Runner V2 com desagregação E/P/D e offloading de pesos. A capacidade de offloading de cache KV em camadas, incluindo para disco, é outro destaque, juntamente com um frontend Rust aprimorado que suporta inferência multimodal de imagens via gRPC. As mudanças de defaults, como o aumento do max_num_batched_tokens para 16384, indicam um foco claro em escalabilidade e desempenho.

A nova versão 0.28.0 do vLLM traz um avanço significativo no suporte e otimização de modelos de IA que o CEVIU News já acompanhou. A cobertura de 29 de julho de 2026 sobre o Kimi K3, da Moonshot, destacou o modelo como um gigante MoE de 2.8 trilhões de parâmetros. Agora, o vLLM 0.28.0 oferece um grande impulso de performance para o Kimi-K3, incluindo suporte no ROCm da AMD, mostrando uma evolução na capacidade de rodar este modelo complexo com maior eficiência. Além disso, a matéria de 11 de julho de 2026 sobre o Gemma 4, da Google, que introduziu modelos multimodais open-weight, vê agora o vLLM integrar suporte a LoRA para Gemma 4 e garantir compatibilidade com futuras versões do Transformers. Para o Qwen 3.8-Max, que abordamos em 3 de agosto de 2026 como um modelo que redefine colaboração e codificação, o vLLM 0.28.0 habilita seu uso em hardwares AMD ROCm, ampliando seu alcance e otimizando a execução.

Esta atualização do vLLM é um passo importante para a democratização e a eficiência da inferência de LLMs. A ampla colaboração da comunidade não só garante um desenvolvimento rápido e robusto, como também incorpora diversas perspectivas e necessidades. Para desenvolvedores e empresas, significa acesso a otimizações de ponta que reduzem custos operacionais e aumentam a velocidade das aplicações de IA. A expansão do suporte a novos modelos e hardwares, como AMD e Intel, abre portas para um ecossistema de IA mais diverso e competitivo. Em última análise, a versão 0.28.0 melhora o desempenho, a estabilidade e a versatilidade, impulsionando a próxima geração de aplicações baseadas em IA generativa.