Google impulsiona IA com Gemma 4: Velocidade recorde na geração de texto com Difusão Discreta

O Google DeepMind deu um passo ousado na geração de texto com o DiffusionGemma, um modelo experimental de código aberto que refina o Gemma 4. A grande sacada é a arquitetura de difusão discreta, que permite gerar texto em blocos paralelos de 256 tokens. Isso é diferente do que vimos em modelos autoregressivos tradicionais, que processam um token por vez. O time treinou o DiffusionGemma a partir do Gemma 4, um modelo Mixture-of-Experts com 3.8B de parâmetros ativados e 25.2B totais, usando um pipeline de duas fases: primeiro, um ajuste fino supervisionado para denoise bidirecional, depois um reforço de aprendizado com destilação de sampler. Essa abordagem é eficiente em computação, usando menos de 10% do orçamento de treinamento do modelo autoregressivo original.

O DiffusionGemma não só é rápido, mas também mantém funcionalidades importantes do Gemma 4, como o modo de raciocínio, entradas multimodais e contextos longos. Além disso, mesmo com o ajuste fino para difusão, ele consegue gerar texto de forma autoregressiva com pouca degradação de performance. Isso abre caminho para uma decodificação híbrida, combinando o melhor dos dois mundos.

A grande novidade do DiffusionGemma é a mudança de paradigma na velocidade de geração de texto. Artigos anteriores do CEVIU, como a matéria de 8 de maio de 2026 sobre como o Google acelerou seu LLM Gemma e o de 6 de maio de 2026 sobre Multi-Token Prediction, mostraram que o Gemma 4 já usava decodificação especulativa para ser até 3 vezes mais rápido. Agora, com a difusão discreta, o DiffusionGemma atinge a marca de aproximadamente 1.500 tokens por segundo em uma única NVIDIA H100, um avanço substancialmente mais rápido. A matéria do CEVIU de 11 de junho de 2026 já mencionava o DiffusionGemma e sua capacidade de processar blocos de texto simultaneamente, mas agora temos a quantificação precisa dessa velocidade recorde. Isso significa que o Google não apenas aprimorou a velocidade, mas introduziu uma nova técnica fundamental para chegar lá.

Alcançar 1.500 tokens por segundo em uma única GPU NVIDIA H100 redefine o que é possível em termos de eficiência e escalabilidade na geração de conteúdo por IA. Essa velocidade elimina gargalos de decodificação sequencial que limitavam modelos autoregressivos, permitindo respostas quase instantâneas em aplicações em tempo real, como chatbots avançados, criação de conteúdo em massa e assistência de escrita. Para desenvolvedores e empresas, isso se traduz em custos operacionais mais baixos e maior capacidade de processamento, abrindo portas para novos produtos e serviços de IA que antes eram inviáveis devido à latência ou custo. Além disso, a manutenção de capacidades multimodais e suporte a contextos longos torna o DiffusionGemma uma ferramenta versátil e poderosa para o futuro da IA.