DFlash 2 revoluciona inferência de LLMs com decodificação especulativa aprimorada

O DFlash 2 aprimora a decodificação especulativa, um método onde um modelo "rascunho" (draft model) sugere um bloco de tokens para o modelo principal verificar de uma vez. O DFlash original já tornava essa etapa de rascunho paralela. O DFlash 2 agora foca em dois pontos-chave: a seleção de caminho (path selector) e a redução do decaimento do sufixo (suffix decay).

O path selector melhora a coerência dos tokens propostos. Ele escolhe o token mais adequado dentre os candidatos já gerados pelo drafter, sem precisar de correções autoregressivas caras. Isso é feito com um score leve para pares adjacentes de tokens. Já a correção do suffix decay usa uma convolução local leve para tratar dependências dentro do bloco de tokens. Isso combate a queda de precisão no final do rascunho, sem adicionar a complexidade de mais camadas de transformadores.

A cobertura anterior do CEVIU, em **9 de fevereiro de 2026** e **16 de junho de 2026**, detalhou o impacto do DFlash original. Ele levou a decodificação especulativa a um novo patamar, permitindo que o rascunho de tokens ocorresse em paralelo, não mais um token por vez. O DFlash 2 avança nessa premissa, refinando a qualidade e a extensão dos rascunhos.

Com o DFlash original, a verificação muitas vezes cortava o rascunho se ele se tornasse incoerente. Agora, com o DFlash 2, um mecanismo de seleção de caminho e uma convolução local garantem que o modelo aceite blocos mais longos e coerentes, entregando cerca de 20% mais output por passagem. A notícia atual aponta que o DFlash original, mencionado em nossa cobertura de **9 de fevereiro de 2026**, já acumulava mais de 3.5 milhões de downloads até **agosto de 2026**. Ele era adotado por grandes players como Nvidia e Google. A evolução para o DFlash 2 aprofunda os ganhos dessa tecnologia já consolidada no mercado.

A inferência de Large Language Models (LLMs) é um gargalo na "era dos agentes" de IA. Nela, o consumo de tokens é massivo. Acelerar esse processo, sem perder qualidade, é fundamental para reduzir custos e viabilizar aplicações em larga escala. O DFlash 2, ao aumentar a taxa de tokens por segundo em até três vezes comparado à decodificação autoregressiva tradicional, representa um salto na eficiência computacional.

Isso significa que mais tarefas complexas podem ser executadas com IA, mais rapidamente e com menos recursos. Isso impacta diretamente o desenvolvimento de agentes autônomos e sistemas de IA conversacionais que demandam alta performance e respostas em tempo real.