Como acelerar modelos para codegen

Morph LLM não está só acelerando modelos de código, está redefinindo onde a otimização começa. Enquanto a maioria dos esforços em speculative decoding foca em arquiteturas genéricas (como EAGLE-3 ou DFlash), o Morph treina cada drafter *especificamente* nos outputs de coding do modelo-alvo: diffs, edits, repetições de contexto, símbolos já na tela. Isso explica o salto de 1,93x para 3,07x, não é só mais um draft pequeno, é um modelo que aprendeu o ritmo do agente programador: 97% de tokens repetidos entre turns, prompts 37x a 2.494x maiores que as respostas. A aceleração vem da fidelidade ao workload, não à escala.

O Autoresearch de kernels vai além de ajuste fino: ele transforma a otimização em busca automatizada com verificação rigorosa contra traces reais de agentes, não benchmarks sintéticos. Isso permite extrair 162 tok/s de uma RTX PRO 6000 de $7K, superando até um H100 de $25K. Já o interconnect over PCIe não é 'substituição pobre' do NVLink: é uma reengenharia do fluxo de dados. Ao unir o drafter treinado (que aumenta hit rate) com o HiCache distribuído via TCP, o Morph faz o tempo de primeiro token cair 84%, porque pular o prefill vale mais que a latência da rede.

Em maio, o CEVIU cobriu o DFlash atingindo 6x em Qwen3-8B e os drafters multi-token do Gemma 4 com ganhos de até 3x, mas todos usavam drafters genéricos ou pré-treinados em dados abertos. Agora, o Morph mostra que o salto real vem do *treino específico no output do próprio modelo-alvo*. O ganho de 3,07x não é incremental: é o primeiro caso documentado em produção de um drafter treinado exclusivamente em outputs de coding (não em web text), validado em modelos como Qwen, GLM e DeepSeek. Também é a primeira vez que kernels são autopesquisados *em hardware acessível* (RTX PRO 6000, MI250), não só em H100, e que o cache distribuído via TCP vira vantagem prática, não fallback.

Agentes de programação estão virando infraestrutura crítica, não um experimento. Se cada segundo de latência custa produtividade em editores, CI/CD ou pair programming assistido, então 84% menos tempo até o primeiro token muda SLA. Mais importante: essa abordagem desafia a lógica de 'escalar mais' como única saída. Morph prova que, para workloads intensivos e repetitivos como coding, otimizar o *uso* dos pesos abertos, com treino direcionado, kernels adaptados e comunicação redesenhada, gera ganhos maiores que trocar hardware. É IA aplicada com foco cirúrgico, não com força bruta.