D-Matrix Inova com Raptor para Inferência de IA em 100 TB/s com 3D DRAM

A d-Matrix está impulsionando uma nova arquitetura de hardware com seu acelerador Raptor, direcionado à inferência de IA em grande escala. O cerne da inovação é o empilhamento vertical de um die lógico N4 diretamente sobre 3D DRAM, buscando romper o gargalo de largura de banda que afeta a inferência de Modelos de Linguagem Grandes (LLMs). Enquanto soluções anteriores apostavam em SRAM (alta largura de banda, baixa capacidade) ou HBM (alta capacidade, largura de banda limitada), o Raptor se posiciona como um intermediário poderoso.

Esta abordagem permite uma largura de banda impressionante de 100 TB/s, com ganhos significativos em densidade e eficiência energética, aproximadamente 20 vezes a largura de banda por milímetro quadrado e 13,5 vezes melhor em mW por GB/s comparado ao HBM4. Técnicas como stream blocking, que otimiza o uso do barramento de dados, e a inversão do barramento de dados, que reduz o consumo de energia I/O em 20% sem hardware adicional, são cruciais para alcançar esses números. O objetivo é acelerar a fase de decodificação, que é a mais demorada na inferência de LLMs.

A cobertura anterior do CEVIU News, como em 9 de março de 2026, destacava o papel dos chips com arquitetura SRAM para inferência de IA, focando em baixa latência e alto throughput, mas ressaltando suas limitações de capacidade. A própria d-Matrix havia apresentado o acelerador Corsair em 2025, com foco em computação in-memory baseada em SRAM. O Raptor representa uma evolução clara: a empresa agora aposta no 3D DRAM para conciliar alta largura de banda e capacidade adequada, algo que o SRAM não conseguia entregar em larga escala.

Além disso, enquanto a Samsung anunciou em 5 de agosto de 2026 sua arquitetura zHBM para empilhamento direto de HBM sobre aceleradores, o Raptor da d-Matrix avança com um empilhamento semelhante, mas utilizando 3D DRAM, oferecendo uma alternativa ao HBM para alcançar densidade e largura de banda superiores. Isso mostra uma convergência da indústria para o empilhamento vertical, com diferentes abordagens de memória buscando a melhor solução para os desafios da IA.

O crescimento exponencial dos modelos de IA exige soluções que superem rapidamente as limitações de largura de banda e capacidade da memória. O Raptor da d-Matrix, com sua abordagem de 3D DRAM, ataca o ponto nevrálgico da inferência de LLMs: a fase de decodificação, que é intensiva em memória. Ao oferecer 100 TB/s e maior eficiência energética que as soluções HBM atuais, a d-Matrix pode redefinir o projeto de aceleradores de IA.

Se as promessas do Raptor forem comprovadas na prática, isso terá um impacto direto nos data centers, permitindo processamento mais rápido e econômico de modelos de trilhões de parâmetros. Essa inovação cria uma pressão competitiva significativa para gigantes como NVIDIA e AMD, incentivando o desenvolvimento de novas arquiteturas de memória e computação empilhadas para a próxima geração de cargas de trabalho de IA.