CEVIU Logo
Voltar

NVIDIA lança Nemotron 3 Super: Modelo MoE Híbrido para Sistemas de IA Avançados

Aprofundamento CEVIU

Aprofundamento

O Nemotron 3 Super não é só mais um modelo grande: é um salto arquitetural em eficiência para agentes reais. Sua arquitetura LatentMoE, que comprime tokens antes de distribuí-los entre especialistas, permite ativar quatro vezes mais especialistas pelo mesmo custo computacional, algo inédito em modelos MoE abertos. Isso, somado à janela nativa de 1 milhão de tokens e à decodificação especulativa integrada, transforma o modelo em uma peça-chave para sistemas multiagentes que precisam manter contexto longo sem travar ou explodir em latência.

Ele foi treinado com NVFP4 em GPUs B200, o que explica o ganho de 4× na velocidade de inferência em relação ao FP8 no H100, um detalhe técnico crucial para quem opera infraestrutura em escala. E apesar de ter 120 bilhões de parâmetros totais, sua ativação de apenas 12 bilhões por token significa que empresas podem rodá-lo em clusters menores do que os exigidos por modelos densos da mesma classe, como o GPT-OSS-120B, que ainda depende de FP8 ou FP16 para estabilidade.

Por que isso importa

Modelos abertos com desempenho de fronteira costumavam ser raros fora de laboratórios acadêmicos ou grandes corporações. O Nemotron 3 Super muda isso: pesos, dados e receitas estão disponíveis, e ele roda nativamente em vLLM, Ollama e llama.cpp, ou seja, pode ser implantado localmente por startups de cibersegurança, equipes de DevOps ou até laboratórios de TI públicos. Isso reduz a dependência de APIs fechadas e abre espaço para agentes personalizados que operam dentro de firewalls, com controle total sobre dados, prompts e lógica de decisão.

Perguntas frequentes

O Nemotron 3 Super é realmente aberto?

Sim. A NVIDIA liberou pesos, conjuntos de dados de treinamento e receitas completas de fine-tuning e RL. Não há restrições de licença para uso comercial, modificação ou redistribuição, diferentemente de muitos modelos 'open-weight' que impõem cláusulas restritivas.

Qual é a diferença entre Nemotron 3 Super e o GPT-OSS-120B?

O Nemotron 3 Super tem throughput 2,2× maior em cargas pesadas (8k entrada / 64k saída) e pontuação de 91,75 no RULER com 1 milhão de tokens, contra 22,30 do GPT-OSS-120B. Além disso, usa NVFP4 em B200, enquanto o GPT-OSS ainda depende de FP8/H100 e não oferece suporte nativo a MoE híbrido Mamba-Transformer.

Posso rodar o Nemotron 3 Super em hardware doméstico?

Não diretamente: ele exige pelo menos 2× GPUs B200 (ou equivalente em memória e largura de banda) para inferência estável em plena janela de 1 milhão de tokens. Mas versões quantizadas para vLLM ou llama.cpp já estão disponíveis em Hugging Face, permitindo testes em configurações menores com perda controlada de qualidade.

Por que a arquitetura Mamba-Transformer importa para agentes?

A combinação aproveita a eficiência sequencial do Mamba (baixo consumo de memória em longos contextos) com a capacidade de raciocínio simbólico do Transformer. Isso permite que agentes mantenham estado coerente por milhares de passos, essencial para tarefas como depuração de código ou análise forense de logs, sem degradação progressiva de desempenho.

Fontes

Avalie este artigo:
Compartilhar:
Categoria
CEVIU IA
Publicado
12 de março de 2026
Editoria
CEVIU IA

Quer receber mais sobre CEVIU IA?

Conteúdo curado diariamente, direto no seu e-mail.

Conteúdo curado diariamenteDiversas categoriasCancele quando quiser