NVIDIA Blackwell lidera em primeiro benchmark de infraestrutura para IA agentic

O AgentPerf, lançado em abril de 2024 pela Artificial Analysis, é o primeiro benchmark do mundo focado exclusivamente em infraestrutura para IA agentic, não em modelos isolados, mas em quantos agentes concorrentes um sistema consegue executar com baixa latência e alta eficiência energética. Ele simula cargas reais: sessões de codificação multi-turn com raciocínio intercalado (como no DeepSeek V4 Pro), chamadas de ferramentas e contextos variáveis em 12+ linguagens. A métrica-chave é 'agentes por megawatt', normalizada por acelerador, o que elimina viés de escala e força comparações justas entre arquiteturas.

A NVIDIA Blackwell Ultra NVL72 (parte da plataforma GB300) liderou a rodada inicial com 20× mais agentes por megawatt que a geração Hopper, resultado diretamente ligado ao seu design físico: 72 GPUs B200 + 36 CPUs Grace em rack resfriado a líquido, interconexão NVLink de 130 TB/s, 37 TB de memória unificada e largura de banda entre dies de 10 TB/s via NV-HBI. Isso permite que cada agente execute múltiplas etapas (planejamento, tool calling, reflexão) sem gargalos de comunicação ou calor.

IA agentic não é só sobre 'mais tokens', é sobre execução autônoma. Um único agente pode fazer 50 chamadas de API, gerar código, testá-lo, corrigir erros e submeter PRs sem intervenção. Isso exige infraestrutura que sustente centenas de fluxos paralelos com baixa latência por passo. O AgentPerf mede exatamente isso: se seu rack entrega 100 agentes com <500ms de tempo para o primeiro token e >12 tokens/s, ele está pronto para produção. Sem benchmarks assim, empresas gastam milhões em GPUs que travam sob carga real de agentes, como já relatado por equipes da Accenture e Thoughtworks em testes internos com Llama-3-MoE e o1-preview.

Para devs e SREs, o resultado do AgentPerf muda a forma de dimensionar infraestrutura. Não basta olhar para FLOPS ou VRAM: agora é preciso priorizar largura de banda NVLink, latência de memória unificada e eficiência térmica por watt. A Blackwell Ultra NVL72 atinge 144 petaFLOPS de inferência com 132, 140 kW, ou seja, um único rack substitui dezenas de servidores Hopper em cenários de orquestração de agentes. Isso impacta decisões práticas: escolher GB300 NVL72 em vez de clusters de H100 reduz custos operacionais em até 40%, segundo dados preliminares da Equinix em testes com frameworks como LangGraph e AutoGen. E para quem usa workstations, as novas RTX Pro 4000 SFF (Blackwell, 70W TDP) já rodam agentes locais com desempenho compatível com servidores anteriores, útil para desenvolvimento iterativo antes de escalar para cloud.