A NVIDIA apresentou sua mais recente solução de computação para hiperescaladores: o Blackwell Ultra. Testes recentes do GB300 NVL72 revelam seu desempenho excepcional, principalmente em aplicações de baixa latência e contexto extenso.
Racks Blackwell Ultra AI da NVIDIA: desempenho de agentes aprimorado por meio dos avanços do NVLink
O cenário da IA passou por transformações profundas desde sua ascensão em 2022, com uma ênfase notável na computação agente, impulsionada por aplicações e frameworks avançados. Para provedores de infraestrutura como a NVIDIA, a necessidade de alta largura de banda e desempenho de memória é crucial para atender às rigorosas demandas de latência desses sistemas sofisticados. A série Blackwell Ultra supera esse desafio com eficácia. Em uma avaliação recente compartilhada pela NVIDIA em uma postagem de blog, o Blackwell Ultra demonstrou resultados excepcionais no benchmark InferenceMAX da SemiAnalysis.
A NVIDIA destaca uma métrica crucial, denominada “token/watt”, que é fundamental no desenvolvimento de hiperescaladores atualmente. O foco tanto no desempenho bruto quanto nas melhorias de throughput é evidente, com a GB300 NVL72 alcançando um aumento notável de 50 vezes no throughput por megawatt em comparação com a geração anterior de GPUs Hopper. Uma comparação ilustrativa mostra o “estado de implantação” ideal de cada arquitetura respectiva.
Como a NVIDIA consegue ganhos de desempenho tão impressionantes? A resposta está na sua tecnologia NVLink de ponta. O Blackwell Ultra possui uma configuração de 72 GPUs que se unificam em uma única estrutura NVLink, oferecendo uma conectividade impressionante de 130 TB/s. Em contraste, a série Hopper utiliza um design NVLink de 8 chips que, embora eficaz, não se compara à arquitetura e ao layout inovadores do Blackwell Ultra. Além disso, a introdução do formato de precisão NVFP4 é fundamental, consolidando o domínio do GB300 em termos de desempenho.
Com a ascensão da “IA ativa”, as avaliações da NVIDIA sobre o GB300 NVL72 também enfatizam os custos dos tokens, juntamente com as melhorias já mencionadas. A Team Green relata uma redução significativa de 35 vezes no custo por milhão de tokens, posicionando este sistema como a principal escolha para tarefas de inferência entre laboratórios de ponta e hiperescaladores.À medida que as leis de escalabilidade continuam a evoluir a uma velocidade sem precedentes, a NVIDIA atribui essas melhorias de desempenho à sua estratégia de “design conjunto extremo”, juntamente com o que agora é amplamente reconhecido como a Lei de Huang.
Ao comparar o GB300 NVL72 com a série Hopper, é essencial reconhecer as diferenças sutis nos nós de computação e nos projetos arquitetônicos. A NVIDIA também comparou o GB200 com o GB300 NVL72 para avaliar o desempenho em cargas de trabalho de contexto longo. As limitações contextuais continuam sendo uma consideração importante para agentes, já que o gerenciamento de uma base de código extensa pode aumentar exponencialmente o uso de tokens. Com o Blackwell Ultra, a NVIDIA consegue relatar custos por token até 1, 5 vezes menores e processamento de atenção 2 vezes mais rápido, tornando-o excepcionalmente adequado para tarefas centradas em agentes.
Com a integração inicial do Blackwell Ultra em ambientes de hiperescala, esses benchmarks representam algumas das primeiras avaliações dessa arquitetura. Os resultados iniciais sugerem que a NVIDIA manteve uma escalabilidade de desempenho robusta, alinhada com as aplicações de IA contemporâneas. Além disso, com os avanços futuros, como os esperados do Vera Rubin, a geração Blackwell pode impulsionar ainda mais a NVIDIA no competitivo cenário de infraestrutura.