Projeto Battlematrix da Intel com GPUs Arc Pro B60 alcança desempenho 4x por dólar em comparação com a NVIDIA nos benchmarks do MLPerf v5.1

A Intel divulgou novos resultados de benchmark para sua estação de trabalho Project Battlematrix, com GPUs Arc Pro B60, como parte das avaliações do MLPerf Inference v5.1.

Insights de desempenho: Intel Project Battlematrix com GPUs Arc Pro B60 e CPUs Xeon 6

Comunicado à Imprensa: Em um desenvolvimento significativo, a MLCommons revelou os benchmarks mais recentes do MLPerf Inference v5.1, apresentando os sistemas de GPU avançados da Intel. Esses sistemas utilizam processadores Intel Xeon combinados com núcleos P e GPUs Arc Pro B60, coletivamente chamados de Projeto Battlematrix.

Os benchmarks indicam que o Intel Arc Pro B60 alcança um desempenho até 1, 25 vez melhor por dólar no benchmark Llama 8B e demonstra uma impressionante vantagem de desempenho de até quatro vezes sobre a RTX Pro 6000 e a L40S da NVIDIA. Este destaque de desempenho marca um passo significativo para tornar soluções avançadas de inferência de IA acessíveis principalmente por meio de hardware totalmente Intel.

A importância deste desenvolvimento

Para profissionais que necessitam de plataformas robustas de inferência de IA, as opções têm sido notavelmente limitadas. A necessidade de uma solução que ofereça excelente desempenho de inferência, garantindo a privacidade dos dados e evitando as altas taxas de assinatura associadas a modelos proprietários de IA, tem sido uma preocupação crescente. A iniciativa do Projeto Battlematrix visa preencher essa lacuna, fornecendo uma solução abrangente que possa implementar modelos de linguagem de grande porte (LLMs) com eficácia.

Os novos sistemas de GPU da Intel são projetados não apenas para lidar com tarefas modernas de IA, mas também para fornecer uma plataforma de inferência completa, combinando hardware confiável com estruturas de software validadas. O foco na experiência do usuário é evidente, pois esses sistemas vêm equipados com uma nova solução em contêiner otimizada para ambientes Linux, facilitando um desempenho de inferência excepcional por meio de escalonamento multi-GPU e transferências de dados ponto a ponto PCIe.

O papel essencial das CPUs em sistemas de IA

As CPUs continuam sendo essenciais para a arquitetura de sistemas de IA, atuando como orquestradoras essenciais para processamento, transmissão e gerenciamento geral do sistema. Nos últimos quatro anos, a Intel aprimorou consistentemente o desempenho de suas CPUs em aplicações de IA. Esses avanços posicionaram os processadores Intel Xeon como a escolha preferencial para o gerenciamento eficaz de cargas de trabalho de IA em sistemas com GPU.

O compromisso da Intel com a excelência é ainda mais destacado por sua posição como o único fornecedor a enviar resultados de CPU de servidor ao MLPerf, demonstrando sua dedicação em aprimorar os recursos de inferência de IA em plataformas computacionais e aceleradoras. Notavelmente, a introdução do processador Intel Xeon 6 com núcleos P resultou em um aumento de desempenho de 1, 9 vez em relação à geração anterior nos benchmarks mais recentes do MLPerf Inference v5.1.

Fonte e Imagens