AMD demonstra a importância das CPUs EPYC de ponta para maximizar o desempenho dos aceleradores de IA

Durante a recente palestra Advancing AI, a AMD enfatizou o papel crítico que as CPUs de servidor desempenham no cenário de data center, afirmando que a combinação apropriada de CPU-GPU pode afetar significativamente os resultados de desempenho.

CPUs de servidor EPYC da AMD: proporcionando um aumento de 17% no desempenho em cargas de trabalho de inferência

Embora o foco nos recursos de CPU de servidor na esfera da IA tenha sido frequentemente negligenciado, esses processadores são fundamentais para tarefas de treinamento e inferência em aplicações de inteligência artificial. Nos últimos trimestres, a AMD fortaleceu significativamente sua posição no setor de data center, particularmente com suas CPUs de servidor EPYC. Esse crescimento permitiu que a AMD se destacasse como um player-chave nessa arena competitiva. Na palestra “Advancing AI”, Forrest Norrod, vice-presidente executivo da AMD, detalhou a necessidade de um par de CPU e GPU bem equilibrado em configurações de servidor.

Em uma análise comparativa, a AMD avaliou sua mais recente CPU de servidor EPYC 9575F em comparação com o Intel Xeon 8592+ (5ª geração), ambos integrados ao acelerador de IA Instinct MI300X. A comparação destacou as discrepâncias significativas de desempenho que surgem quando os clientes não utilizam a arquitetura de CPU correta.É essencial reconhecer que a AMD selecionou sua mais recente série EPYC 9005 para este benchmark em comparação com o Intel Xeon, lançado quase dois anos antes. Ambas as CPUs apresentam arquitetura semelhante, com uma configuração de 64 núcleos/128 threads, tornando esta comparação relativamente justa com base nas especificações.

Os benchmarks divulgados pela AMD indicam que a adoção da série EPYC 9005 se correlaciona com um aumento médio de desempenho de 6% em vários testes utilizando o modelo de IA Llama 3.1 8B. Esse aumento pode chegar a 17% à medida que a contagem de parâmetros aumenta. Essas avaliações, com foco principal em diversas cargas de trabalho de inferência, ressaltam o profundo efeito que a CPU de servidor correta pode ter no desempenho geral. No entanto, pode-se questionar as implicações das otimizações do sistema nesses resultados.

Apesar das nuances em torno dos benchmarks, a AMD continua testemunhando crescimento e adoção substanciais no mercado de CPU de servidor, com sua participação de mercado experimentando expansões impressionantes em um breve período.