AMD demonstriert die Bedeutung von High-End-EPYC-CPUs zur Maximierung der Leistung von KI-Beschleunigern

Während der jüngsten Keynote zum Thema „Advancing AI“ betonte AMD die entscheidende Rolle, die Server-CPUs in der Rechenzentrumslandschaft spielen, und behauptete, dass die geeignete CPU-GPU-Kombination die Leistungsergebnisse erheblich beeinflussen kann.

AMDs EPYC-Server-CPUs: 17 % mehr Leistung bei Inferenz-Workloads

Obwohl der Fokus auf Server-CPU-Leistungen im KI-Bereich oft vernachlässigt wird, sind diese Prozessoren sowohl für Trainings- als auch für Inferenzaufgaben in KI-Anwendungen von grundlegender Bedeutung. In den letzten Quartalen hat AMD seine Position im Rechenzentrumssektor deutlich gestärkt, insbesondere mit seinen EPYC-Server-CPUs. Dieses Wachstum hat es AMD ermöglicht, sich als wichtiger Akteur in diesem wettbewerbsintensiven Bereich zu etablieren. In der Keynote zu Advancing AI erläuterte Forrest Norrod, Executive Vice President von AMD, die Notwendigkeit einer ausgewogenen CPU- und GPU-Kombination in Serverkonfigurationen.

In einer Vergleichsanalyse verglich AMD seine neueste Server-CPU EPYC 9575F mit Intels Xeon 8592+ (5. Generation), beide mit dem KI-Beschleuniger Instinct MI300X. Der Vergleich verdeutlichte die erheblichen Leistungsunterschiede, die entstehen, wenn Kunden nicht die richtige CPU-Architektur verwenden. Es ist wichtig zu beachten, dass AMD für diesen Benchmark seine neueste EPYC 9005-Serie gegenüber Intels Xeon ausgewählt hat, der fast zwei Jahre zuvor auf den Markt kam. Beide CPUs verfügen über eine ähnliche Architektur mit 64 Kernen und 128 Threads, sodass dieser Vergleich aufgrund der Spezifikationen relativ ausgeglichen ist.

Die von AMD veröffentlichten Benchmarks zeigen, dass die Einführung der EPYC 9005-Serie mit einer durchschnittlichen Leistungssteigerung von 6 % in verschiedenen Tests mit dem Llama 3.1 8B KI-Modell einhergeht. Mit zunehmender Parameteranzahl kann dieser Anstieg auf bis zu 17 % steigen. Diese Auswertungen, die sich hauptsächlich auf verschiedene Inferenz-Workloads konzentrieren, unterstreichen den erheblichen Einfluss der richtigen Server-CPU auf die Gesamtleistung. Es stellt sich jedoch die Frage, welche Auswirkungen Systemoptimierungen auf diese Ergebnisse haben.

Trotz der Nuancen rund um die Benchmarks verzeichnet AMD weiterhin ein beträchtliches Wachstum und eine starke Akzeptanz auf dem Markt für Server-CPUs, wobei sein Marktanteil innerhalb kurzer Zeit beeindruckende Zuwächse verzeichnet.

https://www.youtube.com/watch?v=5dmFa9iXPWI

AMD Advancing AI Keynote (https://www.youtube.com/watch?v=5dmFa9iXPWI)

Quelle & Bilder