AMD demonstruje znaczenie procesorów EPYC klasy high-end dla maksymalizacji wydajności akceleratorów AI

Podczas niedawnego wystąpienia Advancing AI firma AMD podkreśliła kluczową rolę, jaką procesory serwerowe odgrywają w środowisku centrów danych, twierdząc, że odpowiednia kombinacja procesora i procesora graficznego może znacząco wpłynąć na wyniki wydajnościowe.

Procesory serwerowe AMD EPYC: zapewniają 17% wzrost wydajności w obciążeniach wnioskowania

Podczas gdy skupienie się na możliwościach procesorów serwerowych w sferze AI było często pomijane, procesory te są fundamentalne zarówno dla zadań szkoleniowych, jak i wnioskowania w aplikacjach sztucznej inteligencji. W ostatnich kwartałach AMD wyraźnie wzmocniło swoją pozycję w sektorze centrów danych, szczególnie dzięki swoim procesorom serwerowym EPYC. Ten wzrost pozwolił AMD wyłonić się jako kluczowy gracz na tej konkurencyjnej arenie. Podczas przemówienia Advancing AI Forrest Norrod, wiceprezes wykonawczy AMD, szczegółowo omówił konieczność dobrze wyważonego parowania procesorów i procesorów graficznych w konfiguracjach serwerowych.

W analizie porównawczej AMD oceniło swój najnowszy serwerowy procesor EPYC 9575F w porównaniu z procesorem Intel Xeon 8592+ (5.generacja), oba zintegrowane z akceleratorem AI Instinct MI300X. Porównanie uwypukliło znaczące rozbieżności w wydajności, które powstają, gdy klienci nie wykorzystują właściwej architektury procesora. Należy zauważyć, że AMD wybrało swoją najnowszą serię EPYC 9005 do tego testu porównawczego w porównaniu z procesorem Intel Xeon, który został wprowadzony na rynek prawie dwa lata wcześniej. Oba procesory mają podobną architekturę, wykorzystując konfigurację 64-rdzeniową/128-wątkową, co sprawia, że to zestawienie jest stosunkowo sprawiedliwe w oparciu o specyfikacje.

Testy porównawcze opublikowane przez AMD wskazują, że przyjęcie serii EPYC 9005 koreluje ze średnim wzrostem wydajności o 6% w różnych testach wykorzystujących model Llama 3.1 8B AI. Wzrost ten może wzrosnąć do 17% w miarę wzrostu liczby parametrów. Te oceny, skupiające się głównie na zróżnicowanych obciążeniach wnioskowania, podkreślają głęboki wpływ, jaki właściwy serwerowy procesor może mieć na ogólną wydajność. Można się jednak zastanawiać nad implikacjami optymalizacji systemu na te wyniki.

Pomimo niuansów związanych z testami porównawczymi, AMD nadal odnotowuje znaczący wzrost i popularność na rynku procesorów serwerowych, a jej udział w rynku w krótkim okresie czasu znacząco wzrósł.