AMD dimostra l’importanza delle CPU EPYC di fascia alta per massimizzare le prestazioni degli acceleratori AI: senza di esse, le prestazioni diminuiscono

Nel recente discorso di apertura Advancing AI, AMD ha sottolineato il ruolo cruciale che le CPU dei server svolgono nel panorama dei data center, affermando che la combinazione CPU-GPU appropriata può influire significativamente sulle prestazioni.

CPU server EPYC di AMD: aumento delle prestazioni del 17% nei carichi di lavoro di inferenza

Sebbene l’attenzione alle capacità delle CPU server nell’ambito dell’intelligenza artificiale sia stata spesso trascurata, questi processori sono fondamentali sia per le attività di training che per quelle di inferenza nelle applicazioni di intelligenza artificiale. Negli ultimi trimestri, AMD ha notevolmente rafforzato la propria posizione nel settore dei data center, in particolare con le sue CPU server EPYC. Questa crescita ha permesso ad AMD di emergere come attore chiave in questo ambito competitivo. Al keynote di Advancing AI, Forrest Norrod, Vicepresidente Esecutivo di AMD, ha sottolineato la necessità di un abbinamento CPU-GPU ben bilanciato nelle configurazioni server.

In un’analisi comparativa, AMD ha confrontato la sua ultima CPU server EPYC 9575F con la Xeon 8592+ (quinta generazione) di Intel, entrambe integrate con l’ acceleratore AI Instinct MI300X. Il confronto ha evidenziato le significative discrepanze prestazionali che si verificano quando i clienti non utilizzano la corretta architettura della CPU.È fondamentale riconoscere che AMD ha selezionato la sua serie EPYC 9005 più recente per questo benchmark, confrontandola con la Xeon di Intel, lanciata quasi due anni prima. Entrambe le CPU presentano un’architettura simile, con una configurazione a 64 core/128 thread, rendendo questo confronto relativamente equo in base alle specifiche.

I benchmark pubblicati da AMD indicano che l’adozione della serie EPYC 9005 si correla a un aumento medio delle prestazioni del 6% in vari test che utilizzano il modello di intelligenza artificiale Llama 3.1 8B. Questo aumento può salire fino al 17% con l’aumentare del numero di parametri. Queste valutazioni, incentrate principalmente su diversi carichi di lavoro di inferenza, sottolineano il profondo effetto che la CPU del server giusta può avere sulle prestazioni complessive. Tuttavia, ci si potrebbe chiedere quali siano le implicazioni delle ottimizzazioni di sistema su questi risultati.

Nonostante le sfumature che circondano i benchmark, AMD continua a registrare una crescita e un’adozione sostanziali nel mercato delle CPU per server, con la sua quota di mercato che ha sperimentato espansioni impressionanti in un breve periodo.