在最近的Advancing AI 主題演講中，AMD 強調了伺服器 CPU 在資料中心領域發揮的關鍵作用，並聲稱適當的 CPU-GPU 組合可以顯著影響效能結果。
AMD EPYC 伺服器 CPU：推理工作負載效能提升 17%
雖然人工智慧領域對伺服器 CPU 效能的關注常常被忽視，但這些處理器對於人工智慧應用中的訓練和推理任務至關重要。在最近幾季，AMD 顯著鞏固了其在資料中心領域的地位，尤其是其EPYC 伺服器 CPU。這一成長使 AMD 成為這一競爭領域的關鍵參與者。在「Advancing AI」主題演講中， AMD 執行副總裁Forrest Norrod詳細闡述了在伺服器設定中均衡 CPU 和 GPU 搭配的必要性。
在一項比較分析中，AMD 評估了其最新的EPYC 9575F 伺服器 CPU與英特爾至強 8592+（第五代）處理器，兩者均整合了Instinct MI300X 人工智慧加速器。此次對比凸顯了當客戶未使用正確的 CPU 架構時，效能差異顯著。必須指出的是，AMD 選擇了其最新的 EPYC 9005 系列作為基準測試對象，而英特爾至強處理器則在近兩年前推出。這兩款 CPU 的架構相似，均採用64 核心/128 執行緒配置，因此從規格來看，兩者的匹配相對公平。
AMD 發布的基準測試表明，採用 EPYC 9005 系列處理器，在使用Llama 3.1 8B AI 模型的各項測試中，性能平均提升 6% 。隨著參數數量的增加，這一增幅甚至可能飆升至 17%。這些評估主要著重於各種推理工作負載，凸顯了適當的伺服器 CPU 對整體效能的深遠影響。然而，有人可能會質疑系統優化對這些結果的影響。
儘管基準測試存在細微差別，AMD 在伺服器 CPU 市場仍持續見證大幅成長和普及，其市佔率在短時間內經歷了令人矚目的擴張。
發佈留言 ▼