作為 MLPerf Inference v5.1 評估的一部分，英特爾發布了其 Project Battlematrix 工作站（採用 Arc Pro B60 GPU）的新基準測試結果。
效能洞察：搭載 Arc Pro B60 GPU 和 Xeon 6 CPU 的英特爾 Project Battlematrix
新聞稿：MLCommons發布了最新的 MLPerf Inference v5.1 基準測試，展現了英特爾先進的 GPU 系統，這是一個重大進展。這些系統採用英特爾至強處理器，搭配 P 核心和 Arc Pro B60 GPU，統稱為「Project Battlematrix」。
基準測試表明，Intel Arc Pro B60 在 Llama 8B 基準測試中實現了高達 1.25 倍的性價比提升，並展現出比 NVIDIA RTX Pro 6000 和 L40S 高達四倍的驚人性能優勢。這項性能亮點標誌著英特爾在透過全英特爾硬體實現先進 AI 推理解決方案方面邁出了重要一步。
這項發展的意義
對於需要強大 AI 推理平台的專業人士來說，選擇明顯有限。他們越來越關注如何找到解決方案，既能提供卓越的推理效能，又能確保資料隱私，並避免專有 AI 模型帶來的高昂訂閱費用。 Project Battlematrix 旨在透過提供能夠有效部署大型語言模型 (LLM) 的全面解決方案來填補這一空白。
英特爾的全新 GPU 系統不僅旨在處理現代 AI 任務，更旨在提供一個包羅萬象的推理平台，將可靠的硬體與經過驗證的軟體框架融合在一起。這些系統配備了針對 Linux 環境最佳化的全新容器化解決方案，透過多 GPU 擴充和 PCIe 點對點資料傳輸，實現了卓越的推理效能，這充分體現了其對使用者體驗的重視。
CPU 在 AI 系統中的重要作用
CPU 始終是 AI 系統架構的核心，是處理、傳輸和整體系統管理的關鍵協調器。過去四年來，英特爾不斷提升其 CPU 在 AI 應用中的效能。這些進步使英特爾至強處理器成為在 GPU 驅動的系統中有效管理 AI 工作負載的首選。
英特爾作為唯一一家向 MLPerf 提交伺服器 CPU 測試結果的供應商，進一步彰顯了其對卓越的追求，展現了其致力於提升運算和加速器平台上 AI 推理能力的決心。值得一提的是，搭載 P 核心的英特爾至強 6 處理器在最新的 MLPerf Inference v5.1 基準測試中，效能較上一代提升了 1.9 倍。
發佈留言