作为 MLPerf Inference v5.1 评估的一部分，英特尔发布了其 Project Battlematrix 工作站（采用 Arc Pro B60 GPU）的新基准测试结果。
性能洞察：搭载 Arc Pro B60 GPU 和 Xeon 6 CPU 的英特尔 Project Battlematrix
新闻稿：MLCommons发布了最新的 MLPerf Inference v5.1 基准测试，展现了英特尔先进的 GPU 系统，这是一个重大进展。这些系统采用英特尔至强处理器，搭配 P 核和 Arc Pro B60 GPU，统称为“ Project Battlematrix”。
基准测试表明，英特尔 Arc Pro B60 在 Llama 8B 基准测试中实现了高达 1.25 倍的性价比提升，并展现出比 NVIDIA RTX Pro 6000 和 L40S 高达四倍的惊人性能优势。这一性能亮点标志着英特尔在通过全英特尔硬件实现先进 AI 推理解决方案方面迈出了重要一步。
这一发展的意义
对于需要强大 AI 推理平台的专业人士来说，选择明显有限。他们越来越关注如何找到一种解决方案，既能提供卓越的推理性能，又能确保数据隐私，并避免专有 AI 模型带来的高昂订阅费用。Project Battlematrix 旨在通过提供能够有效部署大型语言模型 (LLM) 的全面解决方案来填补这一空白。
英特尔的全新 GPU 系统不仅旨在处理现代 AI 任务，更旨在提供一个包罗万象的推理平台，将可靠的硬件与经过验证的软件框架融合在一起。这些系统配备了针对 Linux 环境优化的全新容器化解决方案，通过多 GPU 扩展和 PCIe 点对点数据传输，实现了卓越的推理性能，这充分体现了其对用户体验的重视。
CPU 在 AI 系统中的重要作用
CPU 始终是 AI 系统架构的核心，是处理、传输和整体系统管理的关键协调器。过去四年来，英特尔不断提升其 CPU 在 AI 应用中的性能。这些进步使英特尔至强处理器成为在 GPU 驱动的系统中有效管理 AI 工作负载的首选。
英特尔作为唯一一家向 MLPerf 提交服务器 CPU 测试结果的供应商，进一步彰显了其对卓越的追求，展现了其致力于提升计算和加速器平台上 AI 推理能力的决心。值得一提的是，搭载 P 核的英特尔至强 6 处理器在最新的 MLPerf Inference v5.1 基准测试中，性能较上一代提升了 1.9 倍。
发表回复