在最近的Advancing AI 主题演讲中，AMD 强调了服务器 CPU 在数据中心领域发挥的关键作用，并声称适当的 CPU-GPU 组合可以显著影响性能结果。
AMD EPYC 服务器 CPU：推理工作负载性能提升 17%
虽然人工智能领域对服务器 CPU 性能的关注常常被忽视，但这些处理器对于人工智能应用中的训练和推理任务至关重要。最近几个季度，AMD 显著巩固了其在数据中心领域的地位，尤其是其EPYC 服务器 CPU。这一增长使 AMD 成为这一竞争领域的关键参与者。在“Advancing AI”主题演讲中， AMD 执行副总裁Forrest Norrod详细阐述了在服务器配置中均衡 CPU 和 GPU 搭配的必要性。
在一项对比分析中，AMD 评估了其最新的EPYC 9575F 服务器 CPU与英特尔至强 8592+（第五代）处理器，两者均集成了Instinct MI300X 人工智能加速器。此次对比凸显了当客户未使用正确的 CPU 架构时，性能差异显著。必须指出的是，AMD 选择了其最新的 EPYC 9005 系列作为基准测试对象，而英特尔至强处理器则在近两年前推出。这两款 CPU 的架构相似，均采用64 核/128 线程配置，因此从规格上来看，两者的匹配相对公平。
AMD 发布的基准测试表明，采用 EPYC 9005 系列处理器，在使用Llama 3.1 8B AI 模型的各项测试中，性能平均提升 6% 。随着参数数量的增加，这一增幅甚至可能飙升至 17%。这些评估主要侧重于各种推理工作负载，凸显了合适的服务器 CPU 对整体性能的深远影响。然而，有人可能会质疑系统优化对这些结果的影响。
尽管基准测试存在细微差别，AMD 在服务器 CPU 市场仍继续见证大幅增长和普及，其市场份额在短时间内经历了令人瞩目的扩张。
发表回复