AMD Radeon RX 7900 XTX 在 DeepSeek AI 推理基准测试中胜过 NVIDIA GeForce RTX 4090:如何在本地 AMD 系统上运行 R1

AMD Radeon RX 7900 XTX 在 DeepSeek AI 推理基准测试中胜过 NVIDIA GeForce RTX 4090:如何在本地 AMD 系统上运行 R1

AMD 的 Radeon RX 7900 XTX 已成为 AI 推理领域的强大竞争者,在使用 DeepSeek 的 R1 AI 模型的基准测试中超越了 NVIDIA 的 GeForce RTX 4090。这一发展标志着计算领域的重大转变,使高级 AI 功能更容易被日常用户使用。

DeepSeek 的 R1 AI 模型:AMD 的竞争优势

DeepSeek 最新 AI 模型的发布在科技界引起了极大的轰动。对于那些质疑运行该模型的计算需求的人来说,采用其“RDNA 3”架构的 AMD Radeon RX 7900 XTX GPU 足以完成这项任务。最近的基准测试表明,AMD 的旗舰 RX 7000 系列在各种型号上都比 NVIDIA 同类产品具有明显的性能优势。

使用 AMD GPU 进行本地 AI 处理的优势

对于利用消费级 GPU 执行 AI 任务的个人而言,AMD Radeon 系列是一个极具吸引力的选择,与传统 AI 加速器相比,它具有出色的性价比。在本地运行 AI 模型不仅可以提高性能,还可以解决与使用云服务相关的重大隐私问题,尤其是 DeepSeek AI 解决方案处理的数据。

在 AMD 硬件上运行 DeepSeek R1 的分步指南

开始使用 DeepSeek 的 R1 模型非常简单。请按照以下步骤获得最佳性能:

步骤 1:确保您使用的是 Adrenalin 驱动程序版本 25.1.1 Optional 或更高版本。

第 2 步:从lmstudio.ai/ryzenai下载 LM Studio 0.3.8 或更高版本。

步骤 3:安装 LM Studio 并绕过入职屏幕。

步骤4:点击“发现”选项卡。

第 5 步:选择所需的 DeepSeek R1 提取。建议使用 Qwen 1.5B 等较小的模型以提高速度,而较大的模型则提供增强的推理能力。

第六步:在右侧选择“Q4 KM”量化,点击“下载”。

第 7 步:下载后,返回聊天选项卡,从下拉菜单中选择 DeepSeek R1 提取,并确保选中“手动选择参数”。

步骤 8:在 GPU 卸载层中,将滑块移动到最大设置。

第九步:点击“模型加载”。

第 10 步:开始与本地运行的推理模型进行交互!

其他资源和未来趋势

如果您遇到困难,AMD 还在 YouTube 上创建了一个详细的教程,其中介绍了在本地 AMD 机器上运行 DeepSeek 大型语言模型的设置过程。这对于关注数据安全和隐私的用户尤其有益。

展望未来,AMD 和 NVIDIA 即将推出的全新 GPU 有望在推理能力方面取得实质性进步,这在一定程度上要归功于专为更高效处理苛刻工作负载而设计的专用 AI 引擎。

来源及图片

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注