AMD Radeon RX 7900 XTX 在 DeepSeek AI 推理基準測試中的表現優於 NVIDIA GeForce RTX 4090:如何在本地 AMD 系統上運行 R1

AMD Radeon RX 7900 XTX 在 DeepSeek AI 推理基準測試中的表現優於 NVIDIA GeForce RTX 4090:如何在本地 AMD 系統上運行 R1

AMD 的 Radeon RX 7900 XTX 已成為人工智慧推理領域的有力競爭者,在使用 DeepSeek 的 R1 人工智慧模型的基準測試中,其表現優於 NVIDIA 的 GeForce RTX 4090。這一發展標誌著計算領域的重大轉變,使日常用戶更容易使用先進的人工智慧功能。

DeepSeek 的 R1 AI 模型:AMD 的競爭優勢

DeepSeek 最新人工智慧模型的發佈在科技界引起了極大的關注。對於那些質疑運行該模型的運算需求的人來說,AMD Radeon RX 7900 XTX GPU 利用其「RDNA 3」架構,證明足以完成該任務。最近的基準測試表明,AMD 旗艦產品 RX 7000 系列在各種型號上比 NVIDIA 同類產品具有顯著的性能優勢。

AMD GPU 本地 AI 處理的優勢

對於利用消費級 GPU 執行 AI 任務的個人來說,AMD Radeon 系列提供了一個引人注目的選擇,與傳統 AI 加速器相比,它提供了卓越的性價比。在本地運行人工智慧模型不僅可以提高效能,還可以解決與使用雲端服務相關的重大隱私問題,特別是關於 DeepSeek 人工智慧解決方案處理的資料。

在 AMD 硬體上運行 DeepSeek R1 的逐步指南

DeepSeek 的 R1 車型入門非常簡單。請依照以下步驟獲得最佳效能:

步驟 1:確保您使用的是 Adrenalin 驅動程式版本 25.1.1 可選或更高版本。

步驟 2:從lmstudio.ai/ryzenai下載 LM Studio 0.3.8 或更高版本。

步驟 3:安裝 LM Studio 並繞過入門畫面。

第四步:點選「發現」標籤。

步驟 5:選擇您想要的 DeepSeek R1 精華。建議使用 Qwen 1.5B 等較小的模型來提高速度,而較大的模型則提供增強的推理能力。

步驟6:在右側,選擇“Q4 KM”量化並點擊“下載”。

步驟7:下載後,返回聊天選項卡,從下拉清單中選擇DeepSeek R1 distill,並確保選取「手動選擇參數」。

步驟 8:在 GPU 卸載層中,將滑桿移至最大設定。

第9步:點選「模型載入」。

第 10 步:開始與本地運行的推理模型互動!

其他資源和未來趨勢

如果您遇到困難,AMD 還在 YouTube 上創建了詳細教程,逐步介紹在本地 AMD 計算機上運行 DeepSeek 大型語言模型的設定過程。這對於關注資料安全和隱私的用戶尤其有利。

展望未來,AMD 和 NVIDIA 預計推出的新型 GPU 有望在推理能力方面取得重大進步,這在一定程度上要歸功於旨在更有效地處理要求苛刻的工作負載的專用 AI 引擎。

來源&圖片

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *