AMD Radeon RX 7900 XTX przewyższa NVIDIA GeForce RTX 4090 w testach DeepSeek AI Inference Benchmarki: Jak uruchomić R1 na lokalnym systemie AMD

Karta Radeon RX 7900 XTX firmy AMD stała się potężnym konkurentem w dziedzinie wnioskowania AI, przewyższając kartę GeForce RTX 4090 firmy NVIDIA w testach porównawczych przy użyciu modelu R1 AI firmy DeepSeek. Rozwój ten sygnalizuje znaczącą zmianę w krajobrazie obliczeniowym, czyniąc zaawansowane możliwości AI bardziej dostępnymi dla zwykłych użytkowników.

Model R1 AI firmy DeepSeek: przewaga konkurencyjna firmy AMD

Wydanie najnowszego modelu AI firmy DeepSeek wywołało spore emocje w społeczności technologicznej. Dla tych, którzy kwestionują wymagania obliczeniowe związane z uruchomieniem tego modelu, karta graficzna AMD Radeon RX 7900 XTX, wykorzystująca architekturę „RDNA 3”, okazuje się wystarczająca do tego zadania. Ostatnie testy porównawcze wykazują wyraźną przewagę wydajnościową flagowej serii AMD RX 7000 nad jej odpowiednikiem NVIDIA w różnych modelach.

DeepSeek działa bardzo dobrze na @AMDRadeon 7900 XTX. Dowiedz się, jak działać na GPU Radeon i APU Ryzen AI tutaj: https://t.co/FVLDLJ18Ov pic.twitter.com/5OKEkyJjh3

— David McAfee (@McAfeeDavid_AMD) 29 stycznia 2025 r.

Zalety lokalnego przetwarzania AI z procesorami graficznymi AMD

Dla osób wykorzystujących konsumenckie procesory graficzne do zadań AI seria AMD Radeon stanowi atrakcyjną opcję, zapewniając doskonałą wydajność w stosunku do ceny w porównaniu z tradycyjnymi akceleratorami AI. Lokalne uruchamianie modeli AI nie tylko zwiększa wydajność, ale także rozwiązuje istotne problemy związane z prywatnością związane z korzystaniem z usług w chmurze, w szczególności w odniesieniu do danych obsługiwanych przez rozwiązania AI firmy DeepSeek.

Przewodnik krok po kroku dotyczący uruchamiania DeepSeek R1 na sprzęcie AMD

Rozpoczęcie pracy z modelem R1 firmy DeepSeek jest proste. Aby uzyskać optymalną wydajność, wykonaj następujące kroki:

Krok 1: Upewnij się, że używasz sterownika Adrenalin w wersji 25.1.1 Optional lub nowszej.

Krok 2: Pobierz wersję LM Studio 0.3.8 lub nowszą ze strony lmstudio.ai/ryzenai.

Krok 3: Zainstaluj LM Studio i pomiń ekran powitalny.

Krok 4: Kliknij zakładkę „Odkryj”.

Krok 5: Wybierz żądany DeepSeek R1 distill. Mniejsze modele, takie jak Qwen 1.5B, są zalecane ze względu na szybkość, podczas gdy większe modele oferują ulepszone możliwości rozumowania.

Krok 6: Po prawej stronie wybierz kwantyzację „Q4 KM” i kliknij „Pobierz”.

Krok 7: Po pobraniu wróć do zakładki czatu, wybierz DeepSeek R1 distill z listy rozwijanej i upewnij się, że opcja „ręcznie wybierz parametry” jest zaznaczona.

Krok 8: W warstwach odciążania GPU przesuń suwak na ustawienie maksymalne.

Krok 9: Kliknij „model load”.

Krok 10: Rozpocznij interakcję z lokalnie działającym modelem wnioskowania!

Dodatkowe zasoby i przyszłe trendy

Jeśli napotkasz trudności, AMD stworzyło również szczegółowy samouczek na YouTube, który przeprowadza przez proces konfiguracji uruchamiania dużych modeli językowych DeepSeek na lokalnych maszynach AMD. Jest to szczególnie przydatne dla użytkowników, którzy martwią się o bezpieczeństwo danych i prywatność.

Patrząc w przyszłość, spodziewane wprowadzenie na rynek nowych procesorów graficznych AMD i NVIDIA obiecuje znaczący postęp w zakresie możliwości wnioskowania, częściowo dzięki dedykowanym silnikom AI zaprojektowanym w celu wydajniejszego radzenia sobie z wymagającymi obciążeniami.

How To: DeepSeek R1 Distill (https://www.youtube.com/watch?v=3RnWR5M59GY)

Źródło i obrazy