AMD Radeon RX 7900 XTX übertrifft NVIDIA GeForce RTX 4090 in DeepSeek AI Inference Benchmarks: So führen Sie R1 auf Ihrem lokalen AMD-System aus

AMDs Radeon RX 7900 XTX hat sich als starker Konkurrent im Bereich der KI-Inferenz herausgestellt und übertrifft NVIDIAs GeForce RTX 4090 in Benchmarktests mit DeepSeeks R1-KI-Modell. Diese Entwicklung signalisiert einen bedeutenden Wandel in der Computerlandschaft und macht fortgeschrittene KI-Funktionen für Alltagsnutzer zugänglicher.

DeepSeeks R1-KI-Modell: AMDs Wettbewerbsvorteil

Die Veröffentlichung des neuesten KI-Modells von DeepSeek hat in der Tech-Community für große Aufregung gesorgt. Wer den Rechenaufwand für dieses Modell in Frage stellt, dem sei gesagt, dass die AMD Radeon RX 7900 XTX GPU mit ihrer „RDNA 3“-Architektur für diese Aufgabe ausreichend ist. Aktuelle Benchmarks zeigen einen deutlichen Leistungsvorteil der AMD-Flaggschiffserie RX 7000 gegenüber ihrem NVIDIA-Gegenstück bei verschiedenen Modellen.

DeepSeek läuft sehr gut auf @AMDRadeon 7900 XTX. Hier erfahren Sie, wie es auf Radeon-GPUs und Ryzen AI-APUs läuft: https://t.co/FVLDLJ18Ov pic.twitter.com/5OKEkyJjh3

– David McAfee (@McAfeeDavid_AMD) , 29. Januar 2025

Vorteile der lokalen KI-Verarbeitung mit AMD-GPUs

Für Einzelpersonen, die Consumer-GPUs für KI-Aufgaben nutzen, stellt die AMD Radeon-Serie eine attraktive Option dar, da sie im Vergleich zu herkömmlichen KI-Beschleunigern eine hervorragende Leistung im Verhältnis zum Preis bietet. Das lokale Ausführen von KI-Modellen verbessert nicht nur die Leistung, sondern behebt auch erhebliche Datenschutzbedenken im Zusammenhang mit der Nutzung von Cloud-Diensten, insbesondere in Bezug auf die von den KI-Lösungen von DeepSeek verarbeiteten Daten.

Schritt-für-Schritt-Anleitung zum Ausführen von DeepSeek R1 auf Ihrer AMD-Hardware

Der Einstieg in das R1-Modell von DeepSeek ist unkompliziert. Befolgen Sie diese Schritte für eine optimale Leistung:

Schritt 1: Stellen Sie sicher, dass Sie den Adrenalin-Treiber in der Version 25.1.1 Optional oder höher verwenden.

Schritt 2: Laden Sie LM Studio Version 0.3.8 oder höher von lmstudio.ai/ryzenai herunter.

Schritt 3: Installieren Sie LM Studio und umgehen Sie den Onboarding-Bildschirm.

Schritt 4: Klicken Sie auf die Registerkarte „Entdecken“.

Schritt 5: Wählen Sie das gewünschte DeepSeek R1-Destillat aus. Kleinere Modelle wie Qwen 1.5B werden aufgrund ihrer Geschwindigkeit empfohlen, während größere Modelle verbesserte Argumentationsfähigkeiten bieten.

Schritt 6: Wählen Sie auf der rechten Seite die Quantisierung „Q4 KM“ aus und klicken Sie auf „Herunterladen“.

Schritt 7: Kehren Sie nach dem Herunterladen zur Registerkarte „Chat“ zurück, wählen Sie das DeepSeek R1-Destillat aus der Dropdown-Liste und stellen Sie sicher, dass „Parameter manuell auswählen“ aktiviert ist.

Schritt 8: Bewegen Sie in den GPU-Offload-Ebenen den Schieberegler auf die maximale Einstellung.

Schritt 9: Klicken Sie auf „Modell laden“.

Schritt 10: Beginnen Sie mit der Interaktion mit Ihrem lokal ausgeführten Argumentationsmodell!

Zusätzliche Ressourcen und zukünftige Trends

Wenn Sie auf Schwierigkeiten stoßen, hat AMD auch ein ausführliches Tutorial auf YouTube erstellt, das Sie durch den Einrichtungsprozess zum Ausführen der großen Sprachmodelle von DeepSeek auf lokalen AMD-Rechnern führt. Dies ist insbesondere für Benutzer hilfreich, die sich um Datensicherheit und Datenschutz sorgen.

Mit Blick auf die Zukunft verspricht die erwartete Markteinführung neuer GPUs von AMD und NVIDIA erhebliche Fortschritte bei den Inferenzfähigkeiten, was unter anderem speziellen KI-Engines zu verdanken ist, die für eine effizientere Bewältigung anspruchsvoller Workloads konzipiert sind.

How To: DeepSeek R1 Distill (https://www.youtube.com/watch?v=3RnWR5M59GY)

Quelle und Bilder