AMD napędza modele AI GPT-OSS 20B i 120B OpenAI na Ryzen i Radeon: Ryzen AI MAX+ 395 to jedyny układ AI obsługujący model 120B z niezwykłą pulą pamięci 128 GB

Firma OpenAI zaprezentowała swoje najnowsze modele AI – GPT-OSS 20B i GPT-OSS 120B – a AMD jest liderem tej innowacji. Firma ogłosiła pełne wsparcie dla tych modeli poprzez swoje karty graficzne Ryzen AI MAX i Radeon, umożliwiając użytkownikom korzystanie z zaawansowanych funkcji i ulepszeń wydajności.

Procesor APU Ryzen AI MAX+ 395 firmy AMD: przełom dla GPT-OSS 120B firmy OpenAI

Wraz z wprowadzeniem nowych modeli AI OpenAI, AMD pozycjonuje swoje procesory Ryzen AI i karty graficzne Radeon jako sprzęt zapewniający optymalną wydajność. W szczególności, APU Ryzen AI MAX+ 395 jest promowany jako ekskluzywny układ, który może natywnie obsługiwać model GPT-OSS 120B, a jednocześnie zapewnia obsługę trybu Day-0, umożliwiając użytkownikom natychmiastowe korzystanie z modeli za pośrednictwem LM Studio.

Procesor AMD Ryzen AI Max+ wykorzystuje architekturę OpenAI GPT-OSS 120B ze wsparciem dla MCP, co zapewnia ulepszone przetwarzanie.

Czym dokładnie są te nowe modele? Seria GPT-OSS obejmuje modele o otwartej konstrukcji, zdolne do kompleksowego wnioskowania i zadań agentowych. Podczas gdy wiele układów AI i komputerów PC obsługuje wersję 20B, bardziej wymagający model 120B wymaga znacznych zasobów sprzętowych. Właśnie tutaj architektury AMD Ryzen AI MAX i Strix Halo wyróżniają się, oferując do 128 GB pamięci RAM, która jest przeznaczona specjalnie do tak zaawansowanych funkcji AI.

Eksploracja zaawansowanych możliwości sztucznej inteligencji w systemach AMD.

Wagi MXFP4 przekonwertowane przez GGML wymagają około 61 GB pamięci VRAM, co pozwala na bezproblemowe wykorzystanie 96 GB dedykowanej pamięci graficznej procesora AMD Ryzen AI MAX+ 395. Aby efektywnie korzystać z tej funkcji, użytkownicy muszą upewnić się, że ich sterownik ma wersję AMD Software: Adrenalin Edition 25.8.1 WHQL lub nowszą.

Dzięki możliwościom sięgającym 30 tokenów na sekundę, użytkownicy AMD mają dostęp do wydajnego modelu klasy centrów danych. Wydajność ta jest dodatkowo zwiększana przez przepustowość platformy Ryzen AI MAX+ w połączeniu z innowacyjną architekturą typu mixed-of-experts zastosowaną w GPT-OSS 120B. Dzięki rozbudowanej pamięci, użytkownicy tego modelu mogą również korzystać z implementacji protokołu Model Context Protocol (MCP).Co istotne, użytkownicy procesorów AMD Ryzen AI serii 300 mogą w pełni wykorzystać możliwości mniejszego modelu 20B.

Aby uzyskać optymalną wydajność modelu GPT-OSS 20B, zaleca się korzystanie z karty graficznej AMD Radeon 9070 XT 16 GB. Ta konfiguracja nie tylko zapewnia wyjątkową prędkość, ale także imponujące korzyści w zakresie czasu do pierwszego tokenu (TTFT), szczególnie w przypadku implementacji protokołu Model Context Protocol (MCP) w scenariuszach wymagających dużej mocy obliczeniowej.

Jak przetestować modele GPT-OSS 120B i 20B OpenAI na sprzęcie AMD

Pobierz i zainstaluj najnowsze sterowniki AMD Software: Adrenalin Edition 25.8.1 WHQL lub nowsze. Pamiętaj, że starsze sterowniki mogą negatywnie wpływać na wydajność i kompatybilność.
Użytkownicy komputerów z procesorami AMD Ryzen AI powinni przejść do pulpitu i wybrać kolejno Oprogramowanie AMD: Adrenalin Edition > zakładka Wydajność > zakładka Strojenie > Zmienna pamięć graficzna.Ustaw VGM zgodnie ze specyfikacjami podanymi w załączonej tabeli. Jeśli używasz karty graficznej AMD Radeon, możesz pominąć ten krok.
Zainstaluj LM Studio w swoim systemie.
Gdy pojawi się monit, zrezygnuj z procesu rejestracji.
Wyszukaj „gpt-oss” w aplikacji. Powinna pojawić się opcja z prefiksem „LM Studio community”.Wybierz wariant 20B lub 120B w zależności od kompatybilności sprzętowej.
Uzyskaj dostęp do zakładki czatu w LM Studio.
Użyj menu rozwijanego, aby wybrać żądany model OpenAI, upewniając się, że zaznaczona jest opcja „Ręczne ładowanie parametrów”.
Przesuń suwak „Odciążenie GPU” na maksimum i włącz opcję zapamiętywania ustawień.
Kliknij przycisk ładowania. Pamiętaj, że ładowanie modelu 120B może potrwać chwilę, a pasek ładowania może się zacinać ze względu na rozmiar modelu.
Zacznij współpracować z modelem poprzez podpowiedzi!

Macierz wsparcia produktów AMD zawierająca szczegóły zgodności z modelami OpenAI.

AMD opublikowało również listę obsługiwanych modeli OpenAI z GPT-OSS. Ryzen AI MAX+ 395 wyróżnia się jako jedyny układ obsługujący model 120B. Z kolei inne opcje, takie jak karty graficzne Radeon RX 9000, Radeon AI PRO R9000 i Radeon RX 7000, wszystkie wyposażone w co najmniej 16 GB pamięci, bez problemu obsługują modele GPT-OSS 20B.

Źródło i obrazy