Procesory AMD Ryzen AI MAX+ uwalniają 96 GB pamięci dla grafiki konsumenckiej, umożliwiając lokalne wykonywanie 128-bajtowych obliczeń LLM na komputerach PC

Najnowsza aktualizacja sterowników firmy AMD znacząco rozwinęła możliwości rozwiązań Edge AI dla komputerów osobistych, umożliwiając użytkownikom obsługę dużych modeli językowych (LLM).

AMD wspiera innowacje w dziedzinie sztucznej inteligencji dla użytkowników dzięki platformie Strix Halo

Jako czołowy gracz w branży, AMD poczyniło znaczące postępy w integracji wysokowydajnych obliczeń AI w systemach konsumenckich dzięki swoim innowacyjnym silnikom XDNA. Akcelerowane jednostki przetwarzania (APU) firmy, szczególnie te z serii Strix Point i Strix Halo, charakteryzują się wyjątkowymi możliwościami w zakresie AI. Najnowsza wersja sterownika Adrenalin Edition 25.8.1 wprowadza obsługę modeli LLM, które mogą osiągnąć nawet 128 miliardów parametrów, torując drogę urządzeniom konsumenckim do wykorzystania zaawansowanych modeli AI, w tym najnowocześniejszej technologii Llama 4 Scout firmy Meta.

AMD Ryzen AI: wiodąca obsługa systemu Windows LLM, kwantyzacja od 4 do 16 bitów, cienkie i lekkie wdrożenie

Jedną z wyróżniających się cech technologii AMD jest zmienna pamięć graficzna (VGM), która pozwala użytkownikom na przydzielenie do 96 GB pamięci graficznej zintegrowanemu układowi GPU (iGPU).Ta funkcja umożliwia lokalne wykonywanie modeli AI na dużą skalę. Na przykład model Llama działa w oparciu o architekturę mieszaną (MoE) i wykorzystuje tylko 17 miliardów parametrów w czasie wykonywania. W rezultacie użytkownicy mogą osiągać imponującą liczbę transakcji na sekundę (TPS), co pozwala LLM na efektywne funkcjonowanie jako zaawansowany asystent AI.

AMD AI Max+ obsługuje do 128B parametrów; tabela porównawcza wykorzystania pamięci przez model.

Postępy AMD wykraczają poza samą moc obliczeniową; firma wprowadziła również znaczące ulepszenia w zakresie rozmiaru kontekstu. Tradycyjnie procesory konsumenckie obsługują długość kontekstu wynoszącą około 4096 tokenów. Jednak AMD osiągnęło imponującą długość kontekstu, wynoszącą 256 000 tokenów, co znacznie zwiększa kontrolę użytkownika nad przepływem pracy i zapewnia stałą, wysoką wydajność. Te postępy ilustrują dynamiczny rozwój technologii „obliczeń AI” w komputerach osobistych, co stanowi znaczącą zmianę w branży.

Platforma Strix Halo jest obecnie dostępna na ograniczonej liczbie urządzeń, a jej dostępność pozostaje wyzwaniem dla wielu konsumentów, a niektóre systemy kosztują ponad 2000 dolarów. Pomimo wysokich kosztów, zaangażowanie AMD w demokratyzację mocy obliczeniowej sztucznej inteligencji jest widoczne, nawet jeśli nabycie tych najnowocześniejszych urządzeń wymaga znacznych nakładów finansowych.

Źródło i obrazy