Procesory graficzne Intel Arc są teraz obsługiwane w rozszerzeniu Intel dla PyTorch, zwiększając możliwości sztucznej inteligencji, głębokiego uczenia się i LLM

Procesory graficzne Arc z serii A są teraz obsługiwane w ramach rozszerzenia Intel dla PyTorch (IPEX), oferując szybsze możliwości sztucznej inteligencji w głębokim uczeniu się i LLM.

Rozszerzenie Intel dla PyTorch teraz w pełni wykorzystuje sprzęt XMX AI na pokładzie procesorów graficznych Arc z serii A

Procesory graficzne Intel Arc z serii A oparte na architekturze Alchemist mają mnóstwo potencjału sprzętowego, który jest wykorzystywany dzień po dniu. Dział oprogramowania wykonał świetną robotę, optymalizując wydajność tych procesorów graficznych w grach, a teraz skupiono się na wschodzącym rynku sztucznej inteligencji, gdzie jednostki XMX znajdujące się na tych układach zostaną w pełni wykorzystane.

W aktualizacji firma Intel potwierdziła, że IPEX (rozszerzenie Intel dla PyTorch) oferuje teraz obsługę procesorów graficznych Arc z serii A na platformach Windows, Linux i WSL2. Dzięki tej nowo dodanej obsłudze procesory graficzne Intel z serii A nie tylko przyspieszą modele głębokiego uczenia się, takie jak LLM, ale także wprowadzą nowe optymalizacje dla sprzętu Intel, zapewniając większą wydajność i dając użytkownikom możliwość uruchamiania modeli PyTorch na procesorach graficznych z linii Alchemist .

Dla tych z Was, którzy posiadają procesor graficzny Intel Arc z serii A i chcą skorzystać z silnika XMX AI w PyTorch, firma zamieściła tutaj pełny blog na temat uruchamiania interfejsu Llama 2 w systemie Windows i WSL2 . Według zespołu oprogramowania AI firmy Intel:

Procesory graficzne doskonale nadają się do obciążeń w dużych modelach językowych (LLM), ponieważ wyróżniają się dużą równoległością danych i dużą przepustowością pamięci. Karty graficzne Arc A-Series Graphics, w tym Arc A770 Graphics, to grafiki o wysokiej wydajności, wyposażone w maksymalnie 512 silników Xe Matrix Extensions (XMX), zapewniające możliwość przyspieszonego wykonywania modeli głębokiego uczenia się, w tym LLM.
IPEX rozszerza PyTorch o najnowsze optymalizacje wydajności dla sprzętu Intel, wykorzystując silniki XMX na dyskretnych procesorach graficznych Intel.
Rozszerzenie IPEX dla PyTorch umożliwia urządzeniu PyTorch XPU, co pozwala na łatwe przenoszenie modelu PyTorch i danych wejściowych do urządzenia w celu wykonania na oddzielnym procesorze graficznym Intel z akceleracją GPU.
Najnowsza wersja IPEX (v2.1.10+xpu) oficjalnie obsługuje grafikę Arc A-Series Graphics na WSL2, natywnym systemie Windows i natywnym systemie Linux.
Zademonstrowano działanie wnioskowania Llama 2 7B i Llama 2-Chat 7B na grafice Arc A770 w systemie Windows i WSL2 za pośrednictwem Ipex.
Aby uruchomić Llamę 2 lub jakikolwiek inny model PyTorch na procesorach graficznych Arc z serii A, po prostu dodaj kilka dodatkowych linii kodu, aby zaimportować intel_extension_for_pytorch i. to(„xpu”) , aby przenieść model i dane na urządzenie w celu uruchomienia na procesorze graficznym Arc z serii A.

Niedawno opublikowaliśmy artykuł cytujący byłego szefa procesorów graficznych Intela, Raję Koduri, który wspomniał, że procesory graficzne do komputerów klienckich i komputerów do gier odegrały kluczową rolę w umożliwieniu sukcesu sztucznej inteligencji . Rozszerzenie przez firmę Intel wsparcia dla procesorów graficznych Arc z serii A to świetna rzecz w segmencie rynku, w którym NVIDIA i AMD przodują, oferując szybką obsługę sztucznej inteligencji na sprzęcie zorientowanym na konsumenta.

Procesory graficzne Intel Arc są teraz obsługiwane w rozszerzeniu Intel dla PyTorch, zwiększając możliwości sztucznej inteligencji, głębokiego uczenia się i LLM

Rozszerzenie Intel dla PyTorch teraz w pełni wykorzystuje sprzęt XMX AI na pokładzie procesorów graficznych Arc z serii A

Powiązane artykuły:

Kogo Tisha Merry grała w Coronation Street? Szczegóły poznajemy po rozstaniu się aktora Alana Halsalla z gwiazdą opery mydlanej

Sacrificial Jade w Genshin Impact: statystyki, jak zdobyć, najlepsze postacie i nie tylko

Dodaj komentarz Anuluj pisanie odpowiedzi