Firma Microsoft udostępnia wersję zapoznawczą obsługi procesora Intel Neural Processor Unit (NPU) dla swojego interfejsu API DirectML

Intel po raz pierwszy wprowadził na rynek chipy Core Ultra oparte na „Meteor Lake” w grudniu 2023 roku . Obejmowały one zintegrowane chipy NPU (jednostki procesora neuronowego), które pomagały sprzętowo przyspieszyć działanie aplikacji AI. Firma Microsoft ogłosiła dzisiaj, że udostępniła wersję deweloperską swojego interfejsu API DirectML, która dodaje obsługę jednostek NPU, a w szczególności tych w procesorach Intel Core Ultra.

W poście na blogu Microsoft poinformował, że wersja zapoznawcza DirectML 1.13.1 i ONNX Runtime 1.17 będzie obsługiwać akcelerację NPU w komputerach PC z procesorami Intel Core Ultra. Firma współpracowała nie tylko z firmą Intel, ale także z firmą Samsung, aby pomóc zwiększyć wydajność aplikacji AI korzystających z DirectML.

W osobnym wpisie na blogu na temat tego rozwiązania Intel informuje, że Samsung zastosował technologię DirectML firmy Microsoft i technologię Intel AI Boost w niedawno wydanym notebooku Samsung Galaxy Book 4 z chipami Intel Core Ultra. Intel poinformował, że Samsung przeniósł funkcje klasyfikacji twarzy i obiektów ze swojej aplikacji Gallery dla systemu Windows na procesor Intel Core Ultra z jego NPU, korzystając z interfejsu API DirectML firmy Microsoft. Intel twierdzi, że zaowocowało to szybszym czasem rozwoju projektu.

Ponieważ jest to wersja poglądowa. Firma Microsoft zauważa kilka ograniczeń tej wersji DirectML na komputerach z procesorem Intel Core Ultra:

Obsługa NPU w DirectML jest obecnie zgodna tylko z podzbiorem modeli uczenia maszynowego, które zostały objęte wsparciem. Niektóre modele mogą w ogóle nie działać lub mogą mieć duże opóźnienia lub niską dokładność. Pracujemy nad poprawą kompatybilności i wydajności większej liczby modeli w przyszłości.

Modele, które są funkcjonalne i nie zostały wybrane do tej wersji zapoznawczej programisty, mogą mieć pewne problemy ze stabilnością i niezawodnością. Kontynuujemy rozszerzanie zasięgu o dodatkowe modele odpowiednie dla NPU.