Microsoft veröffentlicht Vorschau auf die Intel Neural Processor Unit (NPU)-Unterstützung für seine DirectML-API

Intel brachte seine „Meteor Lake“-basierten Core-Ultra-Chips erstmals im Dezember 2023 auf den Markt . Sie enthielten integrierte NPU-Chips (Neural Processor Unit), um die Leistung von KI-Anwendungen hardwaremäßig zu beschleunigen. Heute gab Microsoft bekannt, dass es eine Entwicklervorschauversion seiner DirectML-API veröffentlicht hat, die Unterstützung für NPUs hinzufügt, insbesondere für die in Intel Core Ultra-CPUs.

In einem Blogbeitrag sagte Microsoft, dass die Vorschauversion von DirectML 1.13.1 und ONNX Runtime 1.17 die NPU-Beschleunigung in PCs mit Intel Core Ultra-CPUs unterstützen würde. Das Unternehmen arbeitete nicht nur mit Intel, sondern auch mit Samsung zusammen, um die Leistung von KI-Apps zu steigern, die DirectML verwenden.

In einem separaten Blogbeitrag zu dieser Entwicklung sagt Intel, dass Samsung in seinem kürzlich veröffentlichten Samsung Galaxy Book 4-Notebook mit Intel Core Ultra-Chips etwa Microsofts DirectML und seine Intel AI Boost-Technologie verwendet habe. Laut Intel hat Samsung die Gesichts- und Objektklassifizierungsfunktionen seiner Gallery-Windows-App mithilfe der DirectML-API von Microsoft auf die Intel Core Ultra-CPU mit seiner NPU verlagert. Intel behauptet, dass dies zu einer schnelleren Entwicklungszeit für das Projekt geführt habe.

Da es sich um eine Vorschauversion handelt. Microsoft weist auf einige Einschränkungen dieser Version von DirectML auf Intel Core Ultra-basierten PCs hin:

Die NPU-Unterstützung in DirectML ist derzeit nur mit einer Teilmenge der maschinellen Lernmodelle kompatibel, die unterstützt werden sollen. Einige Modelle funktionieren möglicherweise überhaupt nicht oder weisen eine hohe Latenz oder geringe Genauigkeit auf. Wir arbeiten daran, die Kompatibilität und Leistung weiterer Modelle in Zukunft zu verbessern.

Bei funktionsfähigen Modellen, die nicht für diese Entwicklervorschau ausgewählt wurden, können Stabilitäts- und Zuverlässigkeitsprobleme auftreten. Wir erweitern weiterhin die Abdeckung für weitere Modelle, die für NPU geeignet sind.