Intels Projekt Battlematrix: Wichtiges Software-Update für Arc Pro-GPUs führt LLM Scaler v1.0 ein und steigert die Leistung mit verbessertem Support um bis zu 80 %

Intel hat ein bedeutendes Software-Update für seine Arc Pro-Initiative „Project Battlematrix“ veröffentlicht und den LLM Scaler v1.0 mit bemerkenswerten Verbesserungen eingeführt.

Intel Arc Pro GPUs erhalten wichtiges Software-Upgrade mit LLM Scaler v1.0

Während der Computex 2025 stellte Intel zusammen mit seinen neuen Arc Pro GPUs das Projekt Battlematrix vor. Diese Initiative zielt darauf ab, eine umfassende Lösung für Inferenz-Workstation-Plattformen mit mehreren Arc Pro GPUs bereitzustellen. In seiner Produkt-Roadmap verpflichtete sich Intel, im dritten Quartal die erste Container-Bereitstellung mit Funktionen wie vLLM-Staging und grundlegender Telemetrieunterstützung bereitzustellen. Dies wurde nun mit der Veröffentlichung von LLM Scaler v1.0 umgesetzt.

Intels Project Battlematrix für Arc Pro-GPUs erhält das erste große Software-Update: LLM Scaler v1.0

Der LLM Scaler-Container v1.0 enthält eine umfassende Reihe von Funktionen und Optimierungen:

vLLM-Erweiterungen :
- Bis zu 1, 8-fache Leistungsverbesserung bei 40K-Sequenzlänge bei 32B-KPI-Modellen und 4, 2-fache bei 70B-KPI-Modellen
- Etwa 10 % mehr Ausgabedurchsatz für 8B-32B KPI-Modelle im Vergleich zur vorherigen Version
- Online-Quantisierung nach Schichten für reduzierten GPU-Speicherbedarf
- Experimentelle Unterstützung für Pipeline-Parallelität (PP) in vLLM
- Experimentelle Funktionen, einschließlich Torch. Compile und spekulative Dekodierung
- Unterstützung für das Einbetten und Neurangieren von Modellen
- Verbesserte multimodale Modellkompatibilität
- Automatische Erkennung der maximalen Eingabelänge
- Datenparallelitätsfunktion
Aktivierung des OneCCL-Benchmark-Tools
XPU Manager-Funktionen :
- GPU-Leistungsüberwachung
- GPU-Firmware-Updates
- GPU-Diagnose
- GPU-Speicherbandbreitenanalyse

Intel betont, dass der aktualisierte Software-Stack benutzerfreundlich gestaltet ist und Branchenstandards erfüllt. Dieser speziell auf Linux-Umgebungen zugeschnittene Container bietet durch Multi-GPU-Skalierung und PCIe-P2P-Datenübertragungen Leistungssteigerungen von bis zu 80 %.Darüber hinaus bietet er Zuverlässigkeit und Managementfunktionen auf Enterprise-Niveau, darunter ECC, SR-IOV, Telemetrie und Remote-Firmware-Updates.

Laut Intels Roadmap wird diese Version noch in diesem Quartal durch einen robusteren Container-Launch ersetzt, der sich auf verbesserte Leistung und vLLM-Serving konzentriert. Schließlich ist für das vierte Quartal die Einführung eines umfassenden Funktionsumfangs geplant.

Quelle & Bilder