AMD bereitet sich auf die Veröffentlichung von ROCm 6.1 vor, jetzt mit verbessertem Support und erweiterten Funktionen

AMD bereitet die Veröffentlichung seines ROCm 6.1-Software-Stacks vor, dieses Mal mit verbessertem Support und umfangreichen Optimierungsänderungen.

AMDs ROCm 6.1-Software-Stack könnte NVIDIA CUDA übertreffen, wenn die Entwicklung weiterhin auf dem aktuellen Weg bleibt

Team Red hat kürzlich die ROCm-Entwicklungen vorangetrieben, da wir bereits im Dezember 2023 das Debüt von ROCm 6.0 erlebten, das mit Unterstützung für AMDs Instinct MI300A/MIX300X KI-Beschleuniger sowie mehreren Änderungen zur Verbesserung des Stack-Status einherging. Diesmal hat auch der neue ROCm 6.1 einen ähnlichen Charakter. Anstelle der Produktkompatibilität bietet das neueste Update jedoch eine Reihe neuer Ergänzungen und Korrekturen, um die Rechenkapazitäten der KI-Angebote von AMD zu verbessern.

Phoronix berichtet, dass AMD kontinuierliche Updates innerhalb des ROCm-Software-Stacks herausbringt, was darauf hindeutet, dass die neue Iteration kurz vor ihrer Veröffentlichung steht. Team Red hat seiner Open-Source-Deep-Learning-Bibliothek MIOpen neue Funktionen hinzugefügt, die nun ein KI-basiertes Parametervorhersagemodell und mehrere Korrekturen umfasst. Darüber hinaus wurde die Graph Inference Engine von AMD, MIGraphX, für FP8-Unterstützung und erweiterte Unterstützung für mehrere LLM-Modelle wie Llama-2 und Stable Diffusion 2.1 aufgenommen.

Eine weitere spannende Entwicklung sind Änderungen an der HIP-API von AMD, die auf Code-Portabilität und Programmierung auf heterogenen Computersystemen abzielen. Es kommt jetzt mit einem neuen „Hipother“-Repository, das darauf abzielt, die Back-End-Implementierung der API für andere Plattformen als AMD bereitzustellen. Wir haben kürzlich eine Gelegenheit zur Codeportierung gesehen, bei der CUDA-Bibliotheken über ZLUDA auf der ROCm-Plattform genutzt wurden . Während heterogene Programmierung in letzter Zeit nicht im Fokus stand, könnte sich dies in Zukunft ändern.

Vertreter von AMD haben erklärt, dass ROCm beim Training großer Sprachmodelle Software-Parität mit CUDA erreicht hat und kontinuierliche Aktualisierungen den Stack in eine Position bringen könnten, in der er direkt mit der Konkurrenz in der Branche konkurriert.

Nachrichtenquelle: Phoronix