AMD si prepara alla versione ROCm 6.1, ora disponibile con supporto e funzionalità migliorati

AMD si sta preparando a rilasciare il suo stack software ROCm 6.1, questa volta dotato di supporto migliorato e ampie modifiche di ottimizzazione.

Lo stack software ROCm 6.1 di AMD potrebbe superare NVIDIA CUDA se lo sviluppo continua a rimanere sulla traiettoria attuale

Il Team Red ha recentemente accelerato gli sviluppi di ROCm, poiché nel dicembre 2023 abbiamo visto il debutto di ROCm 6.0, che includeva il supporto per gli acceleratori AI Instinct MI300A/MIX300X di AMD insieme a diverse modifiche per migliorare lo stato dello stack. Ora, questa volta, anche il nuovo ROCm 6.1 ha una natura simile. Tuttavia, invece della compatibilità del prodotto, l’ultimo aggiornamento arriva con un’ondata di nuove aggiunte e correzioni per migliorare le capacità di elaborazione delle offerte AI di AMD.

Phoronix riferisce che AMD ha distribuito aggiornamenti continui all’interno dello stack software ROCm, suggerendo che la nuova iterazione è vicina al suo rilascio. Il Team Red ha aggiunto nuove funzionalità alla sua libreria di deep learning open source MIOpen, che ora include un modello di previsione dei parametri basato sull’intelligenza artificiale e diverse correzioni. Inoltre, il Graph Inference Engine di AMD, MIGraphX, è stato incluso per il supporto FP8 e ha esteso il supporto per diversi modelli LLM come Llama-2 e Stable Diffusion 2.1.

Un altro sviluppo interessante sono le modifiche apportate all’API HIP di AMD, mirate alla portabilità del codice e alla programmazione su sistemi informatici eterogenei. Ora viene fornito con un nuovo repository “hipother” che mira a fornire l’implementazione back-end dell’API per piattaforme diverse da AMD. Recentemente abbiamo assistito a un’occasione di porting del codice, in cui le librerie CUDA sono state sfruttate sulla piattaforma ROCm tramite ZLUDA . Sebbene la programmazione eterogenea sia qualcosa su cui non ci si è concentrati negli ultimi tempi, potrebbe cambiare in futuro.

I funzionari di AMD hanno affermato che ROCm ha raggiunto la parità software con CUDA nell’addestramento di modelli linguistici di grandi dimensioni e che aggiornamenti continui potrebbero portare lo stack in una posizione in cui compete direttamente con i concorrenti del settore.

Fonte notizia: Phoronix