AMD alimenta i modelli AI GPT-OSS 20B e 120B di OpenAI su Ryzen e Radeon: Ryzen AI MAX+ 395 è l’unico chip AI a supportare il modello 120B con uno straordinario pool di memoria da 128 GB

OpenAI ha presentato i suoi ultimi modelli AI, GPT-OSS 20B e GPT-OSS 120B, e AMD è all’avanguardia in questa innovazione. L’azienda ha annunciato il supporto completo per questi modelli tramite le sue GPU Ryzen AI MAX e Radeon, consentendo agli utenti di sfruttare funzionalità avanzate e miglioramenti delle prestazioni.

APU Ryzen AI MAX+ 395 di AMD: una svolta per GPT-OSS 120B di OpenAI

Con l’introduzione dei nuovi modelli AI di OpenAI, AMD ha posizionato le sue CPU Ryzen AI e le GPU Radeon come hardware di riferimento per prestazioni ottimali. In particolare, l’APU Ryzen AI MAX+ 395 è evidenziata come il chip esclusivo in grado di eseguire il modello GPT-OSS 120B in modo nativo, fornendo al contempo supporto Day-0, consentendo agli utenti di sperimentare immediatamente i modelli tramite LM Studio.

AMD Ryzen AI Max+ sfrutta GPT-OSS 120B di OpenAI con supporto MCP per un'elaborazione migliorata.

Cosa sono esattamente questi nuovi modelli? La serie GPT-OSS comprende modelli open-weight in grado di svolgere attività di ragionamento e agentistiche complete. Mentre molti chip e PC per l’intelligenza artificiale possono gestire la versione da 20B, il modello da 120B, più esigente, richiede risorse hardware significative.È qui che le architetture Ryzen AI MAX e Strix Halo di AMD brillano, con fino a 128 GB di memoria specificamente dedicata a funzionalità di intelligenza artificiale così avanzate.

Esplorazione delle funzionalità avanzate dell'intelligenza artificiale con i sistemi AMD.

I pesi MXFP4 convertiti in GGML richiedono circa 61 GB di VRAM, adattandosi perfettamente ai 96 GB di memoria grafica dedicata del processore AMD Ryzen AI MAX+ 395. Gli utenti devono assicurarsi che la versione del driver sia AMD Software: Adrenalin Edition 25.8.1 WHQL o superiore per utilizzare questa funzionalità in modo efficiente.

Con capacità che raggiungono velocità di 30 token al secondo, gli utenti AMD possono accedere a un potente modello di livello datacenter. Queste prestazioni sono ulteriormente migliorate dalla larghezza di banda della piattaforma Ryzen AI MAX+, in combinazione con l’innovativa architettura “mixed of expert” presente nel GPT-OSS 120B. Grazie alla sua ampia memoria, gli utenti possono anche beneficiare delle implementazioni del Model Context Protocol (MCP) con questo modello. In particolare, coloro che utilizzano processori AMD Ryzen AI serie 300 possono sfruttare appieno il modello più piccolo da 20B.

Per prestazioni ottimali con il modello GPT-OSS 20B, si consiglia agli utenti di utilizzare la scheda grafica AMD Radeon 9070 XT da 16 GB. Questa configurazione non solo offre velocità eccezionali, ma dimostra anche notevoli vantaggi in termini di time-to-first-token (TTFT), in particolare quando si lavora con implementazioni Model Context Protocol (MCP) in scenari ad alta intensità di calcolo.

Come provare i modelli GPT-OSS 120B e 20B di OpenAI su hardware AMD

Scarica e installa i driver AMD Software: Adrenalin Edition 25.8.1 WHQL più recenti o superiori. Tieni presente che i driver più vecchi potrebbero compromettere prestazioni e compatibilità.
Per gli utenti con un computer AMD Ryzen con intelligenza artificiale abilitata, accedere al Desktop e selezionare AMD Software: Adrenalin Edition > Scheda Prestazioni > Scheda Ottimizzazione > Memoria Grafica Variabile.Impostare la VGM in base alle specifiche descritte nella tabella allegata. Se si utilizza una scheda grafica AMD Radeon, è possibile saltare questo passaggio.
Installa LM Studio sul tuo sistema.
Quando richiesto, scegli di saltare il processo di onboarding.
Cerca “gpt-oss” nell’applicazione. Dovresti trovare un’opzione con il prefisso “LM Studio community”.Seleziona la variante 20B o 120B in base alla compatibilità hardware.
Accedi alla scheda chat in LM Studio.
Utilizzare il menu a discesa per selezionare il modello OpenAI desiderato, assicurandosi di selezionare “Carica manualmente i parametri”.
Regola il cursore “GPU Offload” al massimo e abilita l’opzione “Memorizza impostazioni”.
Fare clic sul pulsante Carica. Si noti che il caricamento del modello 120B potrebbe richiedere del tempo e che la barra di caricamento potrebbe sembrare bloccata a causa delle dimensioni del modello.
Inizia a interagire con il modello tramite i suggerimenti!

Italiano: https://www.youtube.com/watch?v=RFBrw40K7_4

Matrice di supporto prodotti AMD che illustra dettagliatamente la compatibilità con i modelli OpenAI.

AMD ha anche pubblicato un elenco di modelli supportati da OpenAI con GPT-OSS. Il suo Ryzen AI MAX+ 395 si distingue come l’unico chip in grado di supportare il modello da 120B. Al contrario, altre opzioni come le GPU Radeon RX 9000, Radeon AI PRO R9000 e Radeon RX 7000, tutte dotate di almeno 16 GB di memoria, possono gestire senza problemi i modelli con GPT-OSS da 20B.

Fonte e immagini