
AMD ha notevolmente migliorato le capacità di intelligenza artificiale per personal computer con il suo ultimo aggiornamento dei driver, consentendo agli utenti di supportare i modelli di linguaggio di grandi dimensioni (LLM).
AMD potenzia le innovazioni dell’intelligenza artificiale per i consumatori con la piattaforma Strix Halo
In qualità di attore di spicco del settore, AMD ha compiuto notevoli progressi nell’integrazione dell’intelligenza artificiale ad alte prestazioni nei sistemi consumer grazie ai suoi innovativi motori XDNA. Le unità di elaborazione accelerata (APU) dell’azienda, in particolare quelle delle linee Strix Point e Strix Halo, dimostrano eccezionali capacità di intelligenza artificiale. L’ultima versione del driver Adrenalin Edition 25.8.1 introduce il supporto per i modelli LLM che possono raggiungere fino a 128 miliardi di parametri, aprendo la strada ai dispositivi consumer per sfruttare modelli di intelligenza artificiale avanzati, tra cui l’innovativo Llama 4 Scout di Meta.

Una delle caratteristiche distintive della tecnologia AMD è la sua Variable Graphics Memory (VGM), che consente agli utenti di allocare fino a 96 GB di memoria grafica alla GPU integrata (iGPU).Questa capacità consente l’esecuzione di modelli di intelligenza artificiale su larga scala in locale. Ad esempio, il modello Llama opera con un design misto di esperti (MoE) e utilizza solo 17 miliardi di parametri durante l’esecuzione. Di conseguenza, gli utenti possono raggiungere un numero impressionante di transazioni al secondo (TPS), consentendo alla LLM di funzionare in modo efficiente come un sofisticato assistente di intelligenza artificiale.

I progressi di AMD vanno oltre la semplice potenza di calcolo; hanno anche apportato miglioramenti significativi alle dimensioni del contesto. Tradizionalmente, i processori consumer supportano una lunghezza del contesto di circa 4096 token. Tuttavia, AMD ha raggiunto un’impressionante lunghezza del contesto di 256.000 token, migliorando notevolmente il controllo dell’utente sui flussi di lavoro e garantendo costantemente prestazioni elevate. Questi progressi illustrano la fervente evoluzione della tecnologia di “elaborazione AI” nei personal computer, segnando un cambiamento notevole nel settore.
Attualmente, la piattaforma Strix Halo è disponibile su un numero limitato di dispositivi e l’accessibilità rimane una sfida per molti consumatori, con alcuni sistemi che superano i 2.000 dollari. Nonostante il costo elevato, l’impegno di AMD nel democratizzare la potenza dell’intelligenza artificiale è evidente, sebbene l’acquisizione di questi dispositivi all’avanguardia richieda un investimento finanziario significativo.
Lascia un commento