AMD e Qualcomm perseguono la tecnologia di memoria “SOCAMM” per i prodotti di intelligenza artificiale di prossima generazione, seguendo l’esempio di NVIDIA

AMD e Qualcomm stanno attivamente studiando l’integrazione della memoria SOCAMM nelle loro soluzioni di intelligenza artificiale (IA).Questa esplorazione nasce in risposta alle continue sfide legate ai limiti di memoria che ostacolano le prestazioni degli attuali sistemi di IA.

Adozione della memoria SOCAMM: da NVIDIA ai concorrenti

Sviluppato inizialmente per NVIDIA, SOCAMM è uno standard di memoria che ha ottenuto un rapido successo tra i prodotti dell’azienda. Per chi non lo conoscesse, SOCAMM si basa sulla tecnologia DRAM LPDDR, comunemente utilizzata nei dispositivi mobili e a basso consumo energetico. Ciò che distingue SOCAMM da alternative come High Bandwidth Memory (HBM) e LPDDR5X è la sua aggiornabilità. A differenza dei componenti tradizionali che vengono saldati, SOCAMM può essere sostituito o aggiornato più facilmente, il che lo rende un’opzione interessante per integrare HBM nell’affrontare attività che richiedono un uso intensivo di memoria.

Informazioni recenti tratte da un rapporto di Hankyung indicano che sia AMD che Qualcomm stanno cercando di integrare i moduli SOCAMM nelle loro prossime architetture di sistemi di intelligenza artificiale. In particolare, queste aziende stanno studiando una strategia di progettazione unica, diversa dall’implementazione di NVIDIA. Il loro approccio prevede la creazione di un modulo “quadrato” con due componenti DRAM disposti in file parallele. Questo design mira a migliorare la gestione dell’alimentazione direttamente sul modulo tramite un circuito integrato di gestione dell’alimentazione (PMIC), facilitando una regolazione efficiente della potenza e garantendo un funzionamento ad alta velocità senza complicazioni.

Micron SOCAMM — Credito immagine: Micron

Con l’espansione dell’adozione di SOCAMM, si prevede che la domanda di questo tipo di memoria crescerà, trainata in gran parte dai requisiti delle applicazioni di intelligenza artificiale agentica. L’accessibilità di terabyte di memoria per CPU consente agli agenti di intelligenza artificiale di gestire in modo efficiente milioni di token attivi. Sebbene la produttività di SOCAMM possa non essere pari a quella di HBM, le sue caratteristiche prestazionali lo rendono un’opzione valida ed efficiente dal punto di vista energetico.

Attualmente, NVIDIA prevede di utilizzare SOCAMM 2 nei suoi cluster di intelligenza artificiale Vera Rubin. Dato che anche AMD e Qualcomm stanno esplorando questa tecnologia di memoria, gli osservatori del settore possono prevedere la sua inclusione nei loro cluster di intelligenza artificiale di prossima generazione, con un potenziale miglioramento delle prestazioni delle future applicazioni di intelligenza artificiale.

Fonte e immagini