Nonostante i nuovi stack da 4 TB superino le prestazioni di HBM, NVIDIA non è interessata alla tecnologia di memoria HBF; Google inizierà a effettuare dei campioni quest’anno.

Nonostante i nuovi stack da 4 TB superino le prestazioni di HBM, NVIDIA non è interessata alla tecnologia di memoria HBF; Google inizierà a effettuare dei campioni quest’anno.

La memoria High-Bandwidth Flash (HBF) si sta affermando come una valida alternativa nel panorama tecnologico delle memorie, vantando una capacità superiore rispetto alla High Bandwidth Memory (HBM).Tuttavia, NVIDIA ha scelto di non adottare questa soluzione innovativa; al suo posto, Google si appresta a diventare uno dei principali clienti della tecnologia HBF.

NVIDIA conferma il suo impegno verso HBM: il campionamento HBF è previsto per la fine dell’anno.

I recenti progressi nella tecnologia NAND DRAM giungono in un momento in cui le applicazioni di intelligenza artificiale (IA) stanno rapidamente guadagnando terreno. Sebbene la NAND sia utilizzata principalmente per esigenze di archiviazione, soprattutto nelle unità a stato solido (SSD), i progressi previsti nella tecnologia HBF potrebbero trasformare radicalmente le soluzioni di memoria. Progettata per colmare il divario tra HBM e NAND Flash, la HBF rappresenta la prossima generazione di NAND DRAM.

L’architettura di HBF incorporerà numerosi Through Silicon Via (TSV), consentendo l’integrazione di più package NAND in un singolo stack. Attualmente, HBM supporta capacità che vanno da 32 a 64 GB per stack, mentre HBF è destinato a offrire capacità espandibili fino a 4 TB.

In termini di prestazioni, sebbene HBM mantenga il suo status di opzione più veloce, si prevede che le ottimizzazioni architetturali di HBF forniranno un throughput sufficiente per le attività essenziali di intelligenza artificiale. Questo nuovo standard è particolarmente adatto ai carichi di lavoro di inferenza, la cui importanza è aumentata vertiginosamente con l’avvento dell’IA agentiva. La maggiore capacità offerta da HBF potrebbe anche contribuire ad alleviare alcuni dei limiti imposti dalle cache chiave-valore (KV) nei chip di calcolo primari.

Nonostante i potenziali vantaggi di HBF, NVIDIA ha dichiarato pubblicamente di non avere piani immediati per implementare questa nuova tecnologia DRAM, ritenendo che gli SSD avanzati (eSSD) esistenti siano in grado di soddisfare adeguatamente gli attuali requisiti di capacità e velocità. L’azienda sta collaborando con Kioxia per sviluppare SSD PCIe Gen7 che potrebbero offrire velocità fino a 100 volte superiori rispetto ai modelli convenzionali.

Una diapositiva di una presentazione SanDisk intitolata "High Bandwidth Flash (HBF™)" illustra l'integrazione della memoria HBM con la memoria flash NAND per i carichi di lavoro di intelligenza artificiale, mostrando un diagramma dello stack HBF con i componenti etichettati come HBF Core Die, Logic Die, PHY e Interposer.
Fonte immagine: SanDisk

Al contrario, Google sembra pronta a sfruttare la tecnologia HBF nell’ambito della sua ambiziosa strategia di espansione dell’intelligenza artificiale. L’ecosistema di unità di elaborazione tensoriale (TPU) del colosso tecnologico si sta evolvendo rapidamente, con una serie di soluzioni TPU di nuova generazione volte a migliorare le capacità di calcolo. Sebbene la diffusione di HBF in applicazioni più ampie rimanga incerta, il suo potenziale di sostituire la memoria DDR standard rappresenta uno sviluppo entusiasmante nel settore.

Con l’aumento delle esigenze di calcolo, i server stanno adottando sempre più memorie LPDDR (Low Power Double Data Rate), spinti dai limiti imposti dalle CPU nelle applicazioni di intelligenza artificiale. Questa tendenza ha evidenziato la crescente necessità di memorie LPDDR5 e LPDDR5X, in particolare per le configurazioni System-on-Chip e Multi-Chip Module (SOCAM2).L’innovativo approccio di impilamento multistrato di HBF consente ai produttori di chip e agli stakeholder dell’ecosistema dell’IA di ridurre le dimensioni dei circuiti stampati (PCB) aumentando al contempo la capacità, mantenendo bassi i consumi energetici e raggiungendo un’elevata velocità di trasmissione dati.

Fonte e immagini

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *