NVIDIA svela il futuro dell’elaborazione AI con la fotonica al silicio e la tecnologia di stacking GPU/DRAM 3D

NVIDIA ha svelato la sua visione per gli acceleratori AI di prossima generazione, evidenziando una strategia rivoluzionaria basata sulla fotonica al silicio (SiPh) alla conferenza IEDM 2024. Questo approccio innovativo mira a soddisfare le crescenti richieste di elaborazione AI.

Strategia innovativa di NVIDIA per acceleratori AI avanzati

Mentre il settore si confronta con le crescenti richieste di elaborazione AI, le tecniche di packaging tradizionali hanno raggiunto i loro limiti, rendendo necessaria una nuova prospettiva. La fotonica al silicio emerge come un promettente sostituto delle tecnologie convenzionali. Durante la recente conferenza IEDM 2024, NVIDIA, rappresentata da Ian Cutress, ha condiviso una metodologia distinta che incorpora interposer SiPh e impila verticalmente le tessere GPU, migliorando così le capacità dei prodotti di elaborazione ad alte prestazioni.

Ecco la visione di @NVIDIA sul futuro dell’elaborazione basata sull’intelligenza artificiale.

Interposer fotonico in silicioIntrachip e interchip SiPh12 connessioni SiPh, 3 per tile GPU4 tile GPU per livelloGPU ‘tiers’ (GPU su GPU?!?)DRAM impilata 3D, 6 per tile, a grana fine

Da #iedm24 . La mia ipotesi è 2028/2029/2030… pic.twitter.com/5IsDkYSWT2

— 𝐷𝑟. 𝐼𝑎𝑛 𝐶𝑢𝑡𝑟𝑒𝑠𝑠 (@IanCutress) 8 dicembre 2024

Caratteristiche principali dell’approccio alla fotonica del silicio di NVIDIA

L’integrazione di interposer di fotonica al silicio da parte di NVIDIA mira a sostituire le interconnessioni elettriche standard, inaugurando una nuova era di elaborazione con diversi vantaggi. Si prevede che l’uso della tecnologia SiPh fornirà una larghezza di banda migliorata, una latenza ridotta e un’efficienza energetica migliorata rispetto ai metodi esistenti. In particolare, NVIDIA prevede di distribuire 12 connessioni SiPh per comunicazioni sia intrachip che interchip, ottimizzando il trasferimento dati tra le tessere GPU, il che è fondamentale per ottenere una scalabilità significativa e prestazioni superiori.

Impilamento 3D per prestazioni migliorate

Uno degli aspetti più interessanti dell’approccio di NVIDIA è l’uso del “3D stacking”, che prevede l’impilamento verticale di più tile GPU. Questa tecnica aumenta la densità dei chip riducendo al minimo l’ingombro fisico. Denominati “GPU tiers”, ogni livello contiene quattro tile GPU disposti in una configurazione verticale volta a ridurre la latenza di interconnessione e ad abilitare potenziali tecniche di power gating. Inoltre, NVIDIA intende incorporare chip DRAM impilati in 3D, con sei per tile, migliorando l’efficienza complessiva.

La sfida futura per la fotonica al silicio

Nonostante le sue promettenti prospettive, la visione di NVIDIA deve affrontare diversi ostacoli. La tecnologia della fotonica al silicio è ancora relativamente nascente e richiederebbe una produzione in grandi volumi per diventare mainstream, un processo che potrebbe richiedere molto tempo. Inoltre, l’ambizioso stacking 3D potrebbe presentare sfide di gestione termica, rendendo necessario lo sviluppo di efficaci soluzioni di raffreddamento intra-chip, un’area in cui le informazioni sono attualmente scarse.

Proiezioni future

L’analista Ian Cutress suggerisce che la piena realizzazione di questa tecnologia innovativa potrebbe avvenire entro i prossimi cinque o sei anni, potenzialmente tra il 2028 e il 2030, a condizione che vengano superate le complessità associate.

Fonte e immagini