Il settore delle memorie ha registrato recenti fluttuazioni significative, soprattutto in seguito al lancio di TurboQuant di Google. Tuttavia, l’idea diffusa che questo lancio segnali la fine della carenza di memorie è ampiamente considerata un malinteso.
L’impatto limitato di TurboQuant sulla domanda di memoria: un superciclo in corso
Sebbene negli ultimi giorni si sia registrato un calo significativo dei prezzi delle memorie DDR – e siano emerse discussioni sulle implicazioni dell’algoritmo TurboQuant di Google – il Financial Times sottolinea che collegare questo sviluppo alla fine della carenza di memoria è un’interpretazione errata. Gli indicatori attuali, inclusi i dati sui ricavi e le proiezioni sulla domanda futura, suggeriscono con forza che la carenza di memoria persisterà nel prossimo futuro.
TurboQuant “potenzialmente riduce di un fattore da quattro a otto il costo di esecuzione di modelli linguistici di grandi dimensioni”, ha affermato Kwon Seok-joon, professore presso l’Università Sungkyunkwan di Seoul.”A prima vista, questo sembra minacciare la domanda di chip di memoria ad alta larghezza di banda.”
Tuttavia, ha aggiunto Kwon, “l’inferenza drasticamente più economica sblocca carichi di lavoro che prima erano troppo costosi da eseguire”, come gli assistenti di codifica in tempo reale e il funzionamento simultaneo di più agenti di intelligenza artificiale, spingendo così la domanda totale di calcolo verso l’alto, non verso il basso.
– Il Financial Times
Approfondire gli aspetti tecnici di TurboQuant estenderebbe significativamente questa analisi. In sostanza, l’algoritmo di compressione facilita il funzionamento di modelli linguistici di grandi dimensioni (LLM) sugli acceleratori, minimizzando al contempo l’utilizzo della memoria e ottimizzando così l’efficienza. Gli esperti hanno paragonato TurboQuant al paradosso di Jevon. Tuttavia, in realtà, si sta assistendo a un’evoluzione da una domanda aggressiva a un utilizzo diffuso, il che suggerisce un’estensione del ciclo attuale. Questa tendenza è evidente, dato che i produttori di DRAM stanno stipulando accordi pluriennali con i principali hyperscaler per ottenere una migliore comprensione dei modelli di domanda.
Nella sua recente rendicontazione dei ricavi del primo trimestre, Samsung ha riportato un impressionante fatturato di 37 miliardi di dollari generato esclusivamente dal segmento DRAM, con risultati operativi paragonabili a quelli dei principali hyperscaler. Inoltre, le previsioni indicano che i prezzi dei contratti DRAM aumenteranno nei prossimi trimestri. Con l’evoluzione del panorama delle memorie, diventa sempre più evidente che nessuna entità operante nel settore dell’intelligenza artificiale può prosperare senza risorse di memoria sufficienti. Michael Dell, CEO di Dell Technologies, ha recentemente commentato il potenziale di un’impennata della domanda, stimolata da un aumento significativo dell’utilizzo della memoria per processore.
A meno che non vengano create e rese operative nuove capacità produttive, è improbabile che la carenza di memorie si attenui. Pertanto, da questo punto di vista, sembra che la scarsità di memorie potrebbe rimanere una sfida fino alla seconda metà del 2027 e potenzialmente anche oltre, a seconda della velocità con cui i fornitori riusciranno ad attivare nuove linee di produzione.