Sebbene Google TurboQuant fosse stato inizialmente salutato come una potenziale soluzione alla crisi di memoria in atto, recenti evidenze suggeriscono che la situazione potrebbe non migliorare e, anzi, potrebbe peggiorare.
Impatto limitato di Google TurboQuant sulla crisi della memoria
A marzo di quest’anno, Google ha introdotto un algoritmo innovativo chiamato TurboQuant, progettato per comprimere in modo significativo la cache chiave-valore (KV), ottenendo notevoli riduzioni dei requisiti di memoria per i carichi di lavoro di intelligenza artificiale (IA), fino a 6 volte meno utilizzo di memoria. In seguito a questo annuncio, si è registrato un calo significativo dei prezzi della memoria, il che ha portato molti a speculare sull’impatto di TurboQuant sul mercato complessivo della memoria.
Queste speculazioni hanno scatenato un’ondata di panico tra i commercianti di memorie, che hanno iniziato a vendere DRAM e moduli di memoria, temendo che l’avvento di TurboQuant avrebbe segnato la fine del boom delle memorie in corso. Tuttavia, contrariamente alle aspettative, i prezzi delle memorie sono rimasti stabili nei giorni successivi, con una domanda di prodotti di memoria che è rimasta forte.
Dal lancio di TurboQuant, il mercato delle memorie non ha subito cali significativi; al contrario, la domanda proveniente dai settori dell’IA ha continuato a crescere. Le principali aziende di IA si stanno espandendo attivamente e sviluppando nuovi prodotti per potenziare le proprie capacità in quella che viene definita l’era agentica dell’IA.
L’ottimizzazione del software e dell’hardware, un processo in atto in tutto il settore dell’IA, è un altro fattore che contribuisce alla crescita della domanda di memoria. Sebbene le tecnologie di efficienza della memoria possano sembrare volte a ridurre l’utilizzo della memoria per singolo dispositivo, in realtà si stanno evolvendo in una direzione che massimizza la quantità di contesto elaborabile per unità di memoria. Si prevede che ciò migliori la redditività dei servizi di IA, creando un circolo virtuoso che espande il mercato complessivo dei servizi di IA e, di conseguenza, stimola anche la domanda di memoria.
Secondo We Hynix, i progressi nel software e nell’hardware, come l’implementazione di TurboQuant, sono destinati ad aumentare ulteriormente la domanda di memoria anziché a ridurla. Man mano che le principali aziende di IA migliorano la loro capacità di elaborare maggiori quantità di contesto per unità di memoria, e con le CPU che guadagnano terreno nel panorama dell’IA agentiva, la dipendenza dalla memoria è destinata ad aumentare. Questa crescente domanda di CPU sta già influenzando i prezzi di mercato in diversi settori, analogamente a quanto osservato in precedenza con le GPU, indicando una traiettoria di domanda inarrestabile.