Michael Dell, director ejecutivo de Dell Technologies, abordó recientemente el esperado superciclo de la memoria para IA durante un evento importante, afirmando que la creciente demanda de memoria continuará sin cesar durante los próximos años.
La urgencia de invertir en memoria entre los proveedores de hiperescala
A medida que los analistas de mercado siguen de cerca la cadena de suministro de memorias, resulta evidente que la brecha entre la oferta y la demanda se ha ampliado en los últimos meses. A pesar de esta tendencia, persisten las incertidumbres sobre el futuro de la industria de las memorias. Acontecimientos recientes, como el incidente de TurboQuant y la posterior caída de las acciones de las empresas de memorias, han alimentado las suposiciones de una posible disminución de la demanda. Sin embargo, Dell se mantiene optimista. Pronostica que el superciclo se extenderá hasta 2028, con una demanda creciente de DRAM que superará con creces las cifras actuales.
“A medida que la memoria por acelerador y la escala del sistema se expanden simultáneamente en la infraestructura de IA, se está formando una estructura donde la demanda total de memoria aumenta aproximadamente 625 veces. Si bien se necesitan años para expandir la oferta de memoria, la demanda actual de infraestructura de IA no se está desacelerando.” – Michael Dell
Una de las conclusiones más relevantes presentadas por Dell se refiere a la creciente demanda de memoria por acelerador de IA. El análisis de la evolución desde la arquitectura Ampere de NVIDIA hasta el último diseño Vera Rubin revela un aumento significativo en los requisitos de memoria. Este incremento no se debe únicamente a los avances en la memoria de alto ancho de banda (HBM); empresas como NVIDIA también están desarrollando tecnologías pioneras como SOCAMM, que se adaptan a cargas de trabajo de IA específicas, lo que resulta en un aumento exponencial de las necesidades de DRAM al evaluar cada acelerador individualmente.
Dell prevé que los requisitos de memoria podrían dispararse hasta 625 veces para 2028, y se espera que cada acelerador individual experimente un aumento de 25 veces en su capacidad de memoria. Además, se pronostica que la tasa de implementación de estos aceleradores también crecerá 25 veces. Si bien estas predicciones pueden no contar con respaldo empírico definitivo en la actualidad, ofrecen una perspectiva crucial sobre la trayectoria de la industria. A continuación, se muestra una instantánea de la capacidad de memoria bruta desde la arquitectura Hopper hasta Vera Rubin:
Si bien el crecimiento de la capacidad bruta es un indicador valioso para evaluar las tendencias de la demanda, es solo una parte de un panorama más amplio. Se prevé que los requisitos de memoria aumenten con cada generación de chips, especialmente a medida que avanzamos en las aplicaciones de inferencia de IA. Una parte sustancial de las compras de DRAM proviene de los proveedores de servicios en la nube a gran escala y sus inversiones en tecnologías de memoria CXL, lo que indica que proyectar una disminución de la demanda sería un error en este momento.
Otro avance crucial son los contratos a largo plazo que están surgiendo entre los proveedores de memoria y los grandes proveedores de servicios en la nube, con acuerdos que se extienden hasta cinco años. Dichos contratos indican una gran disposición por parte de los compradores a destinar recursos significativos para asegurar su suministro de memoria. Este escenario sugiere que la demanda no disminuirá pronto, y se prevé que la posible escasez persista hasta bien entrada la segunda mitad de 2027, cuando se espera que entren en funcionamiento nuevas capacidades de memoria.