델 CEO는 2028년까지 AI 메모리 수요가 전례 없는 수준으로 급증하여 구매자들이 높은 가격을 지불해야 할 것이라고 예측했습니다.

델 테크놀로지스의 CEO인 마이클 델은 최근 중요한 행사에서 예상되는 AI 메모리 슈퍼사이클에 대해 언급하며, 메모리에 대한 급증하는 수요가 향후 몇 년 동안 계속해서 줄어들지 않을 것이라고 주장했습니다.

하이퍼스케일러에게 메모리 투자가 시급한 이유

시장 분석가들이 메모리 공급망을 추적하는 가운데, 최근 몇 달 동안 공급과 수요의 격차가 확대된 것이 분명해 보입니다.이러한 추세에도 불구하고 메모리 산업의 미래에 대한 불확실성은 여전히 남아 있습니다.터보퀀트 사태와 그에 따른 메모리 관련 주식 매도세와 같은 최근의 사건들은 수요 감소 가능성에 대한 우려를 증폭시켰습니다.그러나 델은 여전히 낙관적인 전망을 유지하고 있습니다.그는 DRAM 수요가 현재 수치를 훨씬 뛰어넘는 슈퍼사이클이 2028년까지 지속될 것으로 예측합니다.

“AI 인프라에서 가속기당 메모리와 시스템 규모가 동시에 확장됨에 따라 전체 메모리 수요가 약 625배 증가하는 구조가 형성되고 있습니다.메모리 공급을 늘리는 데는 수년이 걸리지만, 현재 AI 인프라에 대한 수요는 둔화되지 않고 있습니다.” – 마이클 델

델이 제시한 가장 주목할 만한 통찰력 중 하나는 AI 가속기당 메모리 요구량이 증가하고 있다는 점입니다. NVIDIA의 암페어 아키텍처에서 최신 베라 루빈 설계로의 진화를 분석해 보면 메모리 요구량이 크게 증가했음을 알 수 있습니다.이러한 급증은 고대역폭 메모리(HBM)의 발전뿐만 아니라 NVIDIA와 같은 기업들이 특정 AI 워크로드에 적합한 SOCAMM과 같은 기술을 개발하면서 가속기별로 평가했을 때 DRAM 요구량이 기하급수적으로 증가한 데에도 기인합니다.

델은 2028년까지 메모리 요구량이 최대 625배까지 급증할 수 있으며, 각 가속기의 메모리 용량은 25배 증가할 것으로 예상합니다.또한 이러한 가속기의 배포 속도도 25배 증가할 것으로 예측됩니다.이러한 예측은 현재로서는 확실한 실증적 근거가 부족할 수 있지만, 업계의 미래 방향을 보여주는 중요한 관점을 제공합니다.아래는 Hopper 아키텍처부터 Vera Rubin에 이르기까지 메모리 용량의 변화를 보여주는 표입니다.

막대 그래프는 총 용량 증가를 보여주며, Vera Rubin(HBM4 + SOCAMM)은 1824GB에 도달하여 H100(Hopper) 및 H200(Hopper) 모델 대비 '총 22.8배 증가'한 것으로 나타났습니다. — 가속기별 원시 메모리 분배 | 이미지 출처: Wccftech

생산 능력 증가율은 수요 추세를 평가하는 데 유용한 지표이지만, 전체적인 상황을 파악하는 데 있어 일부분에 불과합니다.메모리 수요는 칩 세대가 거듭될수록, 특히 인공지능 추론 애플리케이션이 더욱 심화됨에 따라 증가할 것으로 예상됩니다. DRAM 구매량의 상당 부분은 하이퍼스케일러와 이들의 CXL 메모리 기술 투자에 의해 주도되고 있으므로, 현재 시점에서 수요 감소를 예상하는 것은 잘못된 판단일 것입니다.

또 다른 중요한 변화는 메모리 공급업체와 하이퍼스케일러 간에 최대 5년까지 연장되는 장기 계약이 등장하고 있다는 점입니다.이러한 계약은 구매자들이 메모리 공급 확보를 위해 상당한 자원을 투자할 의지가 강하다는 것을 보여줍니다.이러한 상황은 수요가 당분간 줄어들지 않을 것이며, 새로운 메모리 설비가 가동될 것으로 예상되는 2027년 하반기까지 잠재적인 공급 부족 현상이 지속될 것으로 전망하게 합니다.

출처 및 이미지