본 콘텐츠는 투자 자문이 아닙니다.저자는 본 자료에 언급된 주식에 대한 어떠한 지분도 보유하고 있지 않습니다.
GPU 경제성과 AI 공장 효율성 이해
GPU 경제의 변동성 속에서 모건스탠리는 대규모 AI 공장 구축에 있어 NVIDIA GB200 NVL72 GPU 의 탁월한 효율성을 강조하는 설득력 있는 분석을 발표했습니다.이러한 통찰력은 AI 인프라 투자 결정이나 기술 발전에 참여하는 이해관계자들에게 특히 중요합니다.
NVL72 AI 랙의 주요 구성 요소
명확히 하자면, 각 NVL72 AI 랙에는 72개의 NVIDIA B200 GPU와 36개의 Grace CPU가 통합되어 있으며, 이 GPU들은 고대역폭과 낮은 지연 시간을 위해 설계된 고급 NVLink 5 기술을 통해 상호 연결됩니다.주목할 점은 이러한 서버 랙의 현재 가격이 약 를 초과한다는 점 인데, 이는 H100 랙의 $3.1 million약 와 극명한 대조를 이룹니다.$190, 000
Morgan Stanley는 초기 투자 비용이 더 높음에도 불구하고 NVIDIA의 최신 랙 스케일 솔루션을 선택하면 기존 세대의 H100k보다 경제적 이점이 뛰어나며, 현대 시장 수요에 부합한다고 주장합니다.
수익성 통찰력
모건 스탠리의 계산에 따르면, 엔비디아의 GB200 NVL72 시스템은 수익성과 매출 창출 측면에서 경쟁사보다 우위에 있습니다.구글이 개발한 TPU v6e 포드는 엔비디아 제품보다 약간 뒤처져 있으며, 이는 아래 이론적인 수익성 차트에서 확인할 수 있습니다 100MW AI factory.
구체적으로 GB200 NVL72 AI 랙은 인상적인 77.6%의 이익 마진을 낼 수 있는 반면, Google의 TPU v6e는 74.9%에 가까운 이익 마진을 달성합니다.
비용 비교 및 시장 동향
Google의 TPU v6e 포드 가격은 아직 공개적으로 공개 되지 않았지만, 일반적으로 TPU 포드의 임대 비용은 NVL72 랙보다 약 40~50% 저렴하다고 알려져 있습니다.
시장에서 AMD의 위치
Morgan Stanley의 보고서는 AMD의 MI300 및 MI355 기술을 사용하는 AI 공장에 대한 우려스러운 추세를 더욱 보여줍니다.이 기술은 각각 -28.2 percent과 의 마이너스 이익 마진을 초래할 것으로 예상됩니다 -64 percent.
총 소유 비용 분석
분석에서는 구축 에 약 10년 동안 상각되는 100MW AI data center인프라 비용이 포함된다고 가정합니다. GPU 비용은 에서 까지 $660 million매우 큰 폭으로 변동할 수 있으며, 감가상각 기간은 4년입니다.또한, 운영 비용에는 전 세계 전기 요금에 맞춰 조정된 냉각 시스템의 전력 효율이 반영됩니다.$367 million$2.273 billion
이러한 맥락에서 NVIDIA의 GB200 NVL72 시스템은 가장 높은 총 소유 비용(TCO)을 보이며, $806.58 million그 다음으로 MI355X 플랫폼이 입니다 $774.11 million.
답글 남기기