
本文內容不構成投資建議。作者不持有文中提及的股票。
了解 GPU 經濟學和 AI 工廠效率
在 GPU 經濟波動的背景下,摩根士丹利發布了一份引人注目的分析報告,強調了NVIDIA GB200 NVL72 GPU在驅動大規模 AI 工廠的卓越效率。這份分析報告對於參與 AI 基礎設施投資決策或技術進步的利害關係人尤其重要。
NVL72 AI 機架的關鍵組件
需要說明的是,每個 NVL72 AI 機架整合 72 個 NVIDIA B200 GPU 和 36 個 Grace CPU,它們透過先進的NVLink 5技術互連,旨在實現高頻寬和低延遲。值得注意的是,此類伺服器機架的當前成本超過,與H100 機架的 $3.1 million
約 形成鮮明對比。$190, 000
儘管初始投資較高,摩根士丹利認為,選擇 NVIDIA 最新的機架式解決方案比老一代 H100k 具有更好的經濟優勢,符合當代市場需求。
獲利能力洞察
根據摩根士丹利的計算,NVIDIA 的 GB200 NVL72 系統在獲利能力和創收方面超越競爭對手。谷歌開發的 TPU v6e pod僅次於 NVIDIA 的產品,如下圖所示的理論獲利能力圖表所示100MW AI factory
。

具體來說,GB200 NVL72 AI 機架可以產生令人印象深刻的77.6% 的利潤率,而Google的 TPU v6e 實現了接近74.9% 的利潤率。
成本比較和市場動態
雖然Google TPU v6e 艙的定價尚未公開,但普遍認為,TPU 艙的租賃成本比 NVL72 機架的租賃成本 低約 40% 至 50% 。
AMD 的市場地位
摩根士丹利的報告進一步指出,採用AMD 的 MI300和MI355技術 的人工智慧工廠的趨勢令人擔憂,預計這些工廠的利潤率將分別達到-28.2 percent
和的負值-64 percent
。
總擁有成本分析
分析假設建立一個100MW AI data center
包含約 的基礎設施成本$660 million
,攤銷期為十年。 GPU 費用波動較大,範圍從 到 ,$367 million
折舊$2.273 billion
期為四年。此外,營運成本還考慮了根據全球電價調整的冷卻系統能源效率。
在此背景下,NVIDIA 的 GB200 NVL72 系統呈現出最高的總擁有成本 (TCO),計算為$806.58 million
,緊隨其後的是 MI355X 平台,為$774.11 million
。
發佈留言