摩根士丹利報告稱,NVIDIA GB200 NVL72 機架的利潤率達到 77.6%,而 AMD MI355X 的利潤率僅為 -64%,且總擁有成本相似

摩根士丹利報告稱,NVIDIA GB200 NVL72 機架的利潤率達到 77.6%,而 AMD MI355X 的利潤率僅為 -64%,且總擁有成本相似

本文內容不構成投資建議。作者不持有文中提及的股票。

了解 GPU 經濟學和 AI 工廠效率

在 GPU 經濟波動的背景下,摩根士丹利發布了一份引人注目的分析報告,強調了NVIDIA GB200 NVL72 GPU在驅動大規模 AI 工廠的卓越效率。這份分析報告對於參與 AI 基礎設施投資決策或技術進步的利害關係人尤其重要。

NVL72 AI 機架的關鍵組件

需要說明的是,每個 NVL72 AI 機架整合 72 個 NVIDIA B200 GPU 和 36 個 Grace CPU,它們透過先進的NVLink 5技術互連,旨在實現高頻寬和低延遲。值得注意的是,此類伺服器機架的當前成本超過,與H100 機架的 $3.1 million約 形成鮮明對比。$190, 000

儘管初始投資較高,摩根士丹利認為,選擇 NVIDIA 最新的機架式解決方案比老一代 H100k 具有更好的經濟優勢,符合當代市場需求。

獲利能力洞察

根據摩根士丹利的計算,NVIDIA 的 GB200 NVL72 系統在獲利能力和創收方面超越競爭對手。谷歌開發的 TPU v6e pod僅次於 NVIDIA 的產品,如下圖所示的理論獲利能力圖表所示100MW AI factory

按伺服器機架劃分的 100MW AI 工廠獲利能力圖表顯示了利潤率和成本比較。

具體來說,GB200 NVL72 AI 機架可以產生令人印象深刻的77.6% 的利潤率,而Google的 TPU v6e 實現了接近74.9% 的利潤率

成本比較和市場動態

雖然Google TPU v6e 艙的定價尚未公開,但普遍認為,TPU 艙的租賃成本比 NVL72 機架的租賃成本 低約 40% 至 50% 。

AMD 的市場地位

摩根士丹利的報告進一步指出,採用AMD 的 MI300MI355技術 的人工智慧工廠的趨勢令人擔憂,預計這些工廠的利潤率將分別達到-28.2 percent和的負值-64 percent

總擁有成本分析

分析假設建立一個100MW AI data center包含約 的基礎設施成本$660 million,攤銷期為十年。 GPU 費用波動較大,範圍從 到 ,$367 million折舊$2.273 billion期為四年。此外,營運成本還考慮了根據全球電價調整的冷卻系統能源效率。

在此背景下,NVIDIA 的 GB200 NVL72 系統呈現出最高的總擁有成本 (TCO),計算為$806.58 million,緊隨其後的是 MI355X 平台,為$774.11 million

來源和圖片

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *