
本文内容不构成投资建议。作者不持有文中提及的股票。
了解 GPU 经济学和 AI 工厂效率
在 GPU 经济波动的背景下,摩根士丹利发布了一份引人注目的分析报告,强调了NVIDIA GB200 NVL72 GPU在驱动大规模 AI 工厂方面的卓越效率。这份分析报告对于参与 AI 基础设施投资决策或技术进步的利益相关者尤为重要。
NVL72 AI 机架的关键组件
需要说明的是,每个 NVL72 AI 机架集成 72 个 NVIDIA B200 GPU 和 36 个 Grace CPU,它们通过先进的NVLink 5技术互连,旨在实现高带宽和低延迟。值得注意的是,此类服务器机架的当前成本超过,与H100 机架的 $3.1 million
约 形成鲜明对比。$190, 000
尽管初始投资较高,但摩根士丹利认为,选择 NVIDIA 最新的机架式解决方案比老一代 H100k 具有更好的经济优势,符合当代市场需求。
盈利能力洞察
根据摩根士丹利的计算,NVIDIA 的 GB200 NVL72 系统在盈利能力和创收方面超越竞争对手。谷歌开发的 TPU v6e pod仅次于 NVIDIA 的产品,如下图所示的理论盈利能力图表所示100MW AI factory
。

具体来说,GB200 NVL72 AI 机架可以产生令人印象深刻的77.6% 的利润率,而谷歌的 TPU v6e 实现了接近74.9% 的利润率。
成本比较和市场动态
虽然谷歌 TPU v6e 舱的定价尚未公开,但普遍认为,TPU 舱的租赁成本比 NVL72 机架的租赁成本 低约 40% 至 50% 。
AMD 的市场地位
摩根士丹利的报告进一步指出,采用AMD 的 MI300和MI355技术 的人工智能工厂的趋势令人担忧,预计这些工厂的利润率将分别达到-28.2 percent
和的负值-64 percent
。
总拥有成本分析
分析假设建立一个100MW AI data center
包含约 的基础设施成本$660 million
,摊销期为十年。GPU 费用波动较大,范围从 到 ,$367 million
折旧$2.273 billion
期为四年。此外,运营成本还考虑了根据全球电价调整的冷却系统能效。
在此背景下,NVIDIA 的 GB200 NVL72 系统呈现出最高的总拥有成本 (TCO),计算为$806.58 million
,紧随其后的是 MI355X 平台,为$774.11 million
。
发表回复