摩根士丹利报告称,NVIDIA GB200 NVL72 机架的利润率达到 77.6%,而 AMD MI355X 的利润率仅为 -64%,且总拥有成本相似

摩根士丹利报告称,NVIDIA GB200 NVL72 机架的利润率达到 77.6%,而 AMD MI355X 的利润率仅为 -64%,且总拥有成本相似

本文内容不构成投资建议。作者不持有文中提及的股票。

了解 GPU 经济学和 AI 工厂效率

在 GPU 经济波动的背景下,摩根士丹利发布了一份引人注目的分析报告,强调了NVIDIA GB200 NVL72 GPU在驱动大规模 AI 工厂方面的卓越效率。这份分析报告对于参与 AI 基础设施投资决策或技术进步的利益相关者尤为重要。

NVL72 AI 机架的关键组件

需要说明的是,每个 NVL72 AI 机架集成 72 个 NVIDIA B200 GPU 和 36 个 Grace CPU,它们通过先进的NVLink 5技术互连,旨在实现高带宽和低延迟。值得注意的是,此类服务器机架的当前成本超过,与H100 机架的 $3.1 million约 形成鲜明对比。$190, 000

尽管初始投资较高,但摩根士丹利认为,选择 NVIDIA 最新的机架式解决方案比老一代 H100k 具有更好的经济优势,符合当代市场需求。

盈利能力洞察

根据摩根士丹利的计算,NVIDIA 的 GB200 NVL72 系统在盈利能力和创收方面超越竞争对手。谷歌开发的 TPU v6e pod仅次于 NVIDIA 的产品,如下图所示的理论盈利能力图表所示100MW AI factory

按服务器机架划分的 100MW AI 工厂盈利能力图表显示了利润率和成本比较。

具体来说,GB200 NVL72 AI 机架可以产生令人印象深刻的77.6% 的利润率,而谷歌的 TPU v6e 实现了接近74.9% 的利润率

成本比较和市场动态

虽然谷歌 TPU v6e 舱的定价尚未公开,但普遍认为,TPU 舱的租赁成本比 NVL72 机架的租赁成本 低约 40% 至 50% 。

AMD 的市场地位

摩根士丹利的报告进一步指出,采用AMD 的 MI300MI355技术 的人工智能工厂的趋势令人担忧,预计这些工厂的利润率将分别达到-28.2 percent和的负值-64 percent

总拥有成本分析

分析假设建立一个100MW AI data center包含约 的基础设施成本$660 million,摊销期为十年。GPU 费用波动较大,范围从 到 ,$367 million折旧$2.273 billion期为四年。此外,运营成本还考虑了根据全球电价调整的冷却系统能效。

在此背景下,NVIDIA 的 GB200 NVL72 系统呈现出最高的总拥有成本 (TCO),计算为$806.58 million,紧随其后的是 MI355X 平台,为$774.11 million

来源和图片

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注