NVIDIA 的 Blackwell GPU 已將自己定位於 AI 推理效能的前沿，與競爭對手相比，利用該技術的企業的利潤率明顯更高。
NVIDIA 的全面 AI 軟體和優化：超越 AMD 的競爭優勢
摩根士丹利研究部最近的分析對不同技術提供者在AI推理工作負載方面的利潤率和營運成本進行了全面比較。研究結果顯示，作為AI推理「工廠」的公司的利潤率超過50%，其中NVIDIA遙遙領先。
該研究評估了一系列人工智慧工廠，特別是那些需要100兆瓦電力的工廠，這些工廠採用了來自NVIDIA、Google、AMD、AWS和華為等多家關鍵產業參與者的伺服器機架。其中，NVIDIA的GB200 NVL72「Blackwell」GPU平台脫穎而出，實現了高達77.6%的驚人利潤率，預計利潤約為35億美元。
谷歌的 TPU v6e pod 緊隨其後，利潤率為 74.9%，而 AWS 的 Trn2 Ultraserver 則以 62.5% 的利潤率位居第三。其他解決方案的利潤率通常在 40-50% 左右，但 AMD 的效能指標顯示，其利潤率還有很大的提升空間。
與之形成鮮明對比的是，AMD 向其最新 MI355X 平台的轉型導致了令人不安的負利潤率，高達 28.2%。早期的 MI300X 型號表現更糟，在 AI 推理性能方面，利潤率高達驚人的負 64.0%。摩根士丹利的報告還細分了每晶片每小時的創收，顯示 NVIDIA 的 GB200 每小時創收 7.5 美元，其次是 HGX H200，創收 3.7 美元。相比之下，AMD 的 MI355X 每小時僅創收 1.7 美元，而大多數其他競爭對手的創收在 0.5 美元到 2.0 美元之間，這表明 NVIDIA 在該領域佔據主導地位。
NVIDIA 在 AI 推理領域的巨大優勢主要源於其對 FP4 的支持以及對其 CUDA AI 堆疊的持續增強。該公司對其幾款早期 GPU 車型（包括 Hopper 甚至 Blackwell）進行了有效的處理，例如對葡萄酒進行精釀——每個季度都逐步提升其性能。
雖然 AMD 的 MI300 和 MI350 平台在硬體功能方面表現出色，但該公司在優化 AI 推理軟體方面仍面臨挑戰，這是亟需改進的領域。
值得注意的是，摩根士丹利也指出，AMD MI300X 平台的總擁有成本 (TCO) 高達 7.44 億美元，而 NVIDIA GB200 平台約為 8 億美元。這顯示 AMD 的成本結構在競爭格局中可能並不有利。較新的 MI355X 伺服器的預期 TCO 為 5.88 億美元，與華為的 CloudMatrix 384 相近，但較高的初始支出可能會阻止潛在用戶選擇 AMD，尤其是考慮到 NVIDIA 卓越的 AI 推理性能，預計未來幾年將佔據 85% 的 AI 市場。
NVIDIA 和 AMD 都力求保持同步發展。 NVIDIA 計劃於今年推出 Blackwell Ultra GPU，承諾效能將較現有 GB200 型號提升 50%。之後，即將推出的 Rubin 平台預計將於 2026 年上半年投入生產，屆時也將推出 Rubin Ultra 和 Feynman。同時，AMD 計劃於明年推出 MI400 與 Rubin 競爭，並預計將為其 MI400 系列實施多項 AI 推理優化，這將在 AI 領域掀起一場精彩紛呈的競爭。
新聞來源：WallStreetCN、Jukanlosreve
發佈留言