NVIDIA Blackwell GB200 為 Microsoft Azure 上的 A4 虛擬機器提供 2.25 倍的運算和 HBM 容量

NVIDIA Blackwell GB200 為 Microsoft Azure 上的 A4 虛擬機器提供 2.25 倍的運算和 HBM 容量

微軟 Azure 透過整合其首個 NVIDIA Blackwell「GB200 NVL72」系統來增強 OpenAI 功能,達到了一個重要的里程碑,代表了人工智慧訓練和優化的關鍵發展。

微軟利用 NVIDIA Blackwell 技術擴展 OpenAI 的運算能力

採用最先進的NVIDIA GB200 NVL72「Blackwell」系統,標誌著OpenAI的性能和能力有了實質的飛躍。 NVIDIA 先進的 GPU 一直支援 OpenAI 的 AI 模型。然而,與Microsoft Azure的合作旨在透過更密集、更嚴格的訓練過程來最大限度地提高這些 AI 模型的有效性。

在最近的 X 貼文中,OpenAI 執行長 Sam Altman 證實在 Microsoft Azure 上成功部署了第一套完整的八個機架,其中包含 GB200 NVL72 系統。他對微軟執行長薩蒂亞·納德拉 (Satya Nadella) 和 NVIDIA 執行長黃仁勳 (Jensen Huang) 這項創新的認可,凸顯了這些領先科技公司的合作實力。此次合作使微軟成為 AI 營運雲端服務供應商中強大的參與者。

Blackwell 系統無與倫比的運算能力

先進的 NVIDIA Blackwell GB200 NVL72 系統擁有令人印象深刻的架構,每個機架整合有 36 個 Grace CPU 和 72 個 Blackwell GPU。當完全部署在八個機架上時,系統總共擁有 288 個 Grace CPU 和驚人的576 個Blackwell GPU。這種設定產生了非凡的計算能力;單一機架可提供高達 6, 480 TFLOPS 的 FP32 處理能力和 3, 240 TFLOPS 的 FP64 性能,在整個系統中將此數字擴展到近51, 840 TFLOPS的 FP32 和25, 920 TFLOPS的 FP64。

如此卓越的處理效能使 Azure OpenAI 服務能夠有效滿足企業高效擴展營運的需求。 NVIDIA「Blackwell」GB200 NVL72 系統專為處理大量生成性 AI 任務而設計,具有高達 576 TB/s 的高記憶體頻寬以及強大的平行處理能力。

NVIDIA Blackwell GPU

OpenAI 目前的 GPU 名冊包括各種 NVIDIA 型號,例如 V100s、H100s 和 A100s;然而,Blackwell B200 代表了 GPU 技術的巔峰,與先前的版本相比,效能有顯著的提升。微軟向 OpenAI 投入近 140 億美元的巨額投資,顯然他們渴望為客戶提供最先進的運算解決方案。

來源和圖片

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *