NVIDIA GTC AI 大會精彩看點：微軟的創新
最近的 NVIDIA GTC AI 大會展示了微軟和 NVIDIA 的突破性公告，針對的是開發人員、新創公司和組織等多元化受眾。
在 Azure AI Foundry 上推出 NVIDIA NIM 微服務
微軟透露，Azure AI Foundry 現已整合了NVIDIA NIM 微服務。這些微服務由 NVIDIA 推理軟體優化的預先建置容器組成，旨在增強在二十多個廣泛使用的生成式 AI 應用程式的部署。此外，目前正計劃將 NVIDIA Llama Nemotron Reason 開放推理模型整合到該平台中。
增強推理效能
微軟與 NVIDIA 合作，致力於提升託管在 Azure AI Foundry 上的開源語言模型的推理效能。一個值得注意的項目包括利用TensorRT-LLM優化 Meta Llama 模型，確保開發人員輕鬆體驗提升的效能。
宣布推出新服務
微軟也宣布推出幾項創新服務：
- Azure 容器應用程式：此無伺服器 GPU 產品由 NVIDIA NIM 增強，可讓使用者按需執行 AI 工作負載，具有自動擴展和按秒計費的成本效率，甚至在空閒時縮小到零。
- Azure ND GB200 V6 虛擬機器：這些虛擬機器由 NVIDIA GB200 NVL72 GPU 提供支持，並利用 NVIDIA Quantum InfiniBand 網路來加速運算效能。
GPU 技術的未來發展
微軟確認，下一代NVIDIA Blackwell Ultra GPU和RTX PRO 6000 Blackwell 伺服器版將透過 Azure 訪問，基於 NVIDIA Blackwell Ultra GPU 的虛擬機器將於 2025 年底推出。
來自微軟領導階層的專家見解
今天在 NVIDIA GTC AI 大會上發布的公告強調了 Azure 致力於突破 AI 創新界限的承諾。憑藉最先進的產品、深度協作和無縫集成，我們將繼續提供支援和幫助開發人員和客戶高效設計、客製化和部署其 AI 解決方案的技術。
啟動虛擬桌面工作站
另一個令人興奮的進展是，微軟和 NVIDIA 推出了預先配置的NVIDIA Omniverse和NVIDIA Isaac Sim虛擬桌面工作站，以及 Omniverse Kit App Streaming，現已在 Azure 市場上架。這些虛擬機器旨在使開發人員能夠在數位孿生和機器人模擬中快速啟動和部署應用程式和服務。
欲了解更多詳細資訊和見解，請訪問來源。
發佈留言