NVIDIA GTC AI 大会精彩看点：微软的创新
最近的 NVIDIA GTC AI 大会展示了微软和 NVIDIA 的突破性公告，针对的是开发人员、初创企业和组织等多样化受众。
在 Azure AI Foundry 上推出 NVIDIA NIM 微服务
微软透露，Azure AI Foundry 现已整合NVIDIA NIM 微服务。这些微服务由 NVIDIA 推理软件优化的预构建容器组成，旨在增强在二十多个广泛使用的基础模型中部署生成式 AI 应用程序的能力。此外，还计划将 NVIDIA Llama Nemotron Reason 开放推理模型集成到该平台中。
增强推理性能
微软与 NVIDIA 合作，致力于提升 Azure AI Foundry 上托管的开源语言模型的推理性能。一个值得注意的项目包括利用TensorRT-LLM优化 Meta Llama 模型，确保开发人员轻松体验到更佳的性能。
宣布推出新服务
微软还宣布推出几项创新服务：
- Azure 容器应用程序：此无服务器 GPU 产品由 NVIDIA NIM 增强，允许用户按需运行 AI 工作负载，具有自动扩展和按秒计费的成本效率，甚至在空闲时缩小到零。
- Azure ND GB200 V6 虚拟机：这些虚拟机由 NVIDIA GB200 NVL72 GPU 提供支持，并利用 NVIDIA Quantum InfiniBand 网络来加速计算性能。
GPU 技术的未来发展
微软确认，下一代NVIDIA Blackwell Ultra GPU和RTX PRO 6000 Blackwell 服务器版将通过 Azure 访问，基于 NVIDIA Blackwell Ultra GPU 的虚拟机将于 2025 年底推出。
来自微软领导层的专家见解
今天在 NVIDIA GTC AI 大会上发布的公告强调了 Azure 致力于突破 AI 创新界限的承诺。凭借最先进的产品、深度协作和无缝集成，我们将继续提供支持和帮助开发人员和客户高效设计、定制和部署 AI 解决方案的技术。
启动虚拟桌面工作站
另一项令人兴奋的进展是，微软和 NVIDIA 推出了预配置的NVIDIA Omniverse和NVIDIA Isaac Sim虚拟桌面工作站，以及 Omniverse Kit App Streaming，目前已在 Azure 市场上架。这些虚拟机旨在使开发人员能够在数字孪生和机器人模拟中快速启动和部署应用程序和服务。
欲了解更多详细信息和见解，请访问来源。
发表回复