微軟推出 Windows AI Foundry：本地 AI 開發的飛躍
微軟在 Build 2025 大會上宣布推出 Windows AI Foundry，在增強 Windows 的 AI 功能方面取得了重大進展。利用現有的Windows Copilot Runtime，這個新的統一平台促進了本地 AI 應用程式的開發，透過使用在 Copilot+ PC 後台無縫運行的 Windows AI API 和機器學習模型整合了各種 AI 功能。
Windows AI Foundry 簡介
Windows AI Foundry 將 Windows Copilot Runtime 與一套專為開發人員設計的創新工具結合。這個強大的平台不僅提供由微軟原生 AI 模型支援的開箱即用的 AI API，還為開發人員提供了客製化這些模型的工具。此外，它還支援整合來自Azure AI Foundry的開源模型，以及允許開發人員合併自己的模型的推理運行時。
靈活的AI模型集成
Windows AI Foundry的推出體現了微軟對AI模型使用多功能性的承諾。開發人員可以透過 Azure Foundry Local 和其他知名目錄（如 Ollama 和 NVIDIA NIM）存取各種模型。微軟專有的 Foundry Local 目錄可確保 AI 模型針對各種硬體配置（包括 CPU、GPU 和 NPU）的效能進行最佳化。一個簡單的winget install Microsoft. FoundryLocal命令允許開發人員探索、下載和評估與其裝置相容的模型。選擇模型後，即可透過 Foundry Local SDK 輕鬆地將 Foundry Local 整合到應用程式中。
使用 Windows ML 實現高效率的模型部署
這個本地 AI 計畫的核心是Windows ML，這是一個內建的推理運行時，可簡化跨各種硬體平台的機器學習模型的部署。 Windows ML 是基於 DirectML 構建，支援主要供應商的晶片組架構，包括 AMD、Intel、NVIDIA 和 Qualcomm。這種基礎架構使開發人員能夠專注於創建尖端應用程序，而無需擔心未來的矽片更新，因為 Windows ML 旨在有效地管理依賴關係並自動適應新的硬體要求。
透過 LoRA 支援增強微調
一個顯著的進步是，微軟還強調了其在 Phi Silica 模型框架內對LoRA （低秩自適應）的新支持。此功能允許開發人員使用自訂資料集微調模型參數的最小子集，從而提高特定任務的效能。 LoRA 目前與Windows App SDK 1.8 Experimental 2一起處於公開預覽階段，很快就會在 Intel 和 AMD Copilot+ PC 上推出，從而增強其跨平台的實用性。
利用語意搜尋 API 徹底改變搜尋方式
為了進一步豐富開發人員體驗，微軟宣布了新的語意搜尋 API，支援在應用程式內創建高級 AI 驅動的搜尋功能。這些 API 有助於本地執行，並支援RAG（檢索增強生成）框架，使開發人員更容易增強其應用程式的搜尋功能。目前，這些 API 處於私人預覽階段，適用於所有 Copilot+ PC。
有關此發展的更多詳細資訊和更新，請訪問官方來源。
發佈留言