
微软推出 Windows AI Foundry:本地 AI 开发的一次飞跃
微软在 Build 2025 大会上宣布推出 Windows AI Foundry,在增强 Windows 的 AI 功能方面取得了重大进展。利用现有的Windows Copilot Runtime,这个新的统一平台促进了本地 AI 应用程序的开发,通过使用在 Copilot+ PC 后台无缝运行的 Windows AI API 和机器学习模型集成了各种 AI 功能。
Windows AI Foundry 简介
Windows AI Foundry 将 Windows Copilot Runtime 与一套专为开发者设计的创新工具相融合。这个强大的平台不仅提供由微软原生 AI 模型支持的开箱即用的 AI API,还为开发者提供了自定义这些模型的工具。此外,它还支持集成来自Azure AI Foundry的开源模型,以及允许开发者集成自定义模型的推理运行时。
灵活的AI模型集成
Windows AI Foundry 的推出体现了微软对 AI 模型多功能性的承诺。开发者可以通过 Azure Foundry Local 以及其他知名目录(例如 Ollama 和 NVIDIA NIM)访问丰富的模型。微软专有的 Foundry Local 目录确保 AI 模型针对各种硬件配置(包括 CPU、GPU 和 NPU)的性能进行了优化。winget install Microsoft. FoundryLocal
开发者只需一个简单的命令即可探索、下载和评估与其设备兼容的模型。选择模型后,即可通过 Foundry Local SDK 轻松地将 Foundry Local 集成到应用程序中。
使用 Windows ML 实现高效的模型部署
这项本地 AI 计划的核心是Windows ML,它是一个内置的推理运行时,可简化机器学习模型在各种硬件平台上的部署。Windows ML 基于 DirectML 构建,支持 AMD、英特尔、NVIDIA 和高通等主要供应商的芯片组架构。由于 Windows ML 旨在有效管理依赖关系并自动适应新的硬件要求,这种基础架构使开发人员能够专注于创建尖端应用程序,而无需担心未来的芯片更新。
通过 LoRA 支持增强微调
微软还重点介绍了其在 Phi Silica 模型框架中对LoRA (低秩自适应)的全新支持,这是一项显著的进步。此功能允许开发人员使用自定义数据集对模型参数的最小子集进行微调,从而提升特定任务的性能。LoRA 目前与Windows App SDK 1.8 Experimental 2一起处于公开预览阶段,很快将在 Intel 和 AMD Copilot+ PC 上推出,从而增强其跨平台的实用性。
利用语义搜索 API 彻底改变搜索方式
为了进一步丰富开发者体验,微软宣布推出全新的语义搜索 API,助力开发者在应用程序中创建先进的 AI 驱动搜索功能。这些 API 简化了本地执行,并支持RAG(检索增强生成)框架,使开发者能够更轻松地增强其应用程序的搜索功能。目前,这些 API 处于私人预览阶段,适用于所有 Copilot+ PC。
有关此发展的更多详细信息和更新,请访问官方来源。
发表回复