微软在 Windows 11 中推出创新的 Mu 语言模型
去年，微软在其Copilot+ 电脑上推出了一项激动人心的突破性功能，配备了专用的神经处理单元 (NPU)。该 NPU 每秒可执行超过 40 万亿次运算 (TOPS)，显著提升了设备的计算能力。伴随这项创新的是一项名为Phi-Silica的专有技术，它可用作设备上的响应式语言模型 (SLM)。该系统不仅增强了微软的第一方应用程序，还将功能扩展到各种第三方应用程序。
Mu 模型简介
最近，微软进一步推进了其 AI 雄心，推出了Mu，这是一款集成在 Windows 11 中的紧凑型设备内置语言模型。Mu 旨在赋能“设置”应用中的 AI 驱动代理，理解用户以自然语言表达的查询。这项创新与现有的搜索框无缝集成，简化了用户交互。目前，拥有 Copilot+ 电脑的 Dev 频道 Windows Insider 用户可以体验这项新功能。
Mu 语言模型的性能特点
与之前讨论过的 Phi-Silica 非常相似，Mu 经过优化，可以在 NPU 上有效运行，在本地运行时拥有每秒超过 100 个令牌的卓越处理速度。根据微软的官方声明，以下是 Mu 语言模型的一些主要特征：
- Mu 被归类为具有 3.3 亿个参数的编码器-解码器语言模型。
- 与类似规格的仅解码器模型相比，该编码器-解码器框架可将第一个令牌延迟缩短约 47%，解码速度提高 4.7 倍。
- 为了优化效率，Mu 在多个组件之间实现了权重共享，从而降低了总参数数量。
- Mu 的训练是使用Azure 机器学习中的NVIDIA A100 GPU执行的，以确保高性能结果。
- 值得注意的是，尽管 Mu 的尺寸只有经过精细调整的 Phi-3.5-mini 模型的十分之一，但其性能水平却可与经过精细调整的 Phi-3.5-mini 模型相媲美。
- 该模型对于处理多词查询特别有效，而“设置”应用中的搜索功能会继续为较短或不完整的输入提供词汇和语义结果。
如何体验新的AI代理
有兴趣探索这个先进的人工智能代理的热心用户可以下载Windows 11 Build 26120.3964（KB5058496）或任何后续版本来访问 Windows 设置应用中的创新功能。
发表回复