マイクロソフト、Windows 11で革新的なMu言語モデルを発表
昨年、マイクロソフトは画期的な機能として、専用のニューラル・プロセッシング・ユニット（NPU）を搭載したCopilot+ PCを発表しました。このNPUは毎秒40兆演算（TOPS）を超える処理能力を備え、デバイスの計算能力を大幅に向上させます。この革新技術には、オンデバイス対応のレスポンシブ言語モデル（SLM）として機能するPhi-Silicaと呼ばれる独自の技術が組み込まれています。このシステムは、マイクロソフトのファーストパーティ製アプリケーションを強化するだけでなく、様々なサードパーティ製アプリケーションの機能拡張にも役立ちます。
Muモデルの紹介
最近、マイクロソフトはAIへの取り組みをさらに推し進め、Windows 11に統合されたコンパクトなオンデバイス言語モデル「Mu」を発表しました。設定アプリ内でAI駆動型エージェントを強化するために設計されたMuは、自然言語で表現されたユーザーのクエリを理解することを目指しています。この革新的な機能は既存の検索ボックスとシームレスに統合されており、ユーザーインタラクションを効率化します。現在、Copilot+ PCを所有するDevチャネルのWindows Insider Programの参加者は、この新機能にアクセスできます。
Mu言語モデルのパフォーマンス機能
前述のPhi-Silicaと同様に、MuはNPU上で効率的に動作するように最適化されており、ローカル動作時に1秒あたり100トークンを超える驚異的な処理速度を誇ります。Microsoftの公式発表によると、Mu言語モデルの主な特徴は以下のとおりです。
- Mu は、3 億 3000 万のパラメータを持つエンコーダー/デコーダー言語モデルに分類されます。
- このエンコーダー/デコーダー フレームワークは、同様の仕様のデコーダーのみのモデルと比較して、最初のトークンのレイテンシが約 47% 短縮され、デコード速度が 4.7 倍高速になります。
- 効率を最適化するために、Mu は複数のコンポーネント間で重みの共有を実装し、それによって合計パラメータ数を削減します。
- Mu のトレーニングは、 Azure Machine Learning 内のNVIDIA A100 GPUを使用して実行され、高パフォーマンスの結果が保証されました。
- 注目すべきは、Mu はサイズが約 10 分の 1 であるにもかかわらず、微調整された Phi-3.5-mini モデルに匹敵するパフォーマンス レベルを示していることです。
- このモデルは複数単語のクエリを処理する場合に特に効果的ですが、設定アプリ内の検索機能は、短い入力や不完全な入力に対しても引き続き語彙的および意味的な結果を提供します。
新しいAIエージェントを体験する方法
この高度な AI 搭載エージェントの探索に興味のある熱心なユーザーは、Windows 11 ビルド 26120.3964 (KB5058496)またはそれ以降のバージョンをダウンロードして、Windows 設定アプリの革新的な機能にアクセスできます。
コメントを残す