Microsoft lance Mu, un petit modèle de langage sur appareil pour Windows 11

Microsoft dévoile un modèle de langage Mu innovant dans Windows 11

L’année dernière, Microsoft a lancé une fonctionnalité révolutionnaire avec ses PC Copilot+, équipés d’une unité de traitement neuronal (NPU) dédiée. Cette unité est capable d’effectuer plus de 40 000 milliards d’opérations par seconde (TOPS), améliorant considérablement les capacités de calcul de l’appareil. Cette innovation s’accompagne d’une technologie propriétaire appelée Phi-Silica, qui sert de modèle de langage réactif (SLM) intégré à l’appareil. Ce système améliore non seulement les applications propriétaires de Microsoft, mais étend également ses fonctionnalités à diverses applications tierces.

Présentation du modèle Mu

Récemment, Microsoft a renforcé ses ambitions en matière d’IA en dévoilant Mu, un modèle de langage compact intégré à Windows 11. Conçu pour permettre à un agent piloté par l’IA de fonctionner dans l’application Paramètres, Mu vise à comprendre les requêtes des utilisateurs formulées en langage naturel. Cette innovation s’intègre parfaitement au champ de recherche existant, simplifiant ainsi les interactions utilisateur. Actuellement, les Windows Insiders du canal Dev possédant un PC Copilot+ ont accès à cette nouvelle fonctionnalité.

Caractéristiques de performance du modèle de langage Mu

Tout comme Phi-Silica, précédemment évoqué, Mu est optimisé pour fonctionner efficacement sur les NPU, avec une vitesse de traitement remarquable dépassant 100 jetons par seconde en local. Selon l’annonce officielle de Microsoft, voici quelques caractéristiques clés du modèle de langage Mu :

Mu est classé comme un modèle de langage encodeur-décodeur à 330 millions de paramètres.
Ce cadre d’encodeur-décodeur offre une latence du premier jeton réduite d’environ 47 % et une vitesse de décodage 4, 7 fois plus rapide que les modèles décodeurs uniquement de spécifications similaires.
Pour optimiser l’efficacité, Mu met en œuvre le partage du poids entre plusieurs composants, réduisant ainsi le nombre total de paramètres.
La formation de Mu a été exécutée à l’aide de GPU NVIDIA A100 dans Azure Machine Learning, garantissant des résultats de haute performance.
Il est à noter que Mu présente des niveaux de performance comparables à ceux du modèle Phi-3.5-mini, bien qu’il fasse environ un dixième de sa taille.
Ce modèle est particulièrement efficace pour gérer les requêtes à plusieurs mots, tandis que la fonctionnalité de recherche dans l’application Paramètres continue d’offrir des résultats lexicaux et sémantiques pour les entrées plus courtes ou incomplètes.

Comment découvrir le nouvel agent IA

Les utilisateurs enthousiastes souhaitant explorer cet agent avancé basé sur l’IA peuvent télécharger Windows 11 Build 26120.3964 (KB5058496) ou toute version ultérieure pour accéder aux fonctionnalités innovantes de l’application Paramètres Windows.

Source et images