Microsoft lancia Mu, un modello di linguaggio di piccole dimensioni per Windows 11

Microsoft presenta l’innovativo modello di linguaggio Mu in Windows 11

Lo scorso anno, Microsoft ha introdotto una funzionalità rivoluzionaria nei suoi PC Copilot+, dotati di un’unità di elaborazione neurale (NPU) dedicata. Questa NPU è in grado di eseguire oltre 40 trilioni di operazioni al secondo (TOPS), migliorando significativamente le capacità di calcolo del dispositivo. A questa innovazione si aggiunge una tecnologia proprietaria chiamata Phi-Silica, che funge da modello linguistico reattivo (SLM) sul dispositivo. Questo sistema non solo migliora le applicazioni proprietarie di Microsoft, ma estende anche le funzionalità a diverse applicazioni di terze parti.

Introduzione al modello Mu

Di recente, Microsoft ha ulteriormente potenziato le sue ambizioni in ambito AI presentando Mu, un modello linguistico compatto integrato in Windows 11. Progettato per potenziare un agente basato sull’intelligenza artificiale all’interno dell’app Impostazioni, Mu mira a comprendere le query degli utenti formulate in linguaggio naturale. Questa innovazione si integra perfettamente con la casella di ricerca esistente, semplificando le interazioni degli utenti. Attualmente, i Windows Insider del canale Dev che possiedono PC Copilot+ hanno accesso a questa nuova funzionalità.

Caratteristiche prestazionali del modello linguistico Mu

Proprio come il Phi-Silica precedentemente discusso, Mu è ottimizzato per funzionare efficacemente su NPU, vantando una notevole velocità di elaborazione che supera i 100 token al secondo in locale. Secondo l’annuncio ufficiale di Microsoft, ecco alcune caratteristiche chiave del modello di linguaggio Mu:

Mu è classificato come un modello linguistico codificatore-decodificatore da 330 milioni di parametri.
Questo framework encoder-decoder offre una latenza del primo token ridotta di circa il 47% e una velocità di decodifica 4, 7 volte più veloce rispetto ai modelli solo decoder con specifiche simili.
Per ottimizzare l’efficienza, Mu implementa la condivisione del peso tra più componenti, riducendo così il numero totale di parametri.
L’addestramento di Mu è stato eseguito utilizzando GPU NVIDIA A100 all’interno di Azure Machine Learning, garantendo risultati ad alte prestazioni.
In particolare, Mu mostra livelli di prestazioni paragonabili al modello Phi-3.5-mini ottimizzato, nonostante sia circa un decimo delle sue dimensioni.
Questo modello è particolarmente efficace per gestire query composte da più parole, mentre la funzionalità di ricerca all’interno dell’app Impostazioni continua a offrire risultati lessicali e semantici anche per input più brevi o incompleti.

Come sperimentare il nuovo agente AI

Gli utenti entusiasti interessati a esplorare questo agente avanzato basato sull’intelligenza artificiale possono scaricare Windows 11 Build 26120.3964 (KB5058496) o qualsiasi versione successiva per accedere alle funzionalità innovative nell’app Impostazioni di Windows.

Fonte e immagini