Microsoft lança Mu, um pequeno modelo de linguagem para dispositivos Windows 11

Microsoft revela modelo inovador de linguagem Mu no Windows 11

Em um desenvolvimento empolgante, no ano passado, a Microsoft introduziu um recurso inovador em seus PCs Copilot+, equipados com uma Unidade de Processamento Neural (NPU) dedicada. Essa NPU é capaz de realizar mais de 40 trilhões de operações por segundo (TOPS), aprimorando significativamente as capacidades computacionais do dispositivo. Essa inovação é acompanhada por uma tecnologia proprietária chamada Phi-Silica, que atua como um modelo de linguagem responsiva (SLM) no dispositivo. Esse sistema não apenas aprimora os aplicativos originais da Microsoft, mas também estende funcionalidades a diversos aplicativos de terceiros.

Apresentando o Modelo Mu

Recentemente, a Microsoft avançou ainda mais em suas ambições de IA ao revelar o Mu, um modelo compacto de linguagem para dispositivos integrado ao Windows 11. Projetado para capacitar um agente orientado por IA dentro do aplicativo Configurações, o Mu visa entender as consultas do usuário articuladas em linguagem natural. Essa inovação é perfeitamente integrada à caixa de pesquisa existente, agilizando as interações do usuário. Atualmente, os usuários do Windows Insider no Canal Dev que possuem PCs Copilot+ têm acesso a esse novo recurso.

Recursos de desempenho do modelo de linguagem Mu

Assim como o Phi-Silica discutido anteriormente, o Mu é otimizado para funcionar efetivamente em NPUs, apresentando uma velocidade de processamento notável, superior a 100 tokens por segundo, operando localmente. De acordo com o anúncio oficial da Microsoft, aqui estão algumas características principais do modelo de linguagem Mu:

Mu é classificado como um modelo de linguagem codificador-decodificador de 330 milhões de parâmetros.
Esta estrutura de codificador-decodificador oferece aproximadamente 47% de redução na latência do primeiro token e uma velocidade de decodificação 4, 7 vezes mais rápida em comparação aos modelos somente decodificadores de especificações semelhantes.
Para otimizar a eficiência, o Mu implementa o compartilhamento de peso entre vários componentes, reduzindo assim a contagem total de parâmetros.
O treinamento do Mu foi executado usando GPUs NVIDIA A100 no Azure Machine Learning, garantindo resultados de alto desempenho.
Notavelmente, o Mu exibe níveis de desempenho comparáveis ao modelo Phi-3.5-mini ajustado, apesar de ter aproximadamente um décimo de seu tamanho.
Este modelo é particularmente eficaz para lidar com consultas com várias palavras, enquanto a funcionalidade de pesquisa no aplicativo Configurações continua a oferecer resultados lexicais e semânticos para entradas mais curtas ou incompletas.

Como experimentar o novo agente de IA

Usuários entusiasmados interessados em explorar este agente avançado com tecnologia de IA podem baixar o Windows 11 Build 26120.3964 (KB5058496) ou qualquer versão subsequente para acessar os recursos inovadores no aplicativo Configurações do Windows.

Fonte e Imagens