Microsoft lanza Mu, un modelo de lenguaje pequeño en el dispositivo para Windows 11

Microsoft presenta el innovador modelo de lenguaje Mu en Windows 11

En un avance emocionante, el año pasado Microsoft introdujo una función revolucionaria con sus PC Copilot+, equipadas con una Unidad de Procesamiento Neuronal (NPU) dedicada. Esta NPU es capaz de realizar más de 40 billones de operaciones por segundo (TOPS), lo que mejora significativamente la capacidad computacional del dispositivo. Esta innovación se complementa con una tecnología propia llamada Phi-Silica, que funciona como un modelo de lenguaje responsivo (SLM) en el dispositivo. Este sistema no solo mejora las aplicaciones propias de Microsoft, sino que también amplía las funcionalidades de diversas aplicaciones de terceros.

Presentando el modelo Mu

Recientemente, Microsoft amplió sus ambiciones en IA con el lanzamiento de Mu, un modelo de lenguaje compacto integrado en Windows 11. Diseñado para potenciar un agente basado en IA dentro de la app Configuración, Mu busca comprender las consultas de los usuarios expresadas en lenguaje natural. Esta innovación se integra a la perfección con el cuadro de búsqueda existente, optimizando las interacciones del usuario. Actualmente, los usuarios de Windows Insider del Canal de Desarrollo que poseen PCs Copilot+ tienen acceso a esta nueva función.

Características de rendimiento del modelo de lenguaje Mu

Al igual que el Phi-Silica mencionado anteriormente, Mu está optimizado para funcionar eficazmente en NPU, con una notable velocidad de procesamiento que supera los 100 tokens por segundo en funcionamiento local. Según el anuncio oficial de Microsoft, estas son algunas características clave del modelo de lenguaje Mu:

Mu se clasifica como un modelo de lenguaje codificador-decodificador de 330 millones de parámetros.
Este marco de codificador-decodificador ofrece una latencia del primer token reducida aproximadamente un 47 % y una velocidad de decodificación 4, 7 veces más rápida en comparación con los modelos de solo decodificador de especificaciones similares.
Para optimizar la eficiencia, Mu implementa la distribución de peso entre varios componentes, reduciendo así el recuento total de parámetros.
El entrenamiento de Mu se ejecutó utilizando GPU NVIDIA A100 dentro de Azure Machine Learning, lo que garantiza resultados de alto rendimiento.
Cabe destacar que Mu exhibe niveles de rendimiento comparables a los del modelo Phi-3.5-mini perfeccionado, a pesar de tener aproximadamente una décima parte de su tamaño.
Este modelo es particularmente eficaz para gestionar consultas de varias palabras, mientras que la funcionalidad de búsqueda dentro de la aplicación Configuración continúa ofreciendo resultados léxicos y semánticos para entradas más cortas o incompletas.

Cómo experimentar el nuevo agente de IA

Los usuarios entusiastas interesados en explorar este agente avanzado impulsado por IA pueden descargar Windows 11 Build 26120.3964 (KB5058496) o cualquier versión posterior para acceder a las funciones innovadoras en la aplicación Configuración de Windows.

Fuente e imágenes