Microsoft presenta actualmente puntos de vista contradictorios sobre la seguridad de las funciones de inteligencia artificial (IA) en Windows 11. Por un lado, la compañía ha reconocido que sus agentes de IA pueden presentar «alucinaciones», lo que puede provocar consecuencias imprevistas como la filtración de datos o la instalación de malware. Por otro lado, una publicación reciente en X (anteriormente Twitter) afirma que la IA puede facilitar una experiencia de usuario sencilla, segura y confiable en Windows 11.
Según Windows Latest, esta nueva publicación en X alienta a los desarrolladores a crear funciones o aplicaciones impulsadas por IA para dispositivos Windows 11 Copilot+, particularmente aquellos equipados con procesadores Snapdragon y unidades de procesamiento neuronal (NPU).
En su declaración, Microsoft afirmó que «Windows está evolucionando para que las personas puedan usar la IA de forma fácil, segura y con confianza. Se está convirtiendo en el lienzo de la IA, integrada en el sistema, el silicio y el hardware, lo que permite a las organizaciones pasar de la experimentación a la ejecución a gran escala».
Esta afirmación levanta sospechas, especialmente si tenemos en cuenta las admisiones anteriores de la compañía de que los componentes de IA en Windows 11, particularmente sus agentes de IA, pueden no ser tan seguros como se esperaba.
Microsoft describe la IA Agentic como altamente capaz de realizar tareas en nombre del usuario. Por ejemplo, la función «Acciones» de Copilot permite administrar archivos y carpetas personales, incluyendo el renombrado automático de archivos, lo que ilustra sus capacidades Agentic, impulsadas por el «Espacio de Trabajo Agentic».
Sin embargo, la función Agentic Workspace es completamente opcional debido a los riesgos de seguridad inherentes que conlleva. Un documento de soporte destacado por Windows Latest señaló la posibilidad de que la IA «alucine» y genere resultados inesperados, lo que puede ser especialmente peligroso cuando los agentes de IA interactúan con datos personales confidenciales.
Microsoft advirtió además que “las aplicaciones de inteligencia artificial de Agentic introducen nuevas vulnerabilidades de seguridad, como la inyección de mensajes cruzados (XPIA), mediante la cual el contenido malicioso incrustado en elementos o documentos de la interfaz de usuario puede anular las instrucciones del agente, lo que lleva a operaciones no deseadas como la exfiltración de datos o la instalación de malware ”, como se detalla en su documento de soporte.
Dadas estas advertencias, aparece una alerta de seguridad cuando los usuarios intentan habilitar las funciones de Agentic en las versiones preliminares de Windows 11, lo que indica los riesgos reales en juego.
Windows 11: Un nuevo lienzo para el desarrollo de IA
Para profundizar en esta narrativa, Microsoft ha publicado documentación sobre cómo «Desarrollar aplicaciones de IA para PC Copilot+».Este recurso explica cómo Windows 11 se convierte en un «lienzo» para las capacidades de IA, invitando a los desarrolladores a diseñar aplicaciones de IA adaptadas a dispositivos con NPU avanzadas, que permiten el procesamiento de IA en el dispositivo.
La empresa también cambió su enfoque recomendado de DirectML y estrategias de ejecución específicas de hardware a Windows ML (WinML), que permite la detección automática del procesador más eficiente (como Qualcomm NPU a través de QNN o Intel a través de OpenVINO) para tareas de IA al tiempo que ofrece alternativas a la GPU o CPU cuando sea necesario.
Cuestionando la narrativa de AI Canvas
Cabe preguntarse por qué Microsoft se empeña tanto en promocionar Windows 11 como una plataforma centrada en la IA.¿Se trata simplemente de una estrategia de marketing? Aunque pueda parecerlo, Microsoft parece estar abogando por un cambio significativo en la percepción del usuario: una narrativa que sitúa la IA en el centro de la experiencia de Windows.
Esta no es la primera vez que Microsoft intenta redefinir la identidad de su sistema operativo. Por ejemplo, con Windows 10 Creators Update (versión 1703), el objetivo era dotar a los creadores de funciones relacionadas con contenido 3D, Paint 3D y Realidad Mixta. De igual forma, antes de eso, Windows 8 se presentó como un sistema operativo optimizado para pantallas táctiles, diseñado principalmente para tabletas y dispositivos 2 en 1.
En cada uno de estos casos, Microsoft ha buscado redefinir las expectativas de los usuarios con respecto a Windows, una estrategia que actualmente coincide con las afirmaciones sobre «Windows como un lienzo de IA».Sin embargo, la ironía persiste: los esfuerzos anteriores por cambiar la percepción del usuario a menudo tuvieron un éxito limitado, en gran medida porque Microsoft pasó por alto los atributos fundamentales que tradicionalmente han hecho popular a Windows.¿Qué opinas de esta narrativa en evolución?
Artículos relacionados:
Microsoft recomienda 32 GB de RAM como la actualización ideal para jugar en Windows 11.
19:35
Satya Nadella confirma 1.600 millones de usuarios mensuales de Windows y Bing supera los 1.000 millones de usuarios.
15:15
Satya Nadella reconoce la necesidad de Microsoft de recuperar usuarios de Windows 11 y mejorar el rendimiento en ordenadores con poca memoria RAM.
0:54
Deja una respuesta