Microsoft promet une intégration sécurisée de l’IA dans Windows 11 malgré les risques de logiciels malveillants

Microsoft présente actuellement des points de vue contradictoires concernant la sécurité des fonctionnalités d’intelligence artificielle (IA) dans Windows 11. D’une part, l’entreprise reconnaît que ses agents d’IA peuvent présenter des « hallucinations », entraînant des conséquences imprévues telles que des fuites de données ou l’installation de logiciels malveillants. D’autre part, une publication récente sur X (anciennement Twitter) affirme que l’IA peut faciliter une expérience utilisateur simple, sécurisée et fiable sous Windows 11.

Selon Windows Latest, ce nouvel article sur X encourage les développeurs à créer des fonctionnalités ou des applications basées sur l’IA pour les appareils Windows 11 Copilot+, en particulier ceux équipés de processeurs Snapdragon et d’unités de traitement neuronal (NPU).

Dans sa déclaration, Microsoft a affirmé que « Windows évolue pour permettre aux utilisateurs d’exploiter l’IA facilement, en toute sécurité et avec confiance. Il devient le support de l’IA — intégrée au système, aux puces et au matériel — permettant aux organisations de passer de l’expérimentation à un déploiement à grande échelle.»

Windows offre aux utilisateurs des fonctionnalités d'IA

Cette affirmation est pour le moins surprenante, surtout si l’on considère les aveux antérieurs de l’entreprise selon lesquels les composants d’IA de Windows 11, et en particulier ses agents d’IA, pourraient ne pas être aussi sécurisés qu’on le pensait.

Microsoft décrit l’« IA agente » comme une intelligence artificielle très performante, capable d’effectuer des tâches pour le compte d’un utilisateur. Par exemple, la fonctionnalité « Actions » de Copilot permet de gérer les fichiers et dossiers personnels, notamment en les renommant automatiquement, illustrant ainsi ses capacités d’agent grâce à l’« Espace de travail agent ».

Les fonctionnalités expérimentales de l'agent basculent

Cependant, la fonctionnalité Espace de travail agentique est entièrement optionnelle en raison des risques de sécurité inhérents qu’elle présente. Un document d’assistance mis en avant par Windows Latest soulignait la possibilité que l’IA « hallucine » et produise des résultats inattendus, ce qui peut s’avérer particulièrement dangereux lorsque des agents d’IA interagissent avec des données personnelles sensibles.

Microsoft a également averti que « les applications d’IA agentielle introduisent de nouvelles vulnérabilités de sécurité, telles que l’injection croisée d’invites (XPIA), par laquelle un contenu malveillant intégré dans des éléments d’interface utilisateur ou des documents peut remplacer les instructions de l’agent, entraînant des opérations non intentionnelles telles que l’exfiltration de données ou l’installation de logiciels malveillants », comme détaillé dans leur document de support.

Compte tenu de ces avertissements, une alerte de sécurité apparaît lorsque les utilisateurs tentent d’activer les fonctionnalités Agentic dans les versions préliminaires de Windows 11, signalant les risques réels encourus.

Espace de travail de l'agent Windows 11 — Image reproduite avec l’aimable autorisation de WindowsLatest.com

Windows 11 : un nouveau « canevas » pour le développement de l’IA

Pour approfondir ce sujet, Microsoft a publié une documentation sur le développement d’applications d’IA pour les PC Copilot+.Cette ressource explique comment Windows 11 devient un « canevas » pour les capacités d’IA, invitant les développeurs à concevoir des applications d’IA adaptées aux appareils dotés de NPU avancés, qui permettent le traitement de l’IA directement sur l’appareil.

L’entreprise a également modifié son approche recommandée, passant de DirectML et des stratégies d’exécution spécifiques au matériel à Windows ML (WinML), qui permet la détection automatique du processeur le plus efficace (tel que Qualcomm NPU via QNN ou Intel via OpenVINO) pour les tâches d’IA tout en offrant des solutions de repli vers le GPU ou le CPU en cas de besoin.

Remettre en question le récit de l’IA Canvas

On pourrait se demander pourquoi Microsoft s’attache autant à présenter Windows 11 comme une plateforme axée sur l’IA. S’agit-il simplement d’une stratégie marketing ? Bien que cela puisse paraître ainsi, il semble que Microsoft cherche à faire évoluer la perception des utilisateurs : en plaçant l’IA au cœur de l’expérience Windows.

Ce n’est pas la première fois que Microsoft tente de redéfinir l’identité de son système d’exploitation. Par exemple, avec la mise à jour Windows 10 Creators Update (version 1703), l’accent était mis sur l’offre de fonctionnalités aux créateurs, notamment pour le contenu 3D, Paint 3D et la réalité mixte. De même, auparavant, Windows 8 avait été conçu comme un système d’exploitation optimisé pour le tactile, principalement destiné aux tablettes et aux appareils 2-en-1.

Dans chacun de ces cas, Microsoft a cherché à redéfinir les attentes des utilisateurs vis-à-vis de Windows, une stratégie qui trouve actuellement un écho auprès des utilisateurs qui présentent Windows comme un « support pour l’IA ».Pourtant, paradoxalement, les tentatives passées pour modifier la perception des utilisateurs ont souvent connu un succès limité, principalement parce que Microsoft a négligé les atouts fondamentaux qui ont traditionnellement fait la popularité de Windows. Que pensez-vous de cette évolution ?

Source et images