Microsoft promette un’integrazione sicura dell’intelligenza artificiale in Windows 11 nonostante i rischi di malware

Microsoft sta attualmente presentando punti di vista contraddittori in merito alla sicurezza delle funzionalità di intelligenza artificiale (IA) in Windows 11. Da un lato, l’azienda ha riconosciuto che i suoi agenti di IA possono manifestare “allucinazioni”, portando a conseguenze indesiderate come la fuga di dati o l’installazione di malware. Al contrario, un recente post su X (ex Twitter) afferma che l’IA può facilitare un’esperienza utente semplice, sicura e affidabile in Windows 11.

Secondo Windows Latest, questo nuovo post su X incoraggia gli sviluppatori a creare funzionalità o applicazioni basate sull’intelligenza artificiale per i dispositivi Windows 11 Copilot+, in particolare quelli dotati di processori Snapdragon e unità di elaborazione neurale (NPU).

Nella sua dichiarazione, Microsoft ha affermato che “Windows si sta evolvendo per consentire alle persone di utilizzare l’intelligenza artificiale in modo semplice, sicuro e affidabile. Sta diventando la base per l’intelligenza artificiale, integrata nel sistema, nel silicio e nell’hardware, consentendo alle organizzazioni di passare dalla sperimentazione all’esecuzione su larga scala”.

Windows potenzia gli utenti con l'intelligenza artificiale

Questa affermazione desta perplessità, soprattutto se si considerano le precedenti ammissioni dell’azienda secondo cui i componenti di intelligenza artificiale di Windows 11, in particolare i suoi agenti di intelligenza artificiale, potrebbero non essere sicuri come previsto.

Microsoft descrive “Agentic AI” come un’intelligenza artificiale altamente performante, in grado di eseguire attività per conto di un utente. Ad esempio, la funzionalità “Azioni” di Copilot può gestire file e cartelle personali, inclusa la rinomina automatica dei file, a dimostrazione delle sue capacità agentiche basate su “Agentic Workspace”.

Attiva/disattiva le funzionalità agentiche sperimentali

Tuttavia, la funzionalità Agentic Workspace è del tutto facoltativa a causa dei rischi per la sicurezza intrinseci che comporta. Un documento di supporto, evidenziato da Windows Latest, ha evidenziato il potenziale dell’IA di “allucinare” e fornire risultati inaspettati, il che può essere particolarmente pericoloso quando gli agenti di IA interagiscono con dati personali sensibili.

Microsoft ha inoltre avvertito che “le applicazioni Agentic AI introducono nuove vulnerabilità di sicurezza, come l’iniezione cross-prompt (XPIA), in base alla quale contenuti dannosi incorporati negli elementi dell’interfaccia utente o nei documenti possono ignorare le istruzioni dell’agente, portando a operazioni indesiderate come l’esfiltrazione di dati o l’installazione di malware “, come dettagliato nel loro documento di supporto.

In base a questi avvertimenti, quando gli utenti tentano di abilitare le funzionalità Agentic nelle build di anteprima di Windows 11 viene visualizzato un avviso di sicurezza, che segnala i rischi reali in gioco.

Area di lavoro dell'agente Windows 11 — Immagine per gentile concessione di WindowsLatest.com

Windows 11: una nuova “tela” per lo sviluppo dell’intelligenza artificiale

Per approfondire ulteriormente questa narrazione, Microsoft ha pubblicato la documentazione su come “Sviluppare applicazioni di intelligenza artificiale per PC Copilot+”.Questa risorsa spiega come Windows 11 possa diventare una “tela” per le funzionalità di intelligenza artificiale, invitando gli sviluppatori a progettare applicazioni di intelligenza artificiale su misura per dispositivi dotati di NPU avanzate, che consentono l’elaborazione dell’intelligenza artificiale sul dispositivo.

L’azienda ha inoltre modificato il suo approccio consigliato da DirectML e strategie di esecuzione specifiche per hardware a Windows ML (WinML), che consente il rilevamento automatico del processore più efficiente (come Qualcomm NPU tramite QNN o Intel tramite OpenVINO) per le attività di intelligenza artificiale, offrendo al contempo fallback su GPU o CPU quando necessario.

Mettere in discussione la narrazione dell’IA Canvas

Ci si potrebbe chiedere perché Microsoft sia così determinata a definire Windows 11 una piattaforma incentrata sull’intelligenza artificiale. Si tratta solo di una strategia di marketing? Sebbene possa sembrare così, sembra che Microsoft stia promuovendo un cambiamento significativo nella percezione degli utenti, una narrazione che pone l’intelligenza artificiale al centro dell’esperienza Windows.

Non è la prima volta che Microsoft tenta di rimodellare l’identità del proprio sistema operativo. Ad esempio, con Windows 10 Creators Update (versione 1703), l’attenzione si è concentrata sul potenziamento dei creatori con funzionalità relative ai contenuti 3D, Paint 3D e Mixed Reality. Analogamente, in precedenza, Windows 8 era stato introdotto come sistema operativo ottimizzato per il touch, progettato principalmente per tablet e dispositivi 2 in 1.

In ognuno di questi casi, Microsoft ha cercato di ridefinire le aspettative degli utenti riguardo a Windows, una strategia che attualmente risuona con le affermazioni che circondano “Windows come tela per l’intelligenza artificiale”.Tuttavia, l’ironia rimane che i tentativi passati di modificare la percezione degli utenti hanno spesso avuto scarso successo, in gran parte perché Microsoft ha trascurato gli attributi fondamentali che hanno tradizionalmente reso Windows popolare. Cosa ne pensi di questa narrazione in evoluzione?

Fonte e immagini