A Microsoft promete integração segura de IA no Windows 11 em meio a riscos de malware.

A Microsoft apresenta atualmente pontos de vista contraditórios sobre a segurança dos recursos de inteligência artificial (IA) no Windows 11. Por um lado, a empresa reconheceu que seus agentes de IA podem apresentar “alucinações”, levando a consequências indesejadas, como vazamento de dados ou instalação de malware. Por outro lado, uma publicação recente no X (antigo Twitter) afirma que a IA pode facilitar uma experiência de usuário fácil, segura e confiável no Windows 11.

Segundo o Windows Latest, esta nova publicação no Windows X incentiva os desenvolvedores a criarem recursos ou aplicativos baseados em IA para dispositivos Windows 11 Copilot+, especialmente aqueles equipados com processadores Snapdragon e Unidades de Processamento Neural (NPUs).

Em seu comunicado, a Microsoft proclamou que “o Windows está evoluindo para capacitar as pessoas a usar IA com facilidade, segurança e confiança. Ele está se tornando a plataforma para IA — integrada ao sistema, ao silício e ao hardware — permitindo que as organizações façam a transição da experimentação para a execução em larga escala.

Essa afirmação causa estranheza, especialmente considerando as admissões anteriores da empresa de que os componentes de IA no Windows 11, particularmente seus agentes de IA, podem não ser tão seguros quanto o esperado.

A Microsoft descreve a “IA Agente” como altamente capaz, apta a executar tarefas em nome do usuário. Por exemplo, o recurso “Ações” do Copilot pode gerenciar arquivos e pastas pessoais, incluindo a renomeação automática de arquivos, ilustrando suas capacidades de IA, impulsionadas pelo “Espaço de Trabalho Agente”.

alternar entre recursos agentes experimentais

No entanto, o recurso Espaço de Trabalho Agenético é totalmente opcional devido aos riscos de segurança inerentes que apresenta. Um documento de suporte destacado pelo Windows Latest observou o potencial da IA para “alucinar” e fornecer resultados inesperados, o que pode ser particularmente perigoso quando agentes de IA interagem com dados pessoais sensíveis.

A Microsoft alertou ainda que “aplicações de IA com agentes introduzem novas vulnerabilidades de segurança, como a injeção entre prompts (XPIA), em que conteúdo malicioso incorporado em elementos da interface do usuário ou documentos pode substituir as instruções do agente, levando a operações não intencionais, como exfiltração de dados ou instalação de malware ”, conforme detalhado em seu documento de suporte.

Diante desses avisos, um alerta de segurança aparece quando os usuários tentam habilitar os recursos do Agentic nas versões de pré-visualização do Windows 11, sinalizando os riscos reais envolvidos.

Espaço de trabalho do agente do Windows 11 — Imagem cortesia de: WindowsLatest.com

Windows 11: Uma nova “tela” para o desenvolvimento de IA

Aprofundando essa narrativa, a Microsoft publicou documentação sobre como “Desenvolver aplicativos de IA para PCs Copilot+”.Esse recurso detalha como o Windows 11 se tornou uma “tela” para recursos de IA, convidando desenvolvedores a criar aplicativos de IA personalizados para dispositivos com NPUs avançadas, que permitem o processamento de IA no próprio dispositivo.

A empresa também mudou sua abordagem recomendada, passando do DirectML e de estratégias de execução específicas para hardware para o Windows ML (WinML), que permite a detecção automática do processador mais eficiente (como a NPU da Qualcomm por meio do QNN ou a Intel via OpenVINO) para tarefas de IA, oferecendo alternativas à GPU ou à CPU quando necessário.

Questionando a narrativa do Canvas de IA

Pode-se questionar por que a Microsoft está tão empenhada em posicionar o Windows 11 como uma plataforma centrada em IA. Seria apenas uma estratégia de marketing? Embora possa parecer que sim, a Microsoft parece estar defendendo uma mudança significativa na percepção do usuário — uma narrativa que coloca a IA na vanguarda da experiência do Windows.

Esta não é a primeira vez que a Microsoft tenta reformular a identidade do seu sistema operacional. Por exemplo, com a Atualização de Criadores do Windows 10 (versão 1703), o foco foi capacitar os criadores com recursos relacionados a conteúdo 3D, Paint 3D e Realidade Mista. Da mesma forma, antes disso, o Windows 8 foi lançado como um sistema operacional otimizado para toque, projetado principalmente para tablets e dispositivos 2 em 1.

Em cada um desses casos, a Microsoft buscou redefinir as expectativas dos usuários em relação ao Windows, uma estratégia que atualmente encontra eco nas afirmações em torno do “Windows como uma tela de IA”.No entanto, a ironia permanece: os esforços anteriores para mudar a percepção do usuário muitas vezes obtiveram sucesso limitado, principalmente porque a Microsoft ignorou os atributos essenciais que tradicionalmente tornaram o Windows popular. Qual a sua opinião sobre essa narrativa em evolução?

Fonte e imagens