마이크로소프트, 악성코드 위협 속 윈도우 11에 안전한 AI 통합 보장 약속

마이크로소프트는 현재 윈도우 11의 인공지능(AI) 기능 보안에 대해 상반된 입장을 보이고 있습니다.한편으로는 AI 에이전트가 “환각”을 일으켜 데이터 유출이나 악성코드 설치와 같은 의도치 않은 결과를 초래할 수 있음을 인정했습니다.그러나 최근 X(구 트위터)에 올라온 게시물에서는 AI가 윈도우 11에서 쉽고 안전하며 신뢰할 수 있는 사용자 경험을 제공할 수 있다고 주장했습니다.

Windows Latest에 따르면, X에 올라온 이 새로운 게시물은 개발자들이 Windows 11 Copilot+ 장치, 특히 스냅드래곤 프로세서와 신경 처리 장치(NPU)가 탑재된 장치를 위한 AI 기반 기능이나 애플리케이션을 개발하도록 장려하고 있습니다.

마이크로소프트는 성명에서 “윈도우는 사람들이 AI를 쉽고 안전하며 자신 있게 사용할 수 있도록 진화하고 있습니다.윈도우는 시스템, 실리콘 및 하드웨어에 통합된 AI를 위한 플랫폼 이 되어, 기업들이 실험 단계에서 대규모 실행 단계로 전환할 수 있도록 지원합니다.” 라고 밝혔습니다.

이러한 주장은 특히 윈도우 11의 AI 구성 요소, 특히 AI 에이전트가 예상만큼 안전하지 않을 수 있다는 회사의 이전 인정을 고려할 때 의아함을 자아냅니다.

마이크로소프트는 “에이전틱 AI”를 사용자를 대신하여 작업을 수행할 수 있는 매우 뛰어난 능력이라고 설명합니다.예를 들어, 코파일럿의 “액션” 기능은 개인 파일과 폴더를 관리할 수 있으며, 파일 이름을 자동으로 변경하는 기능까지 제공하는데, 이는 “에이전틱 워크스페이스” 기반의 에이전트 기능을 잘 보여줍니다.

하지만 에이전트 기반 작업 공간 기능은 내재된 보안 위험 때문에 전적으로 선택 사항입니다. Windows Latest에서 강조한 지원 문서에 따르면 AI가 “환각”에 빠져 예상치 못한 결과를 내놓을 가능성이 있으며, 이는 AI 에이전트가 민감한 개인 데이터와 상호 작용할 때 특히 위험할 수 있다고 지적했습니다.

마이크로소프트는 또한 지원 문서에서 “에이전트 AI 애플리케이션은 크로스 프롬프트 인젝션(XPIA)과 같은 새로운 보안 취약점을 도입할 수 있으며, 이로 인해 사용자 인터페이스 요소나 문서에 삽입된 악성 콘텐츠가 에이전트 지침을 무시하여 데이터 유출이나 맬웨어 설치와 같은 의도치 않은 작업으로 이어질 수 있다 “고 경고 했습니다.

이러한 경고를 고려하여, 사용자가 Windows 11 미리 보기 빌드에서 Agentic 기능을 활성화하려고 하면 보안 경고가 표시되어 실제 위험을 알려줍니다.

Windows 11 에이전트 워크스페이스 — 이미지 제공: WindowsLatest.com

윈도우 11: AI 개발을 위한 새로운 ‘캔버스’

이러한 맥락에서 마이크로소프트는 “Copilot+ PC용 AI 애플리케이션 개발 방법”에 대한 문서를 게시했습니다.이 자료는 Windows 11이 AI 기능을 위한 “캔버스”가 될 수 있음을 강조하며, 개발자들이 고급 NPU를 탑재한 기기에 최적화된 AI 애플리케이션을 설계하도록 권장합니다. NPU는 기기 내에서 AI 처리를 가능하게 합니다.

또한, 해당 회사는 권장 접근 방식을 DirectML 및 하드웨어별 실행 전략에서 Windows ML(WinML)로 변경했습니다. WinML은 AI 작업에 가장 효율적인 프로세서(예: QNN을 통한 Qualcomm NPU 또는 OpenVINO를 통한 Intel)를 자동으로 감지하고 필요한 경우 GPU 또는 CPU로 대체할 수 있도록 합니다.

AI 캔버스 내러티브에 대한 의문 제기

마이크로소프트가 윈도우 11을 인공지능 중심 플랫폼으로 브랜딩하는 데 그토록 집중하는 이유가 궁금할 수 있습니다.단순히 마케팅 전략일까요? 그렇게 보일 수도 있지만, 마이크로소프트는 사용자 인식의 상당한 변화, 즉 윈도우 경험의 최전선에 인공지능을 두는 이야기를 만들어내려는 의도가 분명해 보입니다.

마이크로소프트가 자사 운영체제의 정체성을 바꾸려는 시도는 이번이 처음이 아닙니다.예를 들어, 윈도우 10 크리에이터 업데이트(버전 1703)에서는 3D 콘텐츠, 페인트 3D, 혼합 현실 관련 기능을 통해 크리에이터의 역량을 강화하는 데 초점을 맞췄습니다.마찬가지로, 그 이전에도 윈도우 8은 주로 태블릿과 2-in-1 기기에 최적화된 터치 기반 운영체제로 출시되었습니다.

마이크로소프트는 이러한 사례들을 통해 윈도우에 대한 사용자 기대치를 재정립하고자 노력해 왔으며, 현재 “윈도우는 AI 캔버스”라는 주장과 맥락을 같이합니다.하지만 아이러니하게도 과거에도 사용자 인식을 바꾸려는 노력은 윈도우를 인기 있게 만든 핵심적인 특징들을 간과했기 때문에 큰 성공을 거두지 못했습니다.이러한 변화하는 흐름에 대해 어떻게 생각하시나요?

출처 및 이미지