마이크로소프트는 사용자들의 반발에 따라 윈도우 11에서 AI가 개인 파일에 접근하기 전에 사용자 동의를 구할 예정입니다.

마이크로소프트는 최근 윈도우 11 사용자가 인공지능(AI) 에이전트가 바탕 화면, 문서, 다운로드, 음악, 사진, 비디오 등 6개의 특정 폴더에 저장된 파일에 접근하기 전에 명시적인 동의를 제공해야 한다고 발표했습니다.또한 사용자는 각 AI 에이전트별로 파일 접근 권한을 개별적으로 설정할 수 있습니다.

이번 해명은 마이크로소프트가 AI 에이전트를 윈도우 생태계에 더욱 깊이 통합하려는 계획과 관련하여 커지고 있는 우려에 대한 답변입니다.마이크로소프트는 최근 몇 주 동안 파일, 애플리케이션 및 시스템 설정과의 상호 작용을 용이하게 하는 향상된 에이전트 기반 기능을 위한 기반을 마련해 왔으며, 동시에 AI 모델이 환각이나 새로운 보안 취약점 발생과 같은 예측 불가능한 행동을 보일 수 있음을 인정해 왔습니다.

상당 기간 동안 파일 접근 방식이 어떻게 작동할지, 그리고 사용자가 이러한 AI 에이전트가 접근할 수 있는 항목에 대해 어느 정도까지 통제권을 유지할 수 있을지에 대한 모호함이 존재했습니다.

Windows 11의 AI 에이전트는 파일 접근을 위해 사용자 동의를 필요로 합니다.

불과 몇 주 전, Windows Latest는 마이크로소프트가 AI 에이전트의 잠재적인 행동 문제를 인정하면서도 AI에 사용자 파일과 애플리케이션에 대한 접근 권한을 부여하려는 야심을 강조했습니다.

“AI 모델은 동작 방식 측면에서 여전히 기능적 한계에 직면해 있으며, 때때로 착각에 빠져 예상치 못한 결과를 도출할 수 있습니다.”라고 해당 회사는 지원 문서 에서 밝혔습니다.

자사의 주력 제품이 새로운 보안 위험을 초래할 수 있음을 기업이 인정하는 것은 상당한 우려를 불러일으킵니다.마이크로소프트는 AI 에이전트가 제한된 권한을 가진 별도의 작업 공간에서 작동한다고 강조하지만, 앞서 언급한 6개의 알려진 폴더에 여전히 접근할 수 있습니다.

초기에는 이러한 에이전트가 사용자 폴더에 어떻게 접근할 수 있는지, 그리고 사용자가 이러한 접근을 제어할 수 있는지에 대한 세부 사항이 불분명했습니다.

하지만 마이크로소프트는 곧바로 지원 문서를 업데이트하여 기본적으로 AI 에이전트는 사용자의 사전 동의 없이는 이러한 폴더의 파일에 접근할 수 없다는 점을 명확히 했습니다.사용자는 코파일럿이나 애널리스트와 같은 에이전트에 개별적으로 권한을 부여할 수 있지만, 이러한 권한은 알려진 6개 폴더 전체에 일괄적으로 적용됩니다.

이는 사용자가 AI 에이전트가 접근할 수 있는 특정 폴더를 지정할 수 없기 때문에 세밀한 제어가 부족하다는 것을 의미합니다.예를 들어, 사용자는 연구원 및 분석가 에이전트가 문서 폴더에 무제한으로 접근할 수 있도록 허용하는 반면, 코파일럿은 매번 권한을 요청하도록 설정할 수 있습니다.하지만 안타깝게도 현재 이러한 사용자 지정 기능은 제공되지 않습니다.

작업 표시줄의 Ask Copilot에서 에이전트 호출 — 작업 표시줄의 Ask Copilot을 통해 상담원을 호출하는 모습.출처: Microsoft

사용자는 AI 에이전트에 무제한 액세스, 단일 세션 동안의 액세스 또는 액세스 금지 중 어떤 권한을 부여할지 선택할 수 있습니다. Copilot과 같은 AI 에이전트가 작업을 완료하기 위해 파일 액세스를 요청할 때 “항상 허용”, “한 번만 허용” 또는 “나중에 허용”을 선택할 수 있는 메시지가 표시됩니다.

AI 에이전트(코파일럿)가 알려진 폴더에 대한 접근 권한을 요청합니다. — 출처: 마이크로소프트

이러한 기능은 24H2의 경우 미리 보기 빌드 26100.7344 이상, 25H2의 경우 미리 보기 빌드 26200.7344 이상을 실행하는 시스템에서만 사용할 수 있습니다.

Windows 11의 AI 에이전트 개별 설정

Windows는 각 AI 에이전트에 대한 전용 설정 페이지를 도입하여 파일 액세스와 관련된 권한을 관리할 수 있도록 했습니다.예를 들어 사용자는 Copilot에서 OneDrive 및 Google Drive와의 통합을 포함한 특정 커넥터에 대한 권한을 수정할 수 있습니다.

Windows용 AI 에이전트 전용 설정 페이지 — AI 에이전트 전용 설정 페이지.출처: 마이크로소프트

“커넥터” 섹션에는 모델 컨텍스트 프로토콜(MCP) 기반의 표준화된 브리지가 포함되어 있어 AI 에이전트가 다양한 로컬 애플리케이션과 상호 작용할 수 있습니다.현재 마이크로소프트는 이러한 통합 기능을 테스트 중이며, 향후 AI 에이전트를 작업 표시줄 환경에 통합하는 것을 목표로 하고 있습니다.

이러한 설정을 관리하려면 설정 앱을 열고 시스템 > AI 구성 요소 > 에이전트 로 이동하세요.여기에서 Windows 운영 체제에 설치된 모든 에이전트 목록을 볼 수 있습니다.이 메뉴에서 각 에이전트의 파일 액세스 권한을 사용자 지정할 수 있습니다.

파일 액세스 권한을 구성할 때 Microsoft는 세 가지 옵션을 제공합니다.‘항상 허용’은 알려진 6개 폴더에 대한 액세스를 지속적으로 허용합니다.’ 매번 확인’은 액세스가 요청될 때마다 권한을 요청하는 메시지를 표시합니다.’ 절대 허용 안 함 ‘은 폴더 액세스에 대한 모든 요청을 차단합니다.

이 솔루션은 마이크로소프트가 제기했던 AI의 사용자 파일 접근 관련 우려를 해소합니다. AI 성능 및 보안 위험을 둘러싼 불확실성이 여전히 존재하지만, 새로운 권한 관리 기능은 사용자 자율성 향상을 위한 긍정적인 진전입니다.

또한 마이크로소프트는 “에이전트 계정은 공용 사용자 프로필과 같이 인증된 모든 사용자가 접근할 수 있는 모든 폴더에 접근할 수 있다”고 명시했음을 유의해야 합니다.따라서 공유되지 않은 폴더는 AI 에이전트가 접근할 수 없습니다.