Microsoft, Windows AI Foundry 공개: 로컬 AI 개발의 도약
Microsoft는 Build 2025에서 발표된 Windows AI Foundry를 도입하여 Windows에서 AI 기능을 향상시키는 데 큰 진전을 이루었습니다.기존의 Windows Copilot Runtime을 활용하는 이 새로운 통합 플랫폼은 로컬 AI 앱 개발을 용이하게 하고, Copilot+ PC에서 백그라운드에서 원활하게 작동하는 Windows AI API와 머신 러닝 모델을 사용하여 다양한 AI 기능을 통합합니다.
Windows AI Foundry 소개
Windows AI Foundry는 Windows Copilot Runtime과 개발자를 위해 설계된 혁신적인 도구 모음을 통합합니다.이 강력한 플랫폼은 Microsoft 네이티브 AI 모델을 기반으로 하는 기본 제공 AI API를 제공할 뿐만 아니라 개발자에게 이러한 모델을 사용자 지정할 수 있는 도구도 제공합니다.또한 Azure AI Foundry 에서 제공하는 오픈 소스 모델 과 개발자가 자체 모델을 통합할 수 있는 추론 런타임을 통합할 수 있습니다.
유연한 AI 모델 통합
Windows AI Foundry의 도입은 AI 모델 활용의 다양성에 대한 Microsoft의 의지를 보여줍니다.개발자는 Azure Foundry Local 및 Ollama, NVIDIA NIM과 같은 주요 카탈로그를 통해 다양한 모델에 액세스할 수 있습니다. Microsoft의 독점적인 Foundry Local 카탈로그는 CPU, GPU, NPU를 포함한 다양한 하드웨어 구성에서 AI 모델의 성능을 최적화합니다.winget install Microsoft. FoundryLocal개발자는 간단한 명령 하나로 자신의 기기와 호환되는 모델을 탐색, 다운로드 및 평가할 수 있습니다.모델 선택 후 Foundry Local SDK를 통해 Foundry Local을 애플리케이션에 손쉽게 통합할 수 있습니다.
Windows ML을 통한 효율적인 모델 배포
이 지역 AI 이니셔티브의 핵심은 다양한 하드웨어 플랫폼에서 머신 러닝 모델의 배포를 간소화하는 내장 추론 런타임인 Windows ML 입니다. DirectML을 기반으로 구축된 Windows ML은 AMD, Intel, NVIDIA, Qualcomm 등 주요 공급업체의 칩셋 아키텍처를 지원합니다. Windows ML은 종속성을 효과적으로 관리하고 새로운 하드웨어 요구 사항에 자동으로 적응하도록 설계되었으므로, 이러한 인프라를 통해 개발자는 향후 실리콘 업데이트에 대한 번거로움 없이 최첨단 애플리케이션 개발에 집중할 수 있습니다.
LoRA 지원을 통한 향상된 미세 조정
주목할 만한 진전으로, Microsoft는 Phi Silica 모델 프레임워크 내에서 LoRA (Low-Rank Adaptation) 에 대한 새로운 지원을 강조했습니다.이 기능을 통해 개발자는 사용자 지정 데이터 세트를 사용하여 최소한의 모델 매개변수 하위 집합을 미세 조정할 수 있으므로 특정 작업의 성능이 향상됩니다.현재 Windows App SDK 1.8 Experimental 2 와 함께 공개 미리보기로 제공되는 LoRA는 곧 Intel 및 AMD Copilot+ PC에서 모두 사용할 수 있게 되어 플랫폼 전반의 활용도가 향상될 것입니다.
의미 검색 API를 통한 검색 혁신
개발자 경험을 더욱 풍부하게 하기 위해 Microsoft는 애플리케이션 내에서 고급 AI 기반 검색 기능을 구현할 수 있는 새로운 시맨틱 검색 API를 발표했습니다.이 API는 로컬 실행을 용이하게 하고 RAG(Retrieval-Augmented Generation) 프레임워크를 지원하여 개발자가 애플리케이션의 검색 기능을 더욱 쉽게 향상시킬 수 있도록 합니다.현재 이 API는 비공개 미리보기로 제공되며 모든 Copilot+ PC에서 사용할 수 있습니다.
이 개발에 대한 자세한 내용과 최신 소식을 보려면 공식 출처를 방문하세요.
답글 남기기