NVIDIA GTC AI 컨퍼런스의 하이라이트: Microsoft의 혁신
최근 NVIDIA GTC AI 컨퍼런스에서는 Microsoft와 NVIDIA가 개발자, 스타트업, 기업 등 다양한 대상 고객을 대상으로 획기적인 발표를 선보였습니다.
Azure AI Foundry에서 NVIDIA NIM 마이크로서비스 소개
Microsoft는 Azure AI Foundry가 이제 NVIDIA NIM 마이크로서비스를 통합한다고 밝혔습니다.이러한 마이크로서비스는 NVIDIA의 추론 소프트웨어에 의해 최적화된 사전 구축된 컨테이너로 구성되어 있으며, 20개 이상의 널리 사용되는 기본 모델에서 생성 AI 애플리케이션의 배포를 향상시키는 것을 목표로 합니다.또한 NVIDIA Llama Nemotron Reason 개방형 추론 모델을 플랫폼에 통합할 계획이 진행 중입니다.
추론 성능 향상
Microsoft는 NVIDIA와 협력하여 Azure AI Foundry에서 호스팅되는 오픈 소스 언어 모델에 대한 추론 성능을 높이는 데 전념하고 있습니다.주목할 만한 프로젝트로는 TensorRT-LLM을 활용하여 Meta Llama 모델을 최적화하여 개발자가 손쉽게 향상된 성능을 경험할 수 있도록 하는 것이 있습니다.
새로운 서비스 제공 발표
Microsoft는 또한 여러 혁신적인 서비스의 일반 공급을 발표했습니다.
- Azure 컨테이너 앱: NVIDIA NIM으로 강화된 이 서버리스 GPU 제품을 사용하면 사용자가 AI 워크로드를 주문형으로 실행할 수 있으며, 초당 청구로 자동 크기 조정 및 비용 효율성을 제공하고 유휴 상태에서는 작업이 0으로 축소될 수도 있습니다.
- Azure ND GB200 V6 가상 머신: 이 VM은 NVIDIA GB200 NVL72 GPU로 구동되며 가속화된 컴퓨팅 성능을 위해 NVIDIA Quantum InfiniBand 네트워킹을 활용합니다.
GPU 기술의 미래 개발
Microsoft는 차세대 NVIDIA Blackwell Ultra GPU 와 RTX PRO 6000 Blackwell Server Edition이 Azure를 통해 액세스 가능하며, NVIDIA Blackwell Ultra GPU 기반 가상 머신은 2025년 후반에 출시될 예정임을 확인했습니다.
Microsoft 리더십의 전문가 통찰력
NVIDIA GTC AI 컨퍼런스에서 오늘 발표한 내용은 Azure가 AI 혁신의 경계를 넓히려는 의지를 강조합니다.최첨단 제품, 긴밀한 협업, 원활한 통합을 통해 개발자와 고객이 AI 솔루션을 효율적으로 설계, 사용자 지정 및 배포할 수 있도록 지원하고 힘을 실어주는 기술을 지속적으로 제공합니다.
가상 데스크톱 워크스테이션 출시
또 다른 흥미로운 개발에서 Microsoft와 NVIDIA는 사전 구성된 NVIDIA Omniverse 및 NVIDIA Isaac Sim 가상 데스크톱 워크스테이션과 Omniverse Kit App Streaming을 출시했으며, 이는 현재 Azure 마켓플레이스에서 이용 가능합니다.이러한 가상 머신은 개발자가 디지털 트윈 및 로봇 시뮬레이션에서 애플리케이션과 서비스를 신속하게 시작하고 배포할 수 있도록 설계되었습니다.
자세한 내용과 통찰력을 얻으려면 출처를 방문하세요.
답글 남기기