NVIDIA ConnectX-8: PCIe G6 및 800GbE 속도를 갖춘 Blackwell 시스템용 SuperNIC

엔비디아는 블랙웰 시스템용으로 특별히 설계된 혁신적인 ConnectX-8 네트워크 인터페이스 카드(NIC)를 공개했습니다.이 첨단 기술은 매우 진보적이어서 엔비디아는 이를 SuperNIC 이라고 명명했습니다.

Blackwell Systems를 위한 NVIDIA ConnectX-8 SuperNIC 공개

NVIDIA는 최신 릴리스에서 AI 학습 및 추론 워크로드의 고유한 요구 사항을 강조합니다.추론 작업은 분산된 특성과 지연 시간에 대한 민감성을 특징으로 하며 외부 시스템과의 광범위한 상호작용을 필요로 하는 반면, 학습 워크로드는 동기화되고 시간이 오래 걸리며 꼬리 지연 시간에 민감하지만 외부 통신이 덜 필요합니다.

대체 가능한 네트워크 정책을 통한 AI 학습 및 추론 효율성이 설명되어 있습니다.

성능이 크게 향상된 ConnectX-8 NIC는 Spectrum-X 이더넷과 Quantum-X Infiniband 기술 모두와 호환되어 SuperNIC로서의 역량을 더욱 강화합니다.

ConnectX-8 800G SuperNIC: AI, RDMA, 안정성, 보안 및 통합을 위한 고급 네트워킹.

ConnectX-8 SuperNIC의 주요 기능

ConnectX-8의 주요 특징은 다음과 같습니다.

수백만 개의 GPU를 활용한 강력한 RDMA 기술
AI 워크로드에 맞춰 최대 800G RDMA 하드웨어 파이프라인 용량
내장된 부하 분산, 혼잡 관리 및 안정성 프로토콜
AI 애플리케이션의 다양성을 위한 고급 데이터 경로 프로그래밍 기능
시스템 아키텍처와의 원활한 통합
엔터프라이즈급 보안 강화

사양 개요

ConnectX-8 SuperNIC은 Verbs, NCCL, NIXL, DOCA API와 같은 업계 표준과의 호환성을 자랑합니다.800Gb/s Infiniband XDR 솔루션 또는 최대 8개의 포트를 갖춘 듀얼 400G 이더넷 인터페이스를 제공합니다.온보드 PCIe 스위치를 통해 48개 레인을 지원하는 PCIe Gen6 인터페이스 통합이 가능합니다.

NVIDIA는 ConnectX-8의 RDMA 기능이 64KB에서 1MB까지 다양한 메시지 크기에 걸쳐 800G의 획기적인 속도로 무한한 확장성을 제공한다고 주장했습니다.이를 통해 SuperNIC은 GPU를 다른 클러스터와 원활하게 연결하는 ASIC 역할을 할 수 있습니다.

ConnectX-8 NIC는 초기에 새로운 Blackwell Ultra GPU를 탑재한 NVIDIA의 고급 Blackwell GB300 NVL72 시스템에 구축될 예정입니다.새롭게 도입된 CX8 PCIe 스위치는 NVLINK 아키텍처 전반에서 최적화된 대역폭 활용을 가능하게 합니다.

각 CX8 PCIe 스위치는 Grace CPU용 Gen5 x16 레인과 Blackwell Ultra GPU용으로 구성된 Gen6 x16 레인을 통합하고, SSD용 PCIe Gen5 x4 레인으로 보완합니다.

GPU 구성에 따른 확장성

NVIDIA는 ConnectX-8이 최대 64개 GPU 구성에서 놀라운 확장 성능을 달성하는 방법을 보여주었습니다.

AI 확장성이 무엇보다 중요한 시대에, NVIDIA의 ConnectX-8 통합 Spectrum-X 이더넷 스위치는 기존 Spectrum-X 이더넷 프레임워크의 기능을 확장하는 강력한 솔루션으로 부상합니다.이 시스템은 AI 워크로드에 필수적인 고급 로드 밸런싱 및 혼잡 제어 기능을 제공하며, ConnectX-8 패킷 프로세서는 AI 환경의 보안 및 라우팅 기능을 강화합니다.

ConnectX-8에는 네트워크가 최대 효율로 작동하도록 설계된 16T RISC-V 이벤트 프로세서인 데이터 경로 가속기가 통합되어 있습니다. NVIDIA는 Spectrum-X 이더넷 기술이 기존 RDMA NIC 및 스위치와 비교했을 때 트레이닝 단계 시간을 60% 단축하고 테일 지연 시간을 획기적으로 단축할 수 있다고 자랑합니다.