마이크론, NVIDIA 고성능 칩을 위한 12-High HBM3E 및 LPDDR5X SOCAMM 공개

마이크론, NVIDIA 고성능 칩을 위한 12-High HBM3E 및 LPDDR5X SOCAMM 공개

마이크론 테크놀로지는 다시 한번 메모리 혁신의 최전선에 서서, 고성능 컴퓨팅에 맞춰진 고급 메모리 솔루션을 제공하기 위해 엔비디아와 협력하고 있습니다.특히, 이러한 제품은 HGX B300 NVL16 및 GB300 NVL72와 같은 칩을 강화하여 메모리 기술에 상당한 진전을 이룰 것입니다.

마이크론의 최첨단 메모리 솔루션: AI 성능 향상을 위한 12H HBM3E 및 SOCAMM 메모리 출시

핵심 릴리스 중 하나는 NVIDIA의 GB300 Grace Blackwell Ultra Superchip을 위해 특별히 설계된 Micron의 LPDDR5X SOCAMM(Small Outline Compression Attached Memory Module)입니다.이를 보완하여 Micron의 12H HBM3E 36GB 메모리 칩은 NVIDIA의 HGX B300 NVL16 및 GB300 NVL72 플랫폼에 전원을 공급하여 효율성을 크게 높입니다.

마이크론 HBM3E 12H 36GB
이미지 출처: micron.com

최근 GTC 이벤트에서 선보인 NVIDIA의 이 새로운 Blackwell 칩은 Micron의 강력한 8-High 24GB HBM3E 칩을 HGX B200 및 GB200 NVL72 모델에 활용합니다.새로운 12-High HBM3E 메모리 구성은 12개의 DRAM 다이를 수직으로 쌓아 8-High 대응 제품에 비해 인상적인 12GB 더 많은 메모리 용량을 제공합니다.이러한 향상은 메모리 집약적 AI 작업에 필수적이며, GPU가 50%의 메모리 증가로 상당한 워크로드를 처리할 수 있게 하여 궁극적으로 Meta의 Llama 405B와 같은 전체 AI 모델을 단일 GPU에서 처리할 수 있게 합니다.

게다가 12H HBM3E 메모리는 추가 용량뿐만 아니라 향상된 대역폭을 제공하는 동시에 전력 소모도 20% 줄였습니다.이러한 효율성은 성능과 전력 절감이 모두 중요한 역할을 하는 데이터 센터 운영에 특히 유용합니다.

마이크론 SOCAMM
이미지 출처: micron.com

LPDDR5X 기반 SOCAMM은 고성능 컴퓨팅(HPC)에 탁월한 선택으로 돋보입니다.14x90mm에 불과한 소형 크기로 기존 RDIMM이 필요로 하는 공간의 3분의 1에 불과하며 16다이 스택의 LPDDR5X 메모리를 통해 모듈당 최대 128GB를 지원할 수 있습니다.이 설계는 공간을 최적화할 뿐만 아니라 표준 RDIMM보다 훨씬 더 높은 전력 효율을 보이는 동시에 대역폭을 2.5배 이상 제공합니다.

현재 Micron은 NVIDIA의 Blackwell RTX 50 시리즈 GPU용 GDDR7 메모리, 대용량 DDR5 RDIMM 및 MRDIMM, HBM3E 및 SOCAMM 기술을 포함한 강력한 포트폴리오를 자랑합니다.또한 Micron 9550 NVMe 및 7450 NVMe SSD와 같은 Micron의 최첨단 스토리지 솔루션은 메모리 및 스토리지 기술 분야에서의 리더십을 더욱 강화합니다.한편, 경쟁자로는 PCI-E 5.0 표준을 활용하여 최대 14, 800MB/s의 놀라운 순차 읽기 속도를 달성하는 Samsung의 최근 출시된 플래그십 9100 PRO SSD가 있습니다.

출처 및 이미지

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다