AMD와 퀄컴은 자사의 인공지능(AI) 솔루션에 SOCAMM 메모리를 통합하는 방안을 적극적으로 연구하고 있습니다.이러한 연구는 현재 AI 시스템의 성능을 저해하는 메모리 용량 부족 문제에 대한 해결책을 모색하기 위한 것입니다.
SOCAMM 메모리 도입: NVIDIA에서 경쟁사까지
엔비디아(NVIDIA)를 위해 처음 개발된 SOCAMM은 엔비디아 제품에서 빠르게 인기를 얻고 있는 메모리 표준입니다. SOCAMM은 모바일 및 에너지 효율이 높은 기기에 널리 사용되는 LPDDR DRAM 기술을 기반으로 합니다. SOCAMM이 HBM(High Bandwidth Memory)이나 LPDDR5X와 같은 다른 메모리와 차별화되는 점은 바로 업그레이드 용이성입니다.기존 메모리처럼 납땜되어 고정되는 부품과 달리 SOCAMM은 교체 또는 업그레이드가 훨씬 간편하여 메모리 집약적인 작업을 처리할 때 HBM을 보완하는 매력적인 대안이 됩니다.
최근 한경 보도 에 따르면 AMD와 퀄컴 모두 차세대 AI 시스템 아키텍처에 SOCAMM 모듈을 통합하는 방안을 검토 중인 것으로 나타났습니다.특히, 이들 기업은 엔비디아의 구현 방식과는 다른 독창적인 설계 전략을 연구하고 있습니다.이들은 두 개의 DRAM 소자를 평행하게 배열한 ‘정사각형’ 형태의 모듈을 개발하고 있습니다.이러한 설계는 전력 관리 집적 회로(PMIC)를 통해 모듈 자체의 전력 관리를 향상시켜 효율적인 전력 조절과 고속 동작 구현을 가능하게 하는 것을 목표로 합니다.
SOCAMM의 도입이 확대됨에 따라, 특히 에이전트형 AI 애플리케이션의 요구 사항에 힘입어 이 메모리 유형에 대한 수요가 증가할 것으로 예상됩니다. CPU당 테라바이트급 메모리를 활용할 수 있기 때문에 AI 에이전트는 수백만 개의 활성 토큰을 효율적으로 관리할 수 있습니다. SOCAMM의 처리량은 HBM에 미치지 못할 수 있지만, 뛰어난 성능 특성 덕분에 에너지 효율적인 대안으로 자리매김하고 있습니다.
현재 NVIDIA는 Vera Rubin AI 클러스터에 SOCAMM 2를 활용할 계획입니다. AMD와 Qualcomm 또한 이 메모리 기술을 연구 중이므로, 업계 관계자들은 차세대 AI 클러스터에 SOCAMM 2가 탑재되어 미래 AI 애플리케이션의 성능을 향상시킬 것으로 예상할 수 있습니다.
답글 남기기