NVIDIA, 실리콘 포토닉스와 3D GPU/DRAM 스태킹 기술로 AI 컴퓨팅의 미래를 공개

NVIDIA는 차세대 AI 가속기에 대한 비전을 공개했으며, IEDM 2024 컨퍼런스에서 혁신적인 실리콘 포토닉(SiPh) 전략을 강조했습니다. 이 혁신적인 접근 방식은 AI 컴퓨팅의 증가하는 수요를 해결하는 것을 목표로 합니다.

고급 AI 가속기를 위한 NVIDIA의 혁신적 전략

업계가 AI 컴퓨팅 수요 증가에 맞서면서 기존 패키징 기술은 한계에 도달했고, 새로운 관점이 필요해졌습니다. 실리콘 포토닉스는 기존 기술을 대체할 유망한 기술로 부상하고 있습니다. 최근 IEDM 2024 컨퍼런스에서 Ian Cutress가 대표한 NVIDIA는 SiPh 인터포저를 통합하고 GPU 타일을 수직으로 쌓아 고성능 컴퓨팅 제품의 기능을 향상시키는 독특한 방법론을 공유했습니다.

@NVIDIA 가 생각하는 AI 컴퓨팅의 미래는 다음과 같습니다 .

실리콘 광자 인터포저 SiPh 칩 내부 및 칩 간 12 SiPh 연결, GPU 타일당 3개, 계층당 4개 GPU 타일 GPU ‘계층'(GPU 상의 GPU?!?) 3D 스택 DRAM, 타일당 6개, 세분화됨

#iedm24 에서 . 제 추측은 2028/2029/2030… pic.twitter.com/5IsDkYSWT2

— 𝐷𝑟. 𝐼𝑎𝑛 𝐶𝑢𝑡𝑟𝑒𝑠𝑠 (@IanCutress) 2024년 12월 8일

NVIDIA의 실리콘 포토닉스 접근 방식의 주요 특징

NVIDIA의 실리콘 포토닉스 인터포저 통합은 표준 전기적 상호 연결을 대체하여 여러 가지 이점이 있는 새로운 컴퓨팅 시대를 여는 것을 목표로 합니다. SiPh 기술을 사용하면 기존 방법에 비해 향상된 대역폭, 감소된 대기 시간 및 향상된 에너지 효율을 제공할 것으로 예상됩니다. 특히 NVIDIA는 칩 내부 및 칩 간 통신을 위해 12개의 SiPh 연결을 배포하여 GPU 타일 간의 데이터 전송을 최적화할 계획이며, 이는 상당한 확장성과 뛰어난 성능을 달성하는 데 중요합니다.

향상된 성능을 위한 3D 스태킹

NVIDIA의 접근 방식에서 가장 매력적인 측면 중 하나는 여러 GPU 타일을 수직으로 쌓는 “3D 스태킹”을 사용하는 것입니다. 이 기술은 물리적 공간을 최소화하는 동시에 칩 밀도를 높입니다. “GPU 티어”라고 불리는 각 티어에는 상호 연결 지연 시간을 줄이고 잠재적인 전력 게이팅 기술을 활성화하기 위해 수직 구성으로 배열된 4개의 GPU 타일이 포함됩니다. 또한 NVIDIA는 타일당 6개의 3D 스택 DRAM 칩을 통합하여 전반적인 효율성을 높일 계획입니다.

실리콘 광자공학의 도전적인 미래

유망한 전망에도 불구하고 NVIDIA의 비전은 여러 가지 장애물에 직면해 있습니다. 실리콘 광자공학 기술은 아직 비교적 초기 단계이며 주류가 되려면 대량 생산이 필요한데, 이 과정에는 상당한 시간이 걸릴 수 있습니다. 게다가 야심 찬 3D 스태킹은 열 관리 문제를 야기할 수 있으며, 효과적인 칩 내부 냉각 솔루션의 개발이 필요합니다. 현재 정보가 부족한 분야입니다.