NVIDIA 利用硅光子学和 3D GPU/DRAM 堆叠技术揭示 AI 计算的未来

NVIDIA 在 IEDM 2024 大会上公布了其下一代 AI 加速器的愿景，重点介绍了革命性的硅光子 (SiPh) 战略。这一创新方法旨在满足日益增长的 AI 计算需求。

NVIDIA 的先进 AI 加速器创新战略

随着行业努力应对不断增长的 AI 计算需求，传统封装技术已达到极限，需要新的视角。硅光子学成为传统技术的有前途的替代品。在最近的 IEDM 2024 会议上，由 Ian Cutress 代表的 NVIDIA 分享了一种独特的方法，该方法结合了 SiPh 中介层并垂直堆叠 GPU 块，从而增强了高性能计算产品的功能。

这是@NVIDIA对 AI 计算未来的愿景。

硅光子中介层 SiPh 芯片内和芯片间 12 个 SiPh 连接，每个 GPU 块 3 个每层 4 个 GPU 块 GPU “层”（GPU 上的 GPU？！） 3D 堆叠 DRAM，每个块 6 个，细粒度

来自#iedm24。我的猜测是 2028/2029/2030… pic.twitter.com/5IsDkYSWT2

— 𝐷𝑟。 𝐼𝑎𝑛𝐶𝑢𝑡𝑟𝑒𝑠𝑠（@IanCutress）2024年12月8日

NVIDIA 硅光子学方法的主要特点

NVIDIA 集成硅光子中介层旨在取代标准电气互连，开创具有多项优势的全新计算时代。与现有方法相比，使用 SiPh 技术有望提供更高的带宽、更低的延迟和更高的能效。值得注意的是，NVIDIA 计划部署 12 个 SiPh 连接用于芯片内和芯片间通信，优化 GPU 模块之间的数据传输，这对于实现显著的可扩展性和卓越性能至关重要。

3D 堆叠，提升性能

NVIDIA 方法最引人注目的方面之一是其使用“3D 堆叠”，即垂直堆叠多个 GPU 块。该技术可提高芯片密度，同时最大限度地减少物理占用空间。被称为“GPU 层”的每层包含四个 GPU 块，以垂直配置排列，旨在减少互连延迟并启用潜在的电源门控技术。此外，NVIDIA 打算采用 3D 堆叠的 DRAM 芯片，每个块有六个，以提高整体效率。