谷歌推出了革命性的“第七代”定制人工智能加速器 Ironwood，这是该公司首款专为推理工作负载设计的内部芯片，具有重要的里程碑意义。
谷歌 Ironwood AI 芯片的突破：为推理工作负载树立新标准
Ironwood 加速器在Google Cloud Next 25大会上亮相，是谷歌迄今为止最强大、最高效的芯片。凭借其不断增强的迭代能力，它展现了谷歌致力于推进推理工作负载的决心，谷歌认为推理工作负载代表着人工智能的下一个关键阶段。这款尖端加速器将为谷歌云客户提供两种配置：256 芯片配置和更强大的 9, 216 芯片配置，旨在满足各种工作负载和推理能力需求。
Ironwood AI 芯片标志着当代 AI 市场的变革性一步。据报道，在 9, 216 颗芯片的配置下，该系统的计算能力达到了备受推崇的超级计算机 El Capitan 的 24 倍，达到了惊人的 42.5 百亿亿次浮点运算 (Exaflops)。进一步凸显了 Ironwood 所取得的进步，与上一代 Trillium TPU 相比，其每瓦性能提升了一倍，彰显了性能逐代提升的显著轨迹。
- 高带宽内存 (HBM) 容量大幅提升：每颗 Ironwood 芯片容量高达 192 GB，相比 Trillium 提升了六倍。这一扩展使其能够处理更大的模型和数据集，从而最大限度地降低数据传输频率，并提升整体性能。
- 显著提升的 HBM 带宽： Ironwood 每芯片带宽达到 7.2 TBps，比 Trillium 的带宽提升了 4.5 倍。这种快速的数据访问对于现代 AI 应用中普遍存在的内存密集型任务至关重要。
- 增强的芯片间互连 (ICI) 带宽： ICI 带宽显著提升至双向 1.2 Tbps，相比 Trillium 提升了 1.5 倍。此项增强功能可加快芯片间通信速度，从而实现高效的大规模分布式训练和推理。
Ironwood 的推出彰显了谷歌在定制化内部 AI 解决方案方面取得的令人瞩目的进展，使谷歌在传统上由 NVIDIA 主导的市场中成为一股强大的竞争者。性能指标表明其增长潜力巨大，尤其是在微软及其 Maia 100 和亚马逊及其 Graviton 芯片等竞争对手纷纷意识到并抓住定制化 AI 解决方案带来的机遇的情况下。
发表回复