谷歌推出了革命性的「第七代」客製化人工智慧加速器 Ironwood，這是該公司首款專為推理工作負載設計的內部晶片，具有重要的里程碑意義。
谷歌 Ironwood AI 晶片的突破：為推理工作負載樹立新標準
Ironwood 加速器在Google Cloud Next 25期間亮相，是Google迄今為止最強大、最高效的晶片。憑藉增強的生成能力，它展示了公司對推進推理工作負載的承諾，谷歌認為這代表了人工智慧的下一個關鍵階段。這款尖端加速器將為 Google Cloud 客戶提供兩種配置：256 晶片設置和更強大的 9, 216 晶片設置，旨在滿足各種工作負載和推理能力要求。
Ironwood AI晶片標誌著當代AI市場邁出了變革性的一步。據報道，在 9, 216 晶片的配置下，該系統的運算能力是著名超級電腦 El Capitan 的 24 倍，達到了令人印象深刻的 42.5 Exaflops。 Ironwood 進一步強調了所取得的進步，與上一代 Trillium TPU 相比，其每瓦性能也提高了一倍，凸顯了性能在幾代產品中顯著的上升趨勢。
- 高頻寬記憶體 (HBM) 容量大幅提升：每塊 Ironwood 晶片容量為 192 GB，比 Trillium 增加了六倍。這種擴展允許處理更大的模型和資料集，最大限度地減少資料傳輸的頻率並提高整體效能。
- 顯著提高 HBM 頻寬： Ironwood 每晶片的頻寬水準達到 7.2 TBps，比 Trillium 的頻寬提高了 4.5 倍。這種快速資料存取對於現代人工智慧應用中普遍存在的記憶體密集型任務至關重要。
- 增強的晶片間互連（ICI）頻寬： ICI頻寬顯著提升至雙向1.2Tbps，相比Trillium提升了1.5倍。這種增強功能促進了晶片之間更快的通信，從而實現了高效的分散式訓練和大規模推理。
Ironwood 的推出凸顯了Google在客製化內部 AI 解決方案方面取得的令人矚目的進步，使Google成為傳統上由 NVIDIA 主導的市場中一個強大的競爭者。性能指標顯示成長潛力巨大，尤其是當微軟及其 Maia 100 和亞馬遜及其 Graviton 晶片等競爭對手認識並抓住透過客製化人工智慧解決方案獲得的機會時。
發佈留言