GoogleがMarvellと提携し、ASIC向けAI推論の変革を目指す2チップTPU戦略を展開

最近の報道によると、GoogleはMarvellと協力して2つの革新的なチップを開発している。1つは既存のテンソル処理ユニット（TPU）の性能向上を目的としたもので、もう1つは次世代TPUの設計を体現するものだ。

GoogleとMarvellが次世代AIチップで提携

The Informationの報道によると、GoogleとMarvellの間で、AI推論の最適化を目的とした2種類の特殊チップの開発に関する協議が開始された。

これらの協議の進捗状況に関する詳細はまだほとんど明らかになっていないものの、Googleが2つの異なるチップを提案していることは明らかだ。1つは既存のTPUを強化するためのもので、もう1つは全く新しいTPUアーキテクチャである。これは、これらの開発に向けた基本的な計画が既に策定されていることを示唆している。

この2つのチップの目的は大きく異なります。TPUに関連する最初のチップは、カスタムシリコンではなく、TPUと連携して動作するように設計されたメモリ処理ユニット（MPU）です。この革新的なMPUは、チップやシステムに通常課されるメモリ負荷の一部を軽減し、より効率的なインメモリ処理を促進することが期待されています。

アイアンウッドとラベル付けされた四角いチップを、背景がぼやけたボケ効果でクローズアップした写真。

今回取り上げる2つ目のチップは、AI推論モデルに特化した次世代TPUです。現在、Googleの主力AIアクセラレータはTPU v7、通称Ironwoodシリーズで、192GBの高帯域幅メモリ（HBM）と4614TFLOPSのピーク性能など、優れたスペックを誇ります。この強力なTPUは、9216個のチップで構成されるSuperpodに統合されています。

こうした開発が進むにつれ、今後登場するGoogle TPUと新しいMPUの組み合わせによって、メモリサブシステムが大幅に強化されると予想されます。この改善により、特にAI推論の分野において、AIモデルのパフォーマンスがより高速かつ効率的になることが期待されます。

出典と画像