NVIDIAは、新しい4TBスタックがHBMを凌駕しているにもかかわらず、HBFメモリ技術には関心を示さず、Googleは今年からサンプル出荷を開始する。

NVIDIAは、新しい4TBスタックがHBMを凌駕しているにもかかわらず、HBFメモリ技術には関心を示さず、Googleは今年からサンプル出荷を開始する。

高帯域幅フラッシュ(HBF)メモリは、高帯域幅メモリ(HBM)よりも大容量であることから、メモリ技術分野において注目すべき有力候補として台頭しつつある。しかし、NVIDIAはこの革新的なソリューションを採用しないことを選択し、代わりにGoogleがHBFの主要顧客となる見込みだ。

NVIDIAはHBMへの取り組みを継続:HBFのサンプル出荷は今年後半を予定

NAND DRAMの最近の進歩は、人工知能(AI)アプリケーションが急速に普及している時期に重なっています。NANDは主にストレージニーズ、特にソリッドステートドライブ(SSD)のニーズに対応していますが、HBFテクノロジーの進歩はメモリソリューションを大きく変革する可能性を秘めています。HBMとNANDフラッシュの橋渡しとなるように設計されたHBFは、次世代のNAND DRAMと言えるでしょう。

HBFのアーキテクチャは、多数のTSV(Through Silicon Via)を組み込むことで、複数のNANDパッケージを単一のスタックに統合することを可能にします。現在、HBMはスタックあたり32~64GBの容量をサポートしていますが、HBFは最大4TBという大容量を提供できる見込みです。

パフォーマンス面では、HBMが依然として高速な選択肢としての地位を維持しているものの、HBFにおけるアーキテクチャの最適化により、重要なAIタスクに必要なスループットが十分に確保されると期待されています。この新しい標準は、エージェント型AIの台頭に伴い重要性が高まっている推論ワークロードに特に適しています。HBFによって提供される容量の増加は、プライマリ演算チップにおけるキーバリュー(KV)キャッシュによる制約の一部を緩和するのに役立つ可能性もあります。

HBFには潜在的な利点があるにもかかわらず、NVIDIAは既存の拡張SSD(eSSD)で現在の容量と速度の要件を十分に満たせると考えており、この新しいDRAM技術をすぐに導入する計画はないと公言している。同社はキオクシアと協力して、従来モデルの最大100倍の速度を実現できるPCIe Gen7 SSDの開発に取り組んでいる。

SanDiskのプレゼンテーションスライド「High Bandwidth Flash (HBF™)」では、AIワークロード向けにHBMメモリをNANDフラッシュで拡張する詳細が説明されており、HBFコアダイ、ロジックダイ、PHY、インターポーザーとラベル付けされたコンポーネントを含むHBFスタックの図が掲載されている。
画像提供元:サンディスク

対照的に、Googleは野心的なAI拡張戦略の一環として、HBF技術を活用する準備が整っているようだ。同社のTensor Processing Unit(TPU)エコシステムは急速に進化しており、計算能力の向上を目指した次世代TPUソリューションが次々と開発されている。HBFがより幅広い用途で普及するかどうかは依然として不透明だが、標準的なDDRメモリに取って代わる可能性を秘めていることは、この分野における刺激的な進展と言えるだろう。

コンピューティング需要の増加に伴い、AIアプリケーションにおけるCPUの制約を背景に、サーバーは低消費電力ダブルデータレート(LPDDR)メモリをますます採用するようになっています。この傾向は、特にシステムオンチップおよびマルチチップモジュール(SOCAMM2)構成において、LPDDR5およびLPDDR5Xメモリへのニーズの高まりを浮き彫りにしています。HBFの革新的な多層積層アプローチにより、チップメーカーおよびAIエコシステムの関係者は、プリント基板(PCB)のサイズを縮小しながら、容量を増やし、低消費電力を維持し、高帯域幅スループットを実現できます。

出典と画像

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です