マイクロン、成長を続けるエージェント型AI市場向けに設計された世界初の256GB SOCAMM2モジュールを発表

Micron 社は、容量の増強と電力効率の改善を約束する SOCAMM2 メモリモジュールの導入により、メモリ技術分野における極めて重要な進歩を発表しました。

MicronのSOCAMM2：KVキャッシュでメモリボトルネックを解消し、レイテンシを低減

人工知能（AI）アプリケーションの進化に伴い、ワークロードの増大によりメモリボトルネックの問題が深刻化しています。この課題を受け、DRAMメーカーは高帯域幅メモリ（HBM）をはじめとするAI向けメモリソリューションの革新を優先しています。Micronは先日、モジュールあたり256GBの容量を誇るSOCAMM2モジュールの画期的な成果を発表しました。この開発は、従来の192GBという上限から大幅に増加したものであり、SOCAMM2は既存のメモリ制約に対処することで、現代のAIインフラにおいて重要な役割を果たすことを可能にします。

256GB SOCAMM2 により、従来のサーバーメモリよりも少ない電力で膨大なメモリ容量と帯域幅を実現する Micron の成果により、次世代の AI CPU が実現します。

– NVIDIA データセンターCPU製品責任者、イアン・ファインダー

SOCAMM2の最新版では、1つのLPDRAMモノリシックダイで32GBの容量を実現できるという進歩を遂げています。この256GBモジュールは、8チャネルCPUあたり最大2TBのLPDRAMを搭載し、AIサーバーの長時間コンテキストウィンドウを効率的に処理する能力を向上させます。さらに、Micronは、ロングコンテキスト推論における最初のトークン生成時間（TTFT）が2.3倍向上したと発表しており、エージェントアプリケーションに重点を置いたワークロードのパフォーマンスを大幅に向上させます。

「KVキャッシュオフロードによるLPDRAM 500Kコンテキスト長の推論」というタイトルの棒グラフは、256GBモジュールの2TBが

SOCAMM2テクノロジーはNVIDIAとの提携により開発されており、以前の議論では、Vera Rubin AIインフラストラクチャがこのメモリ規格の最も初期のアプリケーションの一つとなることが強調されました。AIのダイナミックな分野では、低レイテンシと膨大なコンテキスト容量を必要とするワークロードにとって、高性能メモリの重要性がますます高まっています。しかしながら、SOCAMM2の機能はDRAMの可用性にも影響を与える可能性があり、GDDR7などの汎用製品への割り当てに影響を及ぼす可能性があることにも留意する必要があります。

Micron 社は、256GB SOCAMM2 モジュールのサンプルが顧客に配布され、この革新的なソリューションのデモンストレーションが GTC 2026 で行われる予定であることを確認しました。

出典と画像