NVIDIA zeigt trotz neuer 4-TB-Speicher, die HBM übertreffen, kein Interesse an der HBF-Speichertechnologie; Google beginnt dieses Jahr mit der Auslieferung von Mustern.

NVIDIA zeigt trotz neuer 4-TB-Speicher, die HBM übertreffen, kein Interesse an der HBF-Speichertechnologie; Google beginnt dieses Jahr mit der Auslieferung von Mustern.

Flash-Speicher mit hoher Bandbreite (HBF) etabliert sich als ernstzunehmender Konkurrent im Bereich der Speichertechnologien und bietet eine höhere Kapazität als High Bandwidth Memory (HBM).NVIDIA hat sich jedoch gegen diese innovative Lösung entschieden; stattdessen wird Google voraussichtlich einer der Hauptabnehmer von HBF werden.

NVIDIA hält an HBM fest: HBF-Sampling für später in diesem Jahr geplant

Die jüngsten Fortschritte bei NAND-DRAM fallen in eine Zeit, in der Anwendungen künstlicher Intelligenz (KI) rasant an Bedeutung gewinnen. Obwohl NAND primär Speicherlösungen – vor allem in Solid-State-Drives (SSDs) – bedient, könnten die erwarteten Weiterentwicklungen der HBF-Technologie Speicherlösungen grundlegend verändern. HBF, das die Brücke zwischen HBM und NAND-Flash schlägt, repräsentiert die nächste Generation von NAND-DRAM.

Die Architektur von HBF wird zahlreiche Through-Silicon-Vias (TSVs) umfassen und somit die Integration mehrerer NAND-Bausteine ​​in einen einzigen Stack ermöglichen. Aktuell unterstützt HBM Kapazitäten von 32 bis 64 GB pro Stack, während HBF Kapazitäten von bis zu 4 TB bieten soll.

Hinsichtlich der Leistung bleibt HBM zwar die schnellere Option, doch architektonische Optimierungen in HBF dürften einen ausreichenden Durchsatz für wichtige KI-Aufgaben ermöglichen. Dieser neue Standard eignet sich besonders gut für Inferenz-Workloads, deren Bedeutung mit dem Aufstieg agentenbasierter KI deutlich zugenommen hat. Die höhere Kapazität von HBF kann zudem dazu beitragen, einige der Einschränkungen von Key-Value-Caches (KV-Caches) in primären Rechenchips zu verringern.

Trotz der potenziellen Vorteile von HBF hat NVIDIA öffentlich erklärt, dass es derzeit keine Pläne zur Implementierung dieser neuen DRAM-Technologie gibt. Das Unternehmen ist der Ansicht, dass die bestehenden Enhanced SSDs (eSSDs) die aktuellen Anforderungen an Kapazität und Geschwindigkeit ausreichend erfüllen. NVIDIA arbeitet mit Kioxia an der Entwicklung von PCIe Gen7 SSDs, die bis zu 100-mal höhere Geschwindigkeiten als herkömmliche Modelle erreichen könnten.

Eine Präsentationsfolie von SanDisk mit dem Titel „High Bandwidth Flash (HBF™)“ beschreibt die Erweiterung von HBM-Speicher mit NAND-Flash für KI-Workloads und enthält ein Diagramm des HBF-Stacks mit Komponenten, die als HBF Core Die, Logic Die, PHY und Interposer bezeichnet sind.
Bildquelle: SanDisk

Im Gegensatz dazu scheint Google bereit zu sein, die HBF-Technologie im Rahmen seiner ambitionierten KI-Expansionsstrategie zu nutzen. Das Ökosystem der Tensor Processing Units (TPUs) des Technologiekonzerns entwickelt sich rasant weiter und arbeitet an einer Reihe von TPU-Lösungen der nächsten Generation, die die Rechenleistung verbessern sollen. Auch wenn die Bedeutung von HBF in breiteren Anwendungsbereichen noch ungewiss ist, stellt ihr Potenzial, herkömmlichen DDR-Speicher zu ersetzen, eine vielversprechende Entwicklung dar.

Mit steigenden Rechenanforderungen setzen Server zunehmend auf LPDDR-Speicher (Low Power Double Data Rate), bedingt durch die Leistungsbeschränkungen von CPUs in KI-Anwendungen. Dieser Trend unterstreicht den wachsenden Bedarf an LPDDR5- und LPDDR5X-Speicher, insbesondere für System-on-Chip- und Multi-Chip-Module-Konfigurationen (SOCAMM2).Der innovative Mehrschicht-Stacking-Ansatz von HBF ermöglicht es Chipherstellern und Akteuren des KI-Ökosystems, die Größe von Leiterplatten (PCBs) zu reduzieren und gleichzeitig die Kapazität zu erhöhen, den Stromverbrauch niedrig zu halten und einen hohen Bandbreitendurchsatz zu erzielen.

Quellen & Bilder

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert