Raja Koduri tritt SanDisks High-Bandwidth Flash Memory Advisory Board bei, um eine 8- bis 16-fache Kapazität für KI-GPUs bei 4 TB zu erreichen, kostengünstiger als HBM

Raja Koduri übernimmt bei SanDisk eine Schlüsselrolle und soll die Entwicklung von High Bandwidth Flash (HBF)-Speichern vorantreiben. Diese Innovation soll die Fähigkeiten künstlicher Intelligenz (KI) verbessern, indem sie die Einschränkungen herkömmlicher High Bandwidth Memory (HBM) überwindet, die oft mit Kapazitätsengpässen zu kämpfen haben.

Raja Koduris strategische Ernennung zum HBF Memory Advisory Board von SanDisk

Der ehemalige Intel-Chefarchitekt Raja Koduri, der 2023 aus der Grafikabteilung des Tech-Giganten ausschied, widmet sich nun der Verbesserung der VRAM-Kapazität in KI-GPUs. Seine kürzliche Ankündigung, dem technischen Beirat von SanDisk beizutreten, unterstreicht sein Engagement für die Weiterentwicklung der HBF-Speichertechnologie, die deutliche Verbesserungen der Speicherkapazität für KI-GPUs der nächsten Generation verspricht.

Wir freuen uns über die Partnerschaft mit Sandisk. Als wir mit der HBM-Entwicklung begannen, konzentrierten wir uns auf die Verbesserung der Bandbreite pro Watt und der Bandbreite pro mm² (beides wichtige Einschränkungen für mobile Geräte), ohne dabei die Konkurrenzfähigkeit der etablierten Lösungen zu beeinträchtigen. Mit HBF liegt der Fokus auf der Speichererweiterung…

– Raja Koduri (@RajaXg) 24. Juli 2025

Rajas Zusammenarbeit mit SanDisk ist aufgrund seiner umfassenden Erfahrung in der GPU-Entwicklung und Computerarchitekturen bemerkenswert. Diese Synergie passt gut zu SanDisks Bestreben, eine HBF-Technologie zu entwickeln, die die inhärenten Nachteile von HBM überwindet.

Diagramm des High Bandwidth Flash-Stacks, der den HBM-Speicher mit NAND-Flash für KI-Workloads erweitert. — Der HBF-Stapel kann eine um ein Vielfaches höhere Speicherkapazität liefern und dabei die gleiche Bandbreite wie HBM beibehalten.

Zu Beginn der HBM-Entwicklung lag unser Fokus auf der Verbesserung der Bandbreite pro Watt und pro mm² (beides wichtige Randbedingungen für mobile Geräte), während gleichzeitig die Kapazität im Vergleich zu den etablierten Lösungen konkurrenzfähig blieb. Bei HBF liegt der Fokus darauf, die Speicherkapazität (pro Dollar, pro Watt und pro mm²) deutlich zu erhöhen und gleichzeitig eine wettbewerbsfähige Bandbreite zu bieten.

– Raja Koduri

Trotz der rasanten Fortschritte im HBM-Bereich, der bereits große Speicherkapazitäten für KI-zentrierte Superchips ermöglicht, bietet HBF das Potenzial, die Speicherkapazität durch die Through-Silicon-Vias-Technologie exponentiell zu steigern. Ein einzelner HBF-Stack kann Speicherkapazitäten im Terabyte-Bereich ermöglichen. Durch die Integration von acht solcher Stacks in ein System können KI-GPUs bis zu 4 TB VRAM erreichen und gleichzeitig die hohe Bandbreite von HBM beibehalten. Diese Entwicklung ist entscheidend, um den steigenden Anforderungen von KI-Anwendungen gerecht zu werden.

Es ist wichtig zu verstehen, dass die HBF-Technologie von SanDisk bei latenzempfindlichen Aufgaben nicht direkt mit DRAM konkurriert. Sie ist vielmehr auf die Speicheranforderungen von KI-Operationen wie Inferenz und groß angelegtem Modelltraining zugeschnitten, bei denen Kapazität und Bandbreite Vorrang vor Latenz haben. Rajas strategische Rolle wird entscheidend zur Weiterentwicklung dieser Speicherlösung mit hoher Kapazität beitragen.

Vergleich zwischen den GPU-Speicherkapazitäten von HBM und HBF.

Visuelle Darstellung der GPU-Speicherkapazitäten: 192 GB HBM vs.4.096 GB HBF.

Da SanDisk HBF als offenes Standard-Framework etablieren möchte, dürfte diese Initiative eine breite Akzeptanz in der gesamten Branche fördern. Rajas bemerkenswertes Netzwerk und seine Erfahrung im Aufbau von Ökosystemen werden für die Verbesserung der Zusammenarbeit mit GPU-Herstellern von unschätzbarem Wert sein.

HBF revolutioniert Edge-KI, indem es Geräte mit Speicherkapazität und Bandbreite ausstattet, die die lokale Ausführung komplexer Modelle in Echtzeit ermöglichen. Dieser Fortschritt läutet eine neue Ära intelligenter Edge-Anwendungen ein und verändert grundlegend, wie und wo KI-Inferenzen durchgeführt werden.

– Raja Koduri

Weitere Einzelheiten finden Sie in der offiziellen Ankündigung von SanDisk.

Quelle & Bilder