AMD und Qualcomm verfolgen nach NVIDIAs Vorbild die Entwicklung der „SOCAMM“-Speichertechnologie für KI-Produkte der nächsten Generation.

AMD und Qualcomm erforschen aktiv die Integration von SOCAMM-Speicher in ihre Lösungen für künstliche Intelligenz (KI).Diese Forschung reagiert auf die anhaltenden Herausforderungen durch Speicherbeschränkungen, die die Leistung aktueller KI-Systeme beeinträchtigen.

Einführung von SOCAMM-Speicher: Von NVIDIA zu den Wettbewerbern

Ursprünglich für NVIDIA entwickelt, hat sich SOCAMM als Speicherstandard in den Produkten des Unternehmens schnell etabliert. SOCAMM basiert auf der LPDDR-DRAM-Technologie, die häufig in mobilen und energieeffizienten Geräten zum Einsatz kommt. Im Gegensatz zu Alternativen wie High Bandwidth Memory (HBM) und LPDDR5X zeichnet sich SOCAMM durch seine Aufrüstbarkeit aus. Anders als herkömmliche, fest verlötete Komponenten lässt sich SOCAMM einfacher austauschen oder aufrüsten. Dies macht es zu einer attraktiven Ergänzung für HBM bei speicherintensiven Aufgaben.

Jüngsten Informationen aus einem Bericht von Hankyung zufolge planen sowohl AMD als auch Qualcomm die Integration von SOCAMM-Modulen in ihre zukünftigen KI-Systemarchitekturen. Bemerkenswert ist, dass diese Unternehmen eine einzigartige Designstrategie verfolgen, die sich von der Implementierung von NVIDIA unterscheidet. Ihr Ansatz sieht die Entwicklung eines „quadratischen“ Moduls mit zwei parallel angeordneten DRAM-Komponenten vor. Dieses Design zielt darauf ab, das Energiemanagement direkt auf dem Modul durch einen integrierten Power-Management-Schaltkreis (PMIC) zu verbessern, was eine effiziente Spannungsregelung ermöglicht und einen reibungslosen Hochgeschwindigkeitsbetrieb gewährleistet.

Mit zunehmender Verbreitung von SOCAMM wird ein steigender Bedarf an diesem Speichertyp erwartet, vor allem aufgrund der Anforderungen agentenbasierter KI-Anwendungen. Die Verfügbarkeit von Terabytes an Speicher pro CPU ermöglicht es KI-Agenten, Millionen aktiver Token effizient zu verwalten. Obwohl der Durchsatz von SOCAMM möglicherweise nicht mit dem von HBM mithalten kann, machen seine Leistungsmerkmale ihn zu einer praktikablen und energieeffizienten Alternative.

NVIDIA plant derzeit den Einsatz von SOCAMM 2 in seinen Vera Rubin KI-Clustern. Da auch AMD und Qualcomm diese Speichertechnologie erforschen, können Branchenbeobachter mit deren Integration in ihre KI-Cluster der nächsten Generation rechnen, was potenziell die Leistung zukünftiger KI-Anwendungen verbessern könnte.

Quellen & Bilder