NVIDIA behauptet, die Übernahme von Groq werde die Architektur als Dekodierbeschleuniger mit niedriger Latenz verbessern, ähnlich wie Mellanox.

Die Branche ist in Aufruhr über NVIDIAs zukünftige Strategien für die LPU-Technologie (Latent Processing Unit) von Groq. Im Rahmen der Telefonkonferenz zu den Geschäftszahlen des vierten Quartals 2026 deutete CEO Jensen Huang spannende Entwicklungen an und ließ damit eine bedeutende Weiterentwicklung der Technologielandschaft von NVIDIA erahnen.

NVIDIAs Groq LPUs: Stärkung der Führungsposition in latenzkritischen Umgebungen

NVIDIA verfolgt in diesem Jahr eine aggressive Akquisitionsstrategie, die insbesondere durch eine monumentale Partnerschaft mit Groq im Wert von bis zu 20 Milliarden US-Dollar gekennzeichnet ist. Diese nicht-lizenzrechtliche Vereinbarung, die am Heiligabend bekannt gegeben wurde, ist noch nicht vollständig detailliert. Während der Telefonkonferenz zu den Geschäftszahlen gab Jensen Huang jedoch Einblicke, wie die LPUs von Groq in NVIDIAs zukünftige KI-Initiativen integriert werden könnten.

Was unsere Herangehensweise an Groq und den Low-Latency-Decoder betrifft, habe ich einige großartige Ideen, die ich Ihnen gerne auf der GTC vorstellen möchte.

Und so werden wir mit Groq vorgehen, indem wir unsere Architektur um Groq als Beschleuniger erweitern, ähnlich wie wir die Architektur von NVIDIA mit Mellanox erweitert haben.

– Jensen Huang, CEO von NVIDIA

Das Hauptziel der Übernahme von Groq ist die Bewältigung latenzkritischer Workloads – eine dringende Herausforderung in der heutigen Computerlandschaft, insbesondere im Bereich der KI-Inferenz. Mit der Weiterentwicklung der KI steigt der Bedarf an ultraschnellen Reaktionszeiten, wodurch die Latenz zu einem kritischen Faktor für Serviceprovider wird. Obwohl NVIDIA mit seinen Hopper- und Blackwell-Architekturen im Trainingsbereich hervorragende Leistungen erbracht hat, strebt das Unternehmen mit seiner kommenden Vera-Rubin-Technologie eine weitere Vormachtstellung im Bereich der Inferenz an. Die LPU-Einheiten von Groq sollen dabei eine Schlüsselrolle spielen.

Huang verglich die Bedeutung von Groq mit der vorherigen Übernahme von Mellanox, die wichtige Netzwerkprobleme des Unternehmens löste. Mellanox‘ Beiträge ermöglichten eine umfassende gemeinsame Entwicklung der Rechenzentrumsstrategien von NVIDIA.Ähnlich soll Groq die Architektur von NVIDIA verbessern, indem es potenziell LPUs im Rack-Maßstab integriert und so die Position des Unternehmens im KI-Sektor stärkt.

Eine Person steht auf der Bühne und präsentiert verschiedene geöffnete Servereinheiten mit sichtbaren Kühlsystemen und Hardwarekomponenten. — Bildnachweis: NVIDIA

In der KI sind Dekodierung und Vorbefüllung entscheidende Schritte der Inferenz, wobei die Dekodierung in Multiagentensystemen zunehmend an Bedeutung gewinnt. Mit der wachsenden Vernetzung von KI-Systemen ist die Fähigkeit zur schnellen und effektiven Informationsdekodierung unerlässlich. NVIDIA will diese Fähigkeit mithilfe der Groq LPUs verbessern. Die Integration von On-Die-SRAM-Technologie, die eine enorme interne Bandbreite bietet, sorgt bereits für Aufsehen, wie Implementierungen von Unternehmen wie Cerebras und Microsoft zeigen.

Die Integration der Groq-LPUs in die NVIDIA-Architektur birgt faszinierende Möglichkeiten. Eine gängige Theorie besagt, dass NVIDIA hybride Rechenknoten mit mehreren, über eine einheitliche Verbindung vernetzten LPUs entwickeln könnte, um die Recheneffizienz zu steigern.

Abbildungen nebeneinander eines Halbleiters mit der Bezeichnung „LPU“ und eines weiteren mit der Bezeichnung „GPU“, die deren komplexe Schaltkreise detailliert zeigen.

Analysten von GF Securities ( via Jukan ) zufolge könnte NVIDIA auf der kommenden GTC-Konferenz ein „LPX-Rack“ vorstellen, das potenziell bis zu 256 LPU-Einheiten in einer einzigen Konfiguration bietet. Die Analysten vermuten, dass das Unternehmen ein natives plesiosynchrones Protokoll für die interne LPU-Kommunikation sowie NVLink Fusion einsetzen könnte, um eine robuste GPU-Datenverarbeitung während der Inferenz zu ermöglichen.

Eine detaillierte Ansicht einer Serverplatine mit beschrifteten Komponenten, darunter „CPU“, „GPUs“, „NVLink Fusion“ und „LPUs“, mit — Vorläufige Darstellung des hybriden LPU-Rechenträgers von NVIDIA | Bildquelle: Wccftech

Letztendlich besitzen die LPUs von Groq das Potenzial, den transformativen Einfluss von Mellanox auf die Netzwerktechnik zu wiederholen und NVIDIA so einen Wettbewerbsvorteil bei latenzkritischen Anwendungen zu verschaffen. Huang wies darauf hin, dass sowohl Rechenleistung als auch Umsatz derzeit – angetrieben durch die rasante Entwicklung von KI-Anwendungen – stetig wachsen. Beobachter erwarten mit Spannung die offizielle Vorstellung dieser Innovationen auf der kommenden GTC-Konferenz.

Quellen & Bilder