NVIDIA HGX B200 von Super Micro Computer erreicht bei den Benchmarks Llama2-70b und Llama3.1-405b über das Dreifache an Token pro Sekunde im Vergleich zu H200 8-GPU-Systemen

Bitte beachten Sie, dass dieser Inhalt keine Anlageberatung darstellt. Der Autor hält keine Positionen in den hier besprochenen Aktien.

Die Widerstandsfähigkeit von Super-Mikrocomputern auf dem Technologiemarkt

Trotz der Turbulenzen im Technologiesektor konnte Super Micro Computer (NASDAQ: SMCI) in diesem Jahr um 6 % zulegen. Diese Leistung ist bemerkenswert, insbesondere da große Unternehmen im aktuellen Wirtschaftsumfeld vor Herausforderungen stehen. Kürzlich zeichnete Goldman Sachs SMCI als „Aktie mit der besten Performance“ in der Hardware-Kategorie aus. Als weiteres Zeichen seiner Innovationskraft kündigte Super Micro eine deutliche Verbesserung der KI-Fähigkeiten seiner Systeme mit NVIDIAs B200-GPU an.

Ankündigung der Führungsrolle bei der KI-Leistung

Super Micro präsentiert seine flüssigkeitsgekühlten 4HE- und luftgekühlten 10HE-Systeme als Spitzenreiter und behauptet, sie würden im Vergleich zu H200-8-GPU-Systemen bei den Benchmarks Llama2-70B und Llama3.1-405B über dreimal so viele Token pro Sekunde (Token/s) generieren. Dieser Leistungssprung unterstreicht das Engagement des Unternehmens für die Weiterentwicklung der KI-Technologie.

„Innerhalb der Betriebsmarge zeigte das luftgekühlte B200-System von Supermicro das gleiche Leistungsniveau wie das flüssigkeitsgekühlte B200-System.“

Innovative Kühltechnologien

Die neuesten NVIDIA HGX B200-Systeme von Super Micro sind mit fortschrittlichen Kühltechnologien ausgestattet, darunter neu entwickelte Kühlplatten und eine 250-kW-Kühlmittelverteilungseinheit. Dieses innovative Design nutzt vertikale Kühlmittelverteiler und maximiert so die Platzeffizienz im Rack. Dadurch können **acht Systeme** mit insgesamt **64 NVIDIA Blackwell-GPUs** in einem **42-HE-Rack** oder sogar **12 Systeme** mit **96 NVIDIA Blackwell-GPUs** in einem **52-HE-Rack** untergebracht werden.

Das neue luftgekühlte 10HE-NVIDIA-HGX-B200-System verfügt über ein neu gestaltetes Gehäuse mit erweitertem thermischen Spielraum für acht 1000-W-TDP-Blackwell-GPUs. Bis zu vier der neuen luftgekühlten 10HE-Systeme können vollständig in einem Rack installiert und integriert werden. Die gleiche Dichte wie bei der vorherigen Generation bietet eine bis zu 15-fache Inferenz- und eine bis zu 3-fache Trainingsleistung.

Grundlegendes zur Serverhöhenmessung

Für diejenigen, die es nicht wissen: Die Maßeinheit „U“ bezieht sich auf die Serverhöhe, wobei 1U 1, 75 Zoll entspricht.

Apples strategischer Wandel

Loop Capital gab kürzlich bekannt, dass Apple in den Markt für „große Servercluster der Generation KI“ einsteigt. Diese strategische Neuausrichtung erfolgt als Reaktion auf die jüngsten Herausforderungen, insbesondere im Zusammenhang mit Siri, und drängt das Unternehmen in Richtung der kommerziellen GPUs von NVIDIA.

„AAPL [Apple] ist dabei, Bestellungen für GB300NVL72 im Wert von ca.1, 0 Mrd. USD (oder ca.250 Server zu je 3, 7 – 4, 0 Mio. USD) aufzugeben, die sowohl von SMCI [Super Micro Computer] als auch von DELL stammen.“

Dieser umfangreiche Auftrag stellt einen bedeutenden Erfolg sowohl für Super Micro Computer als auch für Dell dar, die derzeit führende Anbieter auf dem aufstrebenden Markt für KI-Server-Racks sind.

Quelle & Bilder