Intel Gaudi 3 AI Accelerator startet in der IBM Cloud; übertrifft NVIDIA H100 & H200 AI GPUs in Leistungstests

Intels Gaudi 3 KI-Beschleuniger feierte vor Kurzem sein Debüt in der IBM Cloud und markierte damit einen bedeutenden Meilenstein für das Unternehmen, das als erster Cloud-Service-Provider (CSP) diese Spitzentechnologie in sein Angebot integriert hat.

IBM Cloud ist mit Intels Gaudi 3 AI Accelerator führend

Trotz Intels anhaltendem Engagement für KI-Technologien konnte der Markteintritt des Unternehmens nicht mit der anfänglichen Dynamik seiner Konkurrenten mithalten. Die Akzeptanz von Intels Gaudi-KI-Produkten verlief bisher relativ langsam. Die kürzlich von IBM Cloud vorgestellten Gaudi 3 KI-Beschleuniger bieten jedoch eine vielversprechende Strategie, Unternehmen kostengünstige KI-Lösungen anzubieten.

Durch die Integration von Intel Gaudi 3 KI-Beschleunigern in die IBM Cloud ermöglichen wir Unternehmen die Skalierung generativer KI-Workloads mit optimierter Leistung für Inferenz und Feinabstimmung. Diese Zusammenarbeit unterstreicht unser gemeinsames Engagement, KI für Unternehmen weltweit zugänglicher und kostengünstiger zu machen.

– Saurabh Kulkarni, VP bei Intel

Nutzer können die Funktionen von Gaudi 3 über die Cloud Virtual Server von IBM nutzen.Signal65 hat Tests durchgeführt, die die Leistung von Gaudi 3 mit der von NVIDIAs H100- und H200-GPUs vergleichen. Dies ist die erste unabhängige Überprüfung von Intels neuestem Beschleuniger außerhalb der internen Tests.

LLM-Inferenzdurchsatz – Eingabe=1024, Ausgabe=1024

Die Tests zeigen, dass Intels Gaudi 3 in Benchmarks mit IBMs Granite (8B) und Metas Llama-3.1-Modellen die NVIDIA-Angebote übertraf. Obwohl die spezifischen Parameter der Tests variierten, kann die resultierende Leistung in der Praxis abweichen. Diese vorläufigen Benchmarks bieten wichtige Einblicke in das Potenzial von Intel im wettbewerbsintensiven KI-Umfeld.

Quelle & Bilder