Intel Gaudi 3 AI Accelerator uruchamia się w IBM Cloud; przewyższa procesory graficzne NVIDIA H100 i H200 AI w testach wydajności

Akcelerator sztucznej inteligencji Gaudi 3 firmy Intel zadebiutował niedawno w chmurze IBM, co stanowi ważny kamień milowy dla firmy jako pierwszego dostawcy usług w chmurze (CSP), który zintegrował tę najnowocześniejszą technologię ze swoją ofertą.

IBM Cloud liderem dzięki akceleratorowi Gaudi 3 AI firmy Intel

Pomimo stałego zaangażowania Intela w technologie AI, wejście firmy na rynek nie dorównało wczesnemu pędowi jej konkurentów. Do tej pory adopcja produktów Gaudi AI firmy Intel przebiegała stosunkowo powoli. Jednak niedawne ujawnienie przez IBM Cloud akceleratorów Gaudi 3 AI przedstawia obiecującą strategię dostarczania niedrogich rozwiązań AI dla firm.

Dzięki wprowadzeniu akceleratorów Intel Gaudi 3 AI do IBM Cloud umożliwiamy firmom skalowanie generatywnych obciążeń AI z zoptymalizowaną wydajnością do wnioskowania i dostrajania. Ta współpraca podkreśla nasze wspólne zaangażowanie w uczynienie AI bardziej dostępną i opłacalną dla przedsiębiorstw na całym świecie.

– Saurabh Kulkarni, wiceprezes w firmie Intel

Użytkownicy mogą wykorzystać możliwości Gaudi 3 za pośrednictwem IBM Cloud Virtual Servers. Warto zauważyć, że Signal65 przeprowadził testy porównujące wydajność Gaudi 3 z GPU H100 i H200 firmy NVIDIA, co oznacza pierwszą niezależną kontrolę najnowszego akceleratora firmy Intel poza jej wewnętrznymi ocenami.

Przepustowość wnioskowania LLM - wejście=1024, wyjście=1024

Testy ujawniają, że Gaudi 3 firmy Intel przewyższył ofertę firmy NVIDIA w testach porównawczych obejmujących modele Granite (8B) firmy IBM i Llama-3.1 firmy Meta. Chociaż konkretne parametry testów były różne, uzyskana wydajność może się różnić w praktycznych zastosowaniach. Te wstępne testy porównawcze oferują kluczowe informacje na temat potencjału firmy Intel w konkurencyjnym krajobrazie AI.

Źródło i obrazy