Intel Gaudi 3 AI Accelerator viene lanciato su IBM Cloud; supera le GPU AI NVIDIA H100 e H200 nei test delle prestazioni

L’acceleratore di intelligenza artificiale Gaudi 3 di Intel ha debuttato di recente su IBM Cloud, segnando un traguardo significativo in quanto primo fornitore di servizi cloud (CSP) a integrare questa tecnologia all’avanguardia nella propria offerta.

IBM Cloud guida con l’acceleratore AI Gaudi 3 di Intel

Nonostante l’impegno continuo di Intel nelle tecnologie AI, l’ingresso dell’azienda nel mercato non ha eguagliato lo slancio iniziale dei suoi concorrenti. Finora, l’adozione dei prodotti Gaudi AI di Intel è stata relativamente lenta. Tuttavia, la recente presentazione da parte di IBM Cloud degli acceleratori Gaudi 3 AI presenta una strategia promettente per fornire soluzioni AI accessibili alle aziende.

Portando gli acceleratori AI Intel Gaudi 3 su IBM Cloud, stiamo consentendo alle aziende di aiutare a scalare carichi di lavoro AI generativi con prestazioni ottimizzate per l’inferenza e la messa a punto. Questa collaborazione sottolinea il nostro impegno condiviso nel rendere l’AI più accessibile e conveniente per le aziende in tutto il mondo.

– Saurabh Kulkarni, vicepresidente di Intel

Gli utenti possono sfruttare le capacità di Gaudi 3 tramite i Cloud Virtual Server di IBM. In particolare, Signal65 ha condotto test che confrontano le prestazioni di Gaudi 3 con le GPU H100 e H200 di NVIDIA, segnando il primo esame indipendente dell’ultimo acceleratore di Intel al di fuori delle sue valutazioni interne.

Capacità di inferenza LLM - Input=1024, Output=1024

I test rivelano che Gaudi 3 di Intel ha superato le offerte di NVIDIA nei benchmark che coinvolgono i modelli Granite (8B) di IBM e Llama-3.1 di Meta. Sebbene i parametri specifici per i test siano variati, le prestazioni risultanti potrebbero differire nelle applicazioni pratiche. Questi benchmark preliminari offrono approfondimenti critici sul potenziale di Intel nel panorama competitivo dell’intelligenza artificiale.

Fonte e immagini