Intel collabora con l’ecosistema Blackwell di NVIDIA per una piattaforma di intelligenza artificiale ibrida su scala rack per rivitalizzare i suoi chip di intelligenza artificiale

Intel collabora con l’ecosistema Blackwell di NVIDIA per una piattaforma di intelligenza artificiale ibrida su scala rack per rivitalizzare i suoi chip di intelligenza artificiale

Intel ha fatto notizia integrando la sua soluzione Gaudi 3 rack-scale con l’avanzato stack tecnologico di NVIDIA. Questa combinazione innovativa sfrutta i chip di intelligenza artificiale Intel insieme alle GPU Blackwell di NVIDIA, promettendo notevoli miglioramenti delle prestazioni per gli utenti.

Intel presenta un server AI ibrido con tecnologia Blackwell di NVIDIA

La linea Gaudi di chip AI di Intel ha guadagnato una notevole popolarità nel settore. Tuttavia, l’azienda ha dovuto affrontare una dura concorrenza da parte di giganti come NVIDIA e AMD per accaparrarsi i ricavi dal fiorente settore dell’intelligenza artificiale. Per affrontare questa sfida, Intel sta ripensando la sua strategia per la piattaforma Gaudi. Come riportato da SemiAnalysis, il colosso della tecnologia si appresta a introdurre il sistema Gaudi 3 rack-scale, che incorpora la GPU Blackwell B200 di NVIDIA come parte di un’architettura ibrida, completata dalla tecnologia di rete Connect-X.

Questo annuncio si distingue come uno dei punti salienti del recente OCP Global Summit, dove Intel mira a ritagliarsi una nicchia distintiva nel mercato dell’intelligenza artificiale su rack. Il sistema proposto impiega in modo esclusivo i chip Gaudi 3 di Intel per gestire gli aspetti di “decodifica” dei carichi di lavoro di inferenza, mentre le GPU B200 si concentrano sulle fasi di “prefill” più impegnative. Le GPU Blackwell sono caratterizzate da prestazioni eccezionali nelle grandi moltiplicazioni di matrici, il che le rende una scelta ottimale per la gestione delle operazioni di prefill.

Il server Intel Gaudi 3 Rack Scale64 con Compute Tray e Switch Tray, presentato a un evento tecnologico, è dotato di 2 CPU Xeon e chip Gaudi3 AI.
Crediti immagine: SemiAnalysis

In questa configurazione innovativa, l’architettura Gaudi 3 darà priorità alla larghezza di banda della memoria e alla scalabilità basata su Ethernet. Sul fronte della connettività, la configurazione utilizza le schede di rete NVIDIA ConnectX-7 400 GbE montate su rack di elaborazione, insieme agli switch Tomahawk 5 di Broadcom, che vantano un notevole throughput di 51, 2 Tb/s per facilitare la connettività completa del rack. Secondo SemiAnalysis, ogni rack di elaborazione è dotato di due CPU Xeon, quattro chip Gaudi 3 AI e quattro schede di rete, oltre a una DPU NVIDIA BlueField-3, con un totale di sedici rack allocati per rack.

Più processori etichettati Eight Bay Cuda Core sulla scheda madre di un server.
Rack Gaudi 2 di Intel

La piattaforma Gaudi si posiziona come un motore di decodifica conveniente in un panorama fortemente influenzato dal predominio di NVIDIA. Questa strategia suggerisce un approccio pragmatico in cui Intel cerca di migliorare la propria posizione sul mercato non attraverso la concorrenza diretta, ma sfruttando un accordo di collaborazione. Le affermazioni suggeriscono che questa architettura rack-scale può raggiungere prestazioni 1, 7 volte più veloci nelle attività di pre-riempimento rispetto a un modello base che utilizza solo la GPU B200; tuttavia, questi risultati attendono una convalida indipendente.

Sebbene questa configurazione ibrida presenti un futuro roseo, permangono delle sfide. La piattaforma Gaudi è ancora ostacolata da un ecosistema software non ancora sviluppato, che potrebbe impedirne un’adozione più ampia. Inoltre, con l’architettura Gaudi destinata al ritiro graduale nei prossimi mesi, non è certo che questa configurazione raggiungerà la stessa accettazione generalizzata delle soluzioni concorrenti.

Fonte e immagini

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *