L’accélérateur d’IA Intel Gaudi 3 est lancé sur IBM Cloud ; il surpasse les GPU d’IA NVIDIA H100 et H200 lors des tests de performances.

L’accélérateur d’IA Gaudi 3 d’Intel a récemment fait ses débuts sur IBM Cloud, marquant une étape importante en tant que premier fournisseur de services cloud (CSP) à intégrer cette technologie de pointe dans ses offres.

IBM Cloud est leader avec l’accélérateur d’IA Gaudi 3 d’Intel

Malgré l’engagement constant d’Intel dans les technologies d’IA, son entrée sur le marché n’a pas suivi la dynamique initiale de ses concurrents. Jusqu’à présent, l’adoption des produits d’IA Gaudi d’Intel a été relativement lente. Cependant, le récent lancement par IBM Cloud des accélérateurs d’IA Gaudi 3 constitue une stratégie prometteuse pour fournir des solutions d’IA abordables aux entreprises.

En intégrant les accélérateurs d’IA Intel Gaudi 3 à IBM Cloud, nous permettons aux entreprises de faire évoluer leurs charges de travail d’IA générative avec des performances optimisées pour l’inférence et le réglage fin. Cette collaboration souligne notre engagement commun à rendre l’IA plus accessible et plus rentable pour les entreprises du monde entier.

– Saurabh Kulkarni, vice-président chez Intel

Les utilisateurs peuvent exploiter les fonctionnalités de Gaudi 3 via les serveurs virtuels cloud d’IBM. Signal65 a notamment réalisé des tests comparant les performances de Gaudi 3 à celles des GPU H100 et H200 de NVIDIA, marquant ainsi la première évaluation indépendante du dernier accélérateur d’Intel en dehors de ses évaluations internes.

Débit d'inférence LLM - Entrée = 1024, Sortie = 1024

Les tests révèlent que Gaudi 3 d’Intel a surpassé les offres NVIDIA lors des benchmarks impliquant les modèles Granite (8B) d’IBM et Llama-3.1 de Meta. Bien que les paramètres spécifiques des tests aient varié, les performances obtenues peuvent différer en pratique. Ces benchmarks préliminaires offrent un aperçu crucial du potentiel d’Intel dans le paysage concurrentiel de l’IA.

Source et images