Intel Gaudi 3 AI アクセラレーターが IBM Cloud でリリース。パフォーマンス テストで NVIDIA H100 および H200 AI GPU を上回る

Intel Gaudi 3 AI アクセラレーターが IBM Cloud でリリース。パフォーマンス テストで NVIDIA H100 および H200 AI GPU を上回る

Intel の Gaudi 3 AI アクセラレーターが最近 IBM Cloud でデビューし、この最先端テクノロジーを自社のサービスに統合した最初のクラウド サービス プロバイダー (CSP) として重要なマイルストーンを達成しました。

IBM Cloud がインテルの Gaudi 3 AI アクセラレーターでリード

Intel は AI テクノロジーに継続的に取り組んでいるものの、市場への参入は競合他社の初期の勢いに追いついていません。これまでのところ、Intel の Gaudi AI 製品の採用は比較的遅いペースです。しかし、IBM Cloud が最近発表したGaudi 3 AI アクセラレーターは、手頃な価格の AI ソリューションを企業に提供する有望な戦略を示しています。

Intel Gaudi 3 AI アクセラレーターを IBM Cloud に導入することで、企業は推論と微調整のパフォーマンスを最適化し、生成 AI ワークロードを拡張できるようになります。このコラボレーションは、世界中の企業にとって AI をよりアクセスしやすく、コスト効率の高いものにするという私たちの共通の取り組みを強調するものです。

– インテル副社長、サウラブ・クルカルニ氏

ユーザーは、IBM のクラウド仮想サーバーを介して Gaudi 3 の機能を活用できます。特に、Signal65 はGaudi 3 のパフォーマンスを NVIDIA の H100 および H200 GPU と比較するテストを実施しており、これは社内評価以外で Intel の最新アクセラレータを初めて独立して精査したことになります。

LLM 推論スループット - 入力 = 1024、出力 = 1024

テストの結果、IBM Granite (8B) および Meta Llama-3.1 モデルを含むベンチマークで、Intel の Gaudi 3 が NVIDIA の製品よりも優れたパフォーマンスを発揮したことが明らかになりました。テストの具体的なパラメータはさまざまでしたが、実際のアプリケーションでは結果のパフォーマンスが異なる場合があります。これらの予備的なベンチマークは、競争の激しい AI 環境における Intel の可能性について重要な洞察を提供します。

出典と画像

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です