大手コンピューティングインフラストラクチャプロバイダーであるNebiusの専門家がAlphaSenseとの対談で語ったところによると、人工知能（AI）コンピューティングの状況は急速に変化している。AIコンピューティングの機能が拡大するにつれ、NVIDIAは高度なグラフィックス処理ユニット（GPU）で業界を支配し続けている。しかし、特に市場が価格モデルへのアプローチを変えるにつれて、代替製品も登場しつつある。
コスト指標の変化に伴い、NVIDIAチップに代わる選択肢が増加
AIインフラ分野における価格設定は、使用するGPUの種類と、容量を事前に予約するかオンデマンドで利用するかによって左右されます。例えば、NVIDIAのH100 GPUはオンデマンド利用で1時間あたり2.95ドルですが、より新しいH200は1時間あたり3.50ドルです。最新のBlackwell B200は1時間あたり4.90ドルから6.50ドルの価格帯となっています。
一方、組織が1～2年の契約期間で最低1万GPUを確保し、予約容量を設定する場合、コストは大幅に削減されます。この契約形態では、H100は1時間あたり1.50ドル、H200は2.20ドル、B200は最低3.50ドルとなります。この大幅なコスト削減は、運用コスト管理における長期契約の戦略的なメリットを明確に示しています。
エンタープライズの変革：推論とトークンベース価格設定の台頭
重要な展開として、NVIDIAは2025年末にGroqと重要なライセンス契約を締結しました。これは同社にとって過去最大の契約であり、AI推論技術への注力をさらに強化するものです。Nebiusの専門家の見解によると、現在、推論は企業ワークロード需要全体の90%から95%を占めています。この変化は、企業が独自のソフトウェアを開発するのではなく、事前学習済みモデルやAPIを活用する傾向が高まっていることを反映しています。
さらに、トレーニングから推論への移行に伴い、AIインフラストラクチャのコスト構造を包括的に再評価する必要が生じています。専門家は、この変化は単なるトレンドではなく、企業がコンピューティングリソースを評価・展開する方法における根本的な変化を表していると強調しました。
トークン100万個あたりのコスト：NVIDIAとGroqの比較分析
企業がこの新たなコスト構造へと移行するにつれ、トークン単位、特に100万トークン単位での価格設定がますます一般的になってきている。注目すべきは、Groqのチップがより経済的な選択肢となっており、100万トークンあたり5～10セントという価格設定となっている点だ。一方、NVIDIAのB100、B200、B300といった製品は、100万トークンあたり25セントとかなり高額な価格設定となっている。
Groqのチップはコスト効率に優れているだけでなく、処理速度においてもNVIDIAの競合製品を凌駕しており、最大800トークン/秒の処理能力を実現しています。これはNVIDIA GPUの450トークン/秒のほぼ2倍に相当します。この手頃な価格と高性能の組み合わせにより、Groqは市場で競争力のある地位を確立しています。
| メトリック | NVIDIA（Blackwell B200） | Groq LPU |
| コスト（100万トークンあたり） | 0.25ドル | 0.10ドル（60%割引） |
| スループット（トークン/秒） | 450 | 800（77%高速化） |
| 主な業務量 | 重訓練／企業 | 高速推論 |
$NBISの従業員へのインタビューで、代替推論チップが$NVDAの優位性（$CRWV、$GOOGL）に挑戦し始めている理由について：専門家は、ほとんどの企業がAPIまたは事前学習済みモデルに依存していることを考えると、推論が現在エンタープライズワークロードの約90～95％を占めていると指摘しています… pic.twitter.com/qINeuptisu
— AlphaSense (@AlphaSenseInc) 2026年4月23日
詳細については、元の情報源を参照してください。
コメントを残す