Il panorama del calcolo per l’intelligenza artificiale (IA) si sta evolvendo rapidamente, secondo quanto emerso da una discussione con AlphaSense, condotta da un esperto di Nebius, fornitore leader di infrastrutture di calcolo. Con l’espansione delle capacità di calcolo per l’IA, NVIDIA continua a dominare il settore con le sue unità di elaborazione grafica (GPU) avanzate. Tuttavia, stanno emergendo alternative, soprattutto in un contesto di mercato in cui i modelli di prezzo stanno cambiando.
Proliferano le alternative ai chip NVIDIA in un contesto di metriche di costo in continua evoluzione.
Le dinamiche di prezzo nel settore delle infrastrutture per l’intelligenza artificiale sono influenzate dal tipo di GPU utilizzata e dalla modalità di utilizzo: se la capacità viene prenotata in anticipo o richiesta su richiesta. Ad esempio, le GPU H100 di NVIDIA hanno un costo di 2, 95 dollari all’ora per la capacità su richiesta, mentre la più recente variante H200 costa 3, 50 dollari all’ora. Le ultime Blackwell B200 hanno un prezzo compreso tra 4, 90 e 6, 50 dollari all’ora.
Al contrario, quando le organizzazioni optano per la capacità riservata con un contratto di durata da uno a due anni, con un impegno di almeno 10.000 GPU, i costi si riducono significativamente. In questo caso, i prezzi si stabilizzano a 1, 50 dollari l’ora per le H100, 2, 20 dollari per le H200 e un minimo di 3, 50 dollari per le B200. Questa drastica riduzione dei costi sottolinea i vantaggi strategici dei contratti a lungo termine nella gestione delle spese operative.
Il cambiamento aziendale: l’inferenza e l’ascesa della tariffazione basata su token
In uno sviluppo significativo, NVIDIA ha stipulato un accordo di licenza fondamentale con Groq alla fine del 2025, il più grande accordo mai concluso fino ad oggi e che rafforza la sua attenzione alla tecnologia di inferenza AI. Secondo le analisi degli esperti di Nebius, l’inferenza rappresenta ora una percentuale impressionante, tra il 90% e il 95%, di tutte le richieste di elaborazione dati aziendali. Questo cambiamento riflette la crescente tendenza delle organizzazioni a sfruttare modelli pre-addestrati e API anziché sviluppare software proprietario.
Inoltre, questa transizione dall’addestramento all’inferenza richiede una rivalutazione completa delle strutture dei costi nell’infrastruttura di IA. L’esperto ha sottolineato che questo scenario in evoluzione non è semplicemente una tendenza, ma rappresenta un cambiamento fondamentale nel modo in cui le aziende valutano e impiegano le proprie risorse di calcolo.
Costo per milione di token: analisi comparativa di NVIDIA e Groq
Con il passaggio delle aziende a questa nuova struttura di costi, la determinazione del prezzo per token, in particolare per milione di token, è diventata sempre più diffusa. Sorprendentemente, i chip di Groq rappresentano un’opzione più economica, con un costo compreso tra cinque e dieci centesimi per milione di token. Al contrario, le offerte di NVIDIA, come B100, B200 o B300, hanno un prezzo notevolmente superiore, pari a 25 centesimi per milione di token.
Oltre all’efficienza in termini di costi, i chip di Groq superano le alternative di NVIDIA anche in termini di velocità, con una capacità di elaborazione fino a 800 token al secondo, quasi il doppio dei 450 token al secondo offerti dalle GPU di NVIDIA. Questa combinazione di convenienza e prestazioni posiziona Groq in modo competitivo sul mercato.
| metrico | NVIDIA (Blackwell B200) | Groq LPU |
| Costo (per 1 milione di token) | $0, 25 | $0, 10 (60% più economico) |
| Velocità di trasmissione (token/sec) | 450 | 800 (77% più veloce) |
| Carico di lavoro principale | Addestramento pesante / Impresa | Inferenza ad alta velocità |
Intervista a un dipendente di $NBIS sul perché i chip di inferenza alternativi stanno iniziando a sfidare il dominio di $NVDA ( $CRWV, $GOOGL ):- L’esperto osserva che l’inferenza rappresenta ora circa il 90-95% dei carichi di lavoro aziendali, dato che la maggior parte delle aziende si affida ad API o a modelli pre-addestrati… pic.twitter.com/qINeuptisu
— AlphaSense (@AlphaSenseInc) 23 aprile 2026
Per ulteriori dettagli, fare riferimento alla fonte originale.
Articoli correlati:
Microsoft introduce la Modalità Xbox per tutti i PC Windows 11, unendo l’esperienza di gioco su console e su computer desktop.
20:22
Samsung interrompe la produzione di memorie LPDDR4 a seguito di un aumento degli utili di 50 volte e prevede una crescente carenza di memorie entro il 2027.
19:08
Guida definitiva all’analisi e all’ottimizzazione delle prestazioni del PC con Windrose per un’esperienza PC ottimale.
18:19
Lascia un commento