Morgan Stanley rapporte que les racks NVIDIA GB200 NVL72 atteignent une marge bénéficiaire de 77,6 % par rapport à la marge de -64 % de l’AMD MI355X, avec un coût total de possession similaire

Ce contenu ne constitue pas un conseil en investissement. L’auteur ne détient aucune position sur les actions mentionnées ici.

Comprendre l’économie des GPU et l’efficacité de l’usine d’IA

Dans un contexte économique fluctuant, Morgan Stanley a publié une analyse convaincante soulignant l’efficacité exceptionnelle des GPU NVL72 GB200 de NVIDIA pour alimenter les usines d’IA à grande échelle. Cette analyse est particulièrement pertinente pour les acteurs impliqués dans les décisions d’investissement ou les avancées technologiques en matière d’infrastructures d’IA.

Composants clés des racks NVL72 AI

Pour clarifier, chaque rack NVL72 AI intègre 72 GPU NVIDIA B200 et 36 CPU Grace, interconnectés grâce à la technologie avancée NVLink 5, conçue pour une bande passante élevée et une faible latence. Il est à noter que le coût actuel d’un tel rack serveur dépasse $3.1 million, ce qui contraste fortement avec celui $190, 000d’un rack H100.

Malgré l’investissement initial plus élevé, Morgan Stanley soutient que le choix de la dernière solution à l’échelle du rack de NVIDIA offre des avantages économiques supérieurs par rapport à l’ancienne génération H100k, en phase avec les exigences du marché contemporain.

Informations sur la rentabilité

Selon les calculs de Morgan Stanley, les systèmes NVL72 GB200 de NVIDIA surpassent leurs concurrents en termes de rentabilité et de génération de revenus. Les modules TPU v6e développés par Google se classent juste derrière les offres de NVIDIA, comme l’illustre le graphique de rentabilité suivant pour une période théorique 100MW AI factory.

Graphique de la rentabilité d'une usine d'IA de 100 MW par rack de serveur montrant la marge bénéficiaire et la comparaison des coûts.

Plus précisément, les racks GB200 NVL72 AI peuvent générer une marge bénéficiaire impressionnante de 77, 6 %, tandis que le TPU v6e de Google atteint une marge proche de 74, 9 %.

Comparaisons des coûts et dynamique du marché

Bien que les prix des modules TPU v6e de Google ne soient pas encore disponibles publiquement, il est généralement noté que les coûts de location des modules TPU sont environ 40 à 50 % inférieurs à ceux des racks NVL72.

Position d’AMD sur le marché

Le rapport de Morgan Stanley indique en outre une tendance inquiétante pour les usines d’IA utilisant les technologies MI300 et MI355 d’AMD, qui devraient générer des marges bénéficiaires négatives de -28.2 percentet -64 percent, respectivement.

Analyse du coût total de possession

L’analyse suppose que la mise en place d’un système 100MW AI data centerinclut des coûts d’infrastructure d’environ $660 million, amortis sur une décennie. Les dépenses liées aux GPU peuvent fluctuer considérablement, allant de $367 millionà $2.273 billionavec une période d’amortissement de quatre ans. De plus, les coûts d’exploitation tiennent compte des gains d’efficacité énergétique des systèmes de refroidissement, ajustés aux tarifs mondiaux de l’électricité.

Dans ce contexte, les systèmes GB200 NVL72 de NVIDIA présentent le coût total de possession (TCO) le plus élevé, calculé à $806.58 million, suivi de près par la plate-forme MI355X à $774.11 million.

Source et images