Morgan Stanley informa que los racks NVIDIA GB200 NVL72 alcanzan un margen de beneficio del 77,6 % en comparación con el margen del -64 % del AMD MI355X, con un coste total de propiedad similar.

Este contenido no constituye asesoramiento de inversión. El autor no mantiene posiciones en las acciones aquí mencionadas.

Comprensión de la economía de la GPU y la eficiencia de la fábrica de IA

En medio de la fluctuante dinámica económica de las GPU, Morgan Stanley ha publicado un análisis convincente que destaca la excepcional eficiencia de las GPU NVL72 GB200 de NVIDIA para impulsar fábricas de IA a gran escala. Esta información es especialmente relevante para las partes interesadas en decisiones de inversión o avances tecnológicos en infraestructura de IA.

Componentes clave de los racks de IA NVL72

Para mayor claridad, cada rack NVL72 AI integra 72 GPU NVIDIA B200 y 36 CPU Grace, interconectadas mediante la avanzada tecnología NVLink 5, diseñada para un alto ancho de banda y baja latencia. Cabe destacar que el costo actual de un rack de servidores de este tipo supera los $3.1 million£, en marcado contraste con el $190, 000de un rack H100.

A pesar de la mayor inversión inicial, Morgan Stanley sostiene que elegir la última solución a escala de rack de NVIDIA ofrece ventajas económicas superiores sobre la generación anterior H100k, alineándose con las demandas del mercado actual.

Perspectivas de rentabilidad

Según los cálculos de Morgan Stanley, los sistemas GB200 NVL72 de NVIDIA superan a la competencia en términos de rentabilidad y generación de ingresos. Los pods TPU v6e desarrollados por Google se sitúan justo por detrás de los de NVIDIA, como se ilustra en el siguiente gráfico de rentabilidad para un valor teórico 100MW AI factory.

Gráfico de la rentabilidad de una fábrica de IA de 100 MW por rack de servidores que muestra el margen de beneficio y la comparación de costes.

En concreto, los racks GB200 NVL72 AI pueden producir un impresionante margen de beneficio del 77, 6 por ciento, mientras que el TPU v6e de Google consigue un margen cercano al 74, 9 por ciento.

Comparaciones de costos y dinámica del mercado

Si bien los precios de los pods TPU v6e de Google aún no están disponibles públicamente, en general se observa que los costos de alquiler de los pods TPU son aproximadamente entre un 40 y un 50 por ciento menores que los de los racks NVL72.

La posición de AMD en el mercado

El informe de Morgan Stanley indica además una tendencia preocupante para las fábricas de IA que utilizan las tecnologías MI300 y MI355 de AMD, que se proyecta que tendrán márgenes de ganancia negativos de y, respectivamente.-28.2 percent-64 percent

Análisis del costo total de propiedad

El análisis asume que el establecimiento de una GPU 100MW AI data centerincluye costos de infraestructura de aproximadamente [número] $660 million, amortizados en una década. Los gastos de la GPU pueden fluctuar considerablemente, desde [número] hasta [número], $367 millioncon $2.273 billionun período de depreciación de cuatro años. Además, los costos operativos consideran la eficiencia energética de los sistemas de refrigeración ajustados a las tarifas eléctricas globales.

En este contexto, los sistemas GB200 NVL72 de NVIDIA presentan el mayor costo total de propiedad (TCO), calculado en $806.58 million, seguido de cerca por la plataforma MI355X en $774.11 million.

Fuente e imágenes