La NVIDIA HGX B200 de Super Micro Computer alcanza más del triple de tokens por segundo en los benchmarks Llama2-70b y Llama3.1-405b en comparación con los sistemas H200 de 8 GPU.

Tenga en cuenta que este contenido no constituye asesoramiento de inversión. El autor no mantiene posiciones en las acciones aquí analizadas.

La resiliencia de las supermicrocomputadoras en el mercado tecnológico

A pesar de la turbulencia que afecta al sector tecnológico, Super Micro Computer (NASDAQ: SMCI) ha logrado un alza del 6% este año. Este rendimiento es notable, especialmente considerando los desafíos que enfrentan las grandes empresas en el panorama económico actual. Recientemente, Goldman Sachs reconoció a SMCI como la acción con mejor rendimiento en la categoría de hardware. En otra muestra de innovación, Super Micro ha anunciado un avance significativo en las capacidades de IA de sus sistemas con la GPU B200 de NVIDIA.

Anuncio de liderazgo en rendimiento de IA

Super Micro ahora presenta sus sistemas 4U de refrigeración líquida y 10U de refrigeración por aire como sistemas de alto rendimiento, afirmando que generan más del triple de tokens por segundo (Token/s) para las pruebas de rendimiento Llama2-70B y Llama3.1-405B en comparación con los sistemas H200 de 8 GPU. Este salto en el rendimiento demuestra el compromiso de la compañía con el avance de la tecnología de IA.

“Dentro del margen operativo, el sistema B200 refrigerado por aire de Supermicro exhibió el mismo nivel de rendimiento que el sistema B200 refrigerado por líquido”.

Tecnologías de refrigeración innovadoras

Los últimos sistemas NVIDIA HGX B200 de Super Micro están diseñados con tecnologías de refrigeración avanzadas, que incluyen placas frías de nuevo diseño y una unidad de distribución de refrigerante de 250 kW. Este innovador diseño emplea colectores de distribución de refrigerante verticales, lo que maximiza la eficiencia del espacio en rack. Como resultado, puede alojar **ocho sistemas** con un total de **64 GPU NVIDIA Blackwell** en un **rack de 42 U**, o incluso **12 sistemas** con **96 GPU NVIDIA Blackwell** en un **rack de 52 U**.

El nuevo sistema NVIDIA HGX B200 de 10U con refrigeración por aire cuenta con un chasis rediseñado con mayor margen térmico para alojar ocho GPU Blackwell con un TDP de 1000 W. Se pueden instalar e integrar completamente en un rack hasta cuatro de los nuevos sistemas de 10U con refrigeración por aire, con la misma densidad que la generación anterior, y ofrece hasta 15 veces más inferencia y 3 veces más rendimiento de entrenamiento.

Comprensión de la medición de la altura del servidor

Para aquellos que no están familiarizados, la medida “U” se refiere a la altura del servidor, donde 1U equivale a 1, 75 pulgadas.

El cambio estratégico de Apple

En un desarrollo reciente, Loop Capital reveló que Apple está haciendo su ingreso al «gran mercado de clústeres de servidores Gen AI».Este giro estratégico surge en respuesta a los desafíos recientes, particularmente en torno a Siri, que empujan a la empresa hacia las GPU comerciales de NVIDIA.

“AAPL [Apple] está en proceso de realizar pedidos por aproximadamente USD 1.000 millones en GB300NVL72 (o aproximadamente 250 servidores a USD 3, 7 millones – USD 4, 0 millones cada uno) compuestos tanto por SMCI [Super Micro Computer] como por DELL”.

Este importante pedido supone un éxito significativo tanto para Super Micro Computer como para Dell, que actualmente son proveedores líderes en el floreciente mercado de racks para servidores de IA.

Fuente e imágenes