Karta graficzna NVIDIA HGX B200 firmy Super Micro Computer osiąga ponad 3-krotnie większą liczbę tokenów na sekundę w testach Llama2-70b i Llama3.1-405b w porównaniu do systemów H200 z 8 procesorami graficznymi

Należy pamiętać, że niniejsza treść nie stanowi porady inwestycyjnej. Autor nie posiada żadnych pozycji w akcjach omawianych w niniejszym dokumencie.

Odporność supermikrokomputerów na rynku technologicznym

Pomimo turbulencji wpływających na sektor technologiczny, Super Micro Computer (NASDAQ: SMCI) zdołał w tym roku wzrosnąć o 6%.Ten wynik jest godny uwagi, zwłaszcza że duże firmy stają w obliczu wyzwań w obecnym krajobrazie gospodarczym. Niedawno Goldman Sachs uznał SMCI za „najlepiej prosperującą akcję” w kategorii sprzętu. W kolejnym pokazie innowacji, Super Micro ogłosiło znaczący postęp w zakresie możliwości AI swoich systemów zasilanych przez GPU B200 firmy NVIDIA.

Ogłoszenie o przywództwie w zakresie wydajności AI

Super Micro obecnie ogłasza swoje „4U chłodzone cieczą i 10U chłodzone powietrzem systemy” jako najlepsze, twierdząc, że generują ponad trzy razy więcej tokenów na sekundę (Token/s) dla testów porównawczych Llama2-70B i Llama3.1-405B w porównaniu do systemów H200 8-GPU. Ten skok wydajności jest dowodem zaangażowania firmy w rozwój technologii AI.

„W ramach marginesu operacyjnego chłodzony powietrzem system B200 firmy Supermicro wykazał ten sam poziom wydajności, co chłodzony cieczą system B200”.

Innowacyjne technologie chłodzenia

Najnowsze systemy NVIDIA HGX B200 firmy Super Micro zostały zaprojektowane z wykorzystaniem zaawansowanych technologii chłodzenia, w tym nowo zaprojektowanych płyt chłodzących i jednostki dystrybucji chłodziwa o mocy 250 kW. Ta innowacyjna konstrukcja wykorzystuje pionowe kolektory dystrybucji chłodziwa, maksymalizując wydajność przestrzeni w szafie. W rezultacie może pomieścić **osiem systemów** z łącznie **64 procesorami graficznymi NVIDIA Blackwell** w szafie **42U** lub nawet **12 systemów** z **96 procesorami graficznymi NVIDIA Blackwell** w szafie **52U**.

„Nowy chłodzony powietrzem system NVIDIA HGX B200 10U ma przeprojektowaną obudowę z rozszerzonym zapasem termicznym, aby pomieścić osiem procesorów graficznych Blackwell o TDP 1000 W. Do 4 nowych chłodzonych powietrzem systemów 10U można zainstalować i w pełni zintegrować w szafie, z tą samą gęstością co poprzednia generacja, zapewniając jednocześnie do 15x wnioskowania i 3x wydajność szkolenia”.

Zrozumienie pomiaru wysokości serwera

Dla tych, którzy nie wiedzą, pomiar „U” odnosi się do wysokości serwera, gdzie 1 U odpowiada 1, 75 cala.

Strategiczna zmiana Apple

W niedawnym wydarzeniu firma Loop Capital ujawniła, że Apple wkracza na „rynek dużych klastrów serwerów AI”.Ten strategiczny zwrot jest odpowiedzią na ostatnie wyzwania, w szczególności związane z Siri, które skłaniają firmę do zwrócenia się w stronę komercyjnych procesorów graficznych firmy NVIDIA.

„AAPL [Apple] jest w trakcie składania zamówień na ~1, 0 mld dolarów GB300NVL72 (lub ~250 serwerów w cenie 3, 7–4, 0 mln dolarów każdy), obejmujących zarówno SMCI [Super Micro Computer], jak i DELL.”

To duże zamówienie oznacza znaczący sukces zarówno dla Super Micro Computer, jak i Dell, którzy obecnie są wiodącymi dostawcami na rozwijającym się rynku szaf serwerowych dla sztucznej inteligencji.

Źródło i obrazy