Poznaj NVIDIA Vera Rubin: jeden z najbardziej złożonych systemów AI na świecie z milionem zintegrowanych komponentów

Poznaj NVIDIA Vera Rubin: jeden z najbardziej złożonych systemów AI na świecie z milionem zintegrowanych komponentów

Firma NVIDIA rozpoczęła pełnoskalową produkcję nowej generacji architektury Vera Rubin, co stanowi dogłębną analizę złożonej konstrukcji systemu rack i kluczowych komponentów.

Poznaj Verę Rubin firmy NVIDIA: ulepszone układy, zaawansowane chłodzenie cieczą i zaawansowana technologia NVLink 6

Wprowadzenie Vera Rubin oznacza znaczący krok naprzód w technologii szaf rackowych dla firmy NVIDIA. Najnowsze informacje z filmu CNBC przedstawiają szczegółową analizę jego architektury, w tym komponentów takich jak główny węzeł obliczeniowy oraz krytyczne systemy sieciowe i chłodzenia. Warto zauważyć, że starszy dyrektor ds.infrastruktury w firmie NVIDIA, Dion Harris, określił system Vera Rubin jako jeden z „najbardziej złożonych systemów AI na świecie”, podkreślając trudny charakter jego wdrożenia.

Ponieważ wkrótce spodziewane są zobowiązania klientów dotyczące systemu Vera Rubin, zrozumienie struktury szafy rack NVL72 jest kluczowe. Podstawą tej architektury jest układ Vera Rubin SuperChip. Wcześniej omawialiśmy jego specyfikację techniczną, podkreślając znaczący postęp osiągnięty dzięki integracji pamięci HBM4 z procesorem graficznym, uzupełnionej o specjalistyczne moduły SOCAMM. Ta innowacja zapewnia imponującą przepustowość pamięci na poziomie 1, 2 TB/s.

Zbliżenie układu NVIDIA oznaczonego jako „B_KR 2546-P” i „E6A382. OA2 e1” na płytce drukowanej.

Vera Rubin wprowadza również znaczące udoskonalenia w technologii chłodzenia, oferując modułowe rozwiązania chłodzenia cieczą, które obsługują komponenty SuperChip, takie jak procesor graficzny Rubin i procesor Vera, za pomocą dedykowanych płyt chłodzących. Liderzy firmy NVIDIA zapewniają, że to innowacyjne podejście do chłodzenia zachęci operatorów systemów hiperskalowych do stosowania bardziej zaawansowanych systemów chłodzenia cieczą. Ponadto, obecne rozwiązania sprzyjają zmniejszeniu zużycia wody, co przekłada się na kolejną korzyść dla środowiska.

Zbliżenie na szafę serwerową z wieloma widocznymi komponentami na czarnym stole, z metalową obudową i chłodzeniem.Osoba trzymająca wewnętrzne podzespoły niemarkowego urządzenia elektronicznego, prezentująca liczne połączenia.

Technologia NVLink to kolejny kluczowy element konfiguracji Vera Rubin NVL72. Dzięki połączeniu szóstej generacji, powszechnie nazywanemu „NVLink Spine”, NVIDIA dąży do zapewnienia imponującej łącznej przepustowości 260 TB/s na szafę. Harris podkreśla, że ​​najnowsza wersja NVLink podnosi poziom modułowej konstrukcji, ułatwiając konserwację bez przestojów i zwiększając niezawodność dzięki usługom RAS na poziomie szafy.

Płytka drukowana zawierająca wiele układów NVIDIA z zielonymi radiatorami i otaczającymi je komponentami.

Chociaż wstępne prognozy wskazują, że system Vera Rubin może wiązać się z wyższą ceną, NVIDIA zapewnia, że ​​ta architektura umożliwia dziesięciokrotne obniżenie kosztów tokenów inferencyjnych i czterokrotne zmniejszenie liczby procesorów graficznych potrzebnych do szkolenia modeli Mixture of Experts (MoE) w porównaniu z Blackwell GB200. Jest to zgodne z filozofią prezesa NVIDIA, zgodnie z którą większa inwestycja przynosi większe oszczędności.

Źródło i obrazy

Dodaj komentarz

Twój adres e-mail nie zostanie opublikowany. Wymagane pola są oznaczone *