Meta zamierza sprostać swoim rozbudowanym wymaganiom w zakresie sztucznej inteligencji (AI) poprzez strategiczną współpracę z Broadcom, skupiając się na wspólnym opracowywaniu układów scalonych AI nowej generacji, zwanych „XPU”.
Meta i Broadcom łączą siły, aby stworzyć ekosystem AI o mocy wielu gigawatów z niestandardowymi układami scalonymi „XPU” dla sztucznej inteligencji
W zeszłym miesiącu Meta wprowadziła na rynek cztery wyspecjalizowane układy scalone AI w ramach swojej linii MTIA AI, zaprojektowane specjalnie z myślą o optymalizacji różnych zadań związanych ze sztuczną inteligencją. Te jednostki XPU, integrujące wiele właściwości intelektualnych, są dostosowane do różnych obciążeń, obejmujących wnioskowanie generatywnej sztucznej inteligencji, zadania ogólnego przeznaczenia oraz funkcje treningowe. Poniżej przedstawiono specyfikację każdego układu:
| Metryczny | ŚCIEŻKA 300 | ŚCIEŻKA 400 | ŚCIEŻKA 450 | ŚCIEŻKA 500 |
| Skupienie się na obciążeniu pracą | Szkolenie R&R | Ogólny | Wnioskowanie GenAI | Wnioskowanie GenAI |
| Moduł TDP | 800 W | 1200 W | 1400 W | 1700 W |
| Szerokość pasma HBM | 6, 1 TB/s | 9, 2 TB/s | 18, 4 TB/s | 27, 6 TB/s |
| Pojemność HBM | 216 GB | 288 GB | 288 GB | 384-512 GB |
| Wydajność MX4 | — | 12 PFLOP-ów | 21 PFLOP-ów | 30 PFLOP-ów |
| Wydajność FP8/MX8 | 1, 2 PFLOP-ów | 6 PFLOP-ów | 7 PFLOP-ów | 10 PFLOP-ów |
| Wydajność BF16 | 0, 6 PFLOP-ów | 3 PFLOP-y | 3, 5 PFLOP-ów | 5 PFLOP-ów |
| Skalowanie rozmiaru domeny | 16 | 72 | 72 | 72 |
| Sieć skalowalna (jednokierunkowa przepustowość)* | 1 TB/s | 1, 2 TB/s | 1, 2 TB/s | 1, 2 TB/s |
| Sieć skalowalna (jednokierunkowa przepustowość)* | 200 GB/s** | 100 GB/s | 100 GB/s | 100 GB/s |
W niedawnym ogłoszeniu firma Meta ujawniła swoje zaangażowanie w rozwój niestandardowych układów MTIA we współpracy z Broadcom. To strategiczne partnerstwo obejmie projektowanie układów scalonych, zaawansowane obudowy i rozwiązania sieciowe na przestrzeni kilku lat, co zaowocuje powstaniem wielu niestandardowych projektów XPU.
Początkowa faza tego ambitnego partnerstwa ma na celu stworzenie ekosystemu sztucznej inteligencji (AI) o mocy przekraczającej 1 gigawat. Meta pozycjonuje się, aby bezpośrednio konkurować z istniejącymi rozwiązaniami rynkowymi, dążąc do konsekwentnego wprowadzania na rynek wielu produktów rocznie, aby sprostać rosnącym potrzebom.
Informacja prasowa: Firma Meta ogłosiła dziś rozszerzenie współpracy z Broadcom w celu wspólnego opracowania wielu generacji układów scalonych MTIA (Meta Training and Inference Accelerator) nowej generacji. Ten niestandardowy układ scalony zwiększy możliwości sztucznej inteligencji we wszystkich aplikacjach i usługach Meta.
Broadcom będzie współpracować w zakresie projektowania układów scalonych, zaawansowanej obudowy i sieci, tworząc fundamentalną strukturę obliczeniową niezbędną do dostarczania interakcji AI w czasie rzeczywistym konsumentom na całym świecie. Partnerstwo wykorzystuje platformę XPU firmy Broadcom, zaprojektowaną specjalnie do tworzenia niestandardowych akceleratorów AI, optymalizujących infrastrukturę AI firmy Meta w przyszłych generacjach układów scalonych. Ponadto, zaawansowane technologie Ethernet ułatwią tworzenie sieci o wysokiej przepustowości dla szybko rozwijających się klastrów obliczeniowych AI firmy Meta.
Umowa zakłada zobowiązanie do przekroczenia 1 gigawata w ramach ustrukturyzowanej strategii wdrażania technologii o mocy wielu gigawatów. Umacnia to wspólną mapę drogową mającą na celu wspólne projektowanie i skalowanie niezbędnego sprzętu, aby ułatwić powstanie osobistej superinteligencji dla miliardów ludzi na całym świecie.
„Z przyjemnością rozszerzamy naszą strategiczną współpracę z firmą Meta, która wyznacza nowe trendy w dziedzinie sztucznej inteligencji” – powiedział Hock Tan, prezes i dyrektor generalny Broadcom.„To pierwsze wdrożenie MTIA to dopiero początek zrównoważonego, wielogeneracyjnego planu działania, który ma na celu realizację trajektorii ogromnego wzrostu w ciągu najbliższych kilku lat. Plan ten podkreśla niezrównaną pozycję Broadcom w dziedzinie sieci AI oraz moc naszej fundamentalnej, niestandardowej platformy akceleratora XPU”.
„Meta współpracuje z Broadcom w zakresie projektowania układów scalonych, ich obudów i sieci, aby zbudować potężny fundament obliczeniowy, którego potrzebujemy, aby zapewnić osobistą superinteligencję miliardom ludzi” – powiedział założyciel i dyrektor generalny Meta, Mark Zuckerberg.„Wprowadzając na rynek ponad 1 gigawat naszego niestandardowego układu scalonego, a następnie kolejne gigawaty z czasem, ta współpraca zapewni nam większą wydajność i efektywność wszystkiego, co budujemy”.
Rozszerzona współpraca z Broadcom, w połączeniu z rozwojem MTIA, jest kluczowa dla ogólnej strategii firmy Meta w zakresie infrastruktury sztucznej inteligencji, podkreślając konieczność stworzenia dostosowanego fundamentu obliczeniowego, który będzie w stanie wspierać długoterminowe aspiracje firmy w zakresie sztucznej inteligencji na skalę globalną.