Intel i SambaNova łączą siły, aby konkurować z firmą Groq firmy NVIDIA w zakresie rozwiązań wnioskowania AI

Intel i SambaNova łączą siły, aby konkurować z firmą Groq firmy NVIDIA w zakresie rozwiązań wnioskowania AI

W ciągle ewoluującym krajobrazie sztucznej inteligencji (AI), rozwiązania inferencyjne zyskują coraz większe zainteresowanie dostawców rozwiązań komputerowych. Po niedawnym partnerstwie między NVIDIA i Groq, społeczność AI dostrzegła pilną potrzebę zróżnicowanego podejścia wykraczającego poza tradycyjne procesory graficzne. W tym kontekście pojawia się rozwijająca się współpraca między Intelem a SambaNova.

Procesory Intel Xeon 6 będą służyć jako hosty dla systemów agentowych, opartych na układzie SN50 firmy SambaNova do wnioskowania

Podczas niedawnego wydarzenia GTC firmy NVIDIA, koncepcja rozproszonego wnioskowania wysunęła się na pierwszy plan, a producent podkreślił odejście od podejścia skoncentrowanego wyłącznie na GPU. Strategia ta polega na włączeniu do infrastruktury szeregu zaawansowanych jednostek obliczeniowych. Tę ewolucję uwydatnia umowa licencyjna z firmą Groq, która zintegrowała jednostki LPU oparte na pamięci SRAM z szafami LPX Rubina. Intel i SambaNova postanowiły wejść na podobne terytorium, wprowadzając innowacyjną „architekturę wnioskowania”, która łączy jednostki RDU SambaNova z procesorami Intel Xeon 6.

Firma SambaNova ogłosiła najnowszą fazę współpracy z firmą Intel: heterogeniczne rozwiązanie sprzętowe łączące procesory GPU do zadań wstępnego wypełniania, procesory Intel® Xeon® 6 pełniące rolę zarówno procesorów hostów, jak i procesorów „akcji”, a także jednostki RDU SambaNova do dekodowania. Celem jest zapewnienie lepszego wnioskowania w wymagających aplikacjach sztucznej inteligencji opartej na agentach.

– SambaNova

To rozwiązanie oparte na współpracy zostało strategicznie zaprojektowane w celu optymalizacji obciążeń, z jednostkami RDU dedykowanymi do zadań dekodowania, podczas gdy procesory graficzne zarządzają procesami prefill, a procesory Xeon 6 zajmują się koordynacją i ogólnymi zadaniami obliczeniowymi. Co istotne, partnerstwo to nie wiąże się z konkretnym hiperskalerem dla rozwiązań GPU, pozostawiając przestrzeń na potencjalną integrację z układami ASIC. Firma SambaNova nie podała jednak szczegółowych danych dotyczących wydajności GPU w tej konfiguracji. Firma uznaje jednostki SN50 za kluczowe w realizacji „kompleksowych przepływów pracy agentów kodujących”, potwierdzając ich wyższość nad alternatywnymi rozwiązaniami ARM.

Osoba trzyma układ scalony półprzewodnikowy z widocznym napisem „sambanova”, oznaczony napisami „CEREBRAS 500K M2019-05” i „TITANIUM”.
Źródła obrazów: SambaNova

Przyjrzyjmy się teraz bliżej układowi SN50. Zaprezentowane na początku 2026 roku rozwiązanie wykorzystuje jednostki RDU piątej generacji SambaNova, integrując zaawansowane technologie pamięci, takie jak DRAM, SRAM i HBM. Dzięki imponującej pojemności 2 TB pamięci DDR5, 64 GB pamięci HBM3 i 520 MB pamięci SRAM, architektura ta została zaprojektowana z myślą o minimalizacji opóźnień przy jednoczesnej maksymalizacji przepustowości i pojemności. Według SambaNova, unikalne połączenie pamięci DRAM, SRAM i HBM umożliwia tzw.buforowanie agentowe, zapewniając przewagę konkurencyjną w zakresie wydajności przetwarzania.

Tabela porównawcza zatytułowana „Krajobraz: dostarczanie wysokiej jakości wnioskowania na największych obciążeniach” prezentująca dane dla rozwiązań Intel, NVIDIA i Cerebras.
Zrzut ekranu

Porównując strategie Intela i SambaNova ze strategiami NVIDII, pojawia się istotna różnica. Partnerstwo Intela opiera się na bardziej pragmatycznym podejściu, minimalizując zapotrzebowanie na rozbudowaną infrastrukturę bazową, zazwyczaj niezbędną do rozproszonego wnioskowania. To sprawia, że ​​rozwiązanie Intel-SambaNova jest atrakcyjne dla hiperskalerów poszukujących bardziej modułowej oferty w formacie rack, która skutecznie rozwiązuje problem „wstępnego wypełniania i dekodowania”.

Co więcej, prezes Intela aktywnie uczestniczył w najnowszej rundzie finansowania SambaNova, wraz z Lip-Bu Tanem, jednym z pierwszych inwestorów firmy. Chociaż rozmowy na temat przejęcia miały miejsce, podobno zostały wstrzymane z powodu nieporozumień w zarządzie, co skłoniło Intela do podjęcia decyzji o roli uczestnika finansowania.

Źródło i obrazy

Dodaj komentarz

Twój adres e-mail nie zostanie opublikowany. Wymagane pola są oznaczone *