AMD i Qualcomm pracują nad technologią pamięci „SOCAMM” dla produktów AI nowej generacji, idąc w ślady firmy NVIDIA

AMD i Qualcomm aktywnie badają integrację pamięci SOCAMM ze swoimi rozwiązaniami sztucznej inteligencji (AI).Badania te są odpowiedzią na ciągłe wyzwania związane z ograniczeniami pamięci, które utrudniają działanie obecnych systemów AI.

Wdrażanie pamięci SOCAMM: od firmy NVIDIA do konkurencji

Początkowo opracowany z myślą o firmie NVIDIA, standard pamięci SOCAMM szybko zyskał popularność wśród produktów firmy. Dla osób niezaznajomionych z tym standardem, SOCAMM opiera się na technologii DRAM LPDDR, powszechnie stosowanej w urządzeniach mobilnych i energooszczędnych. Tym, co wyróżnia SOCAMM na tle alternatywnych rozwiązań, takich jak pamięć o dużej przepustowości (HBM) i LPDDR5X, jest możliwość rozbudowy. W przeciwieństwie do tradycyjnych komponentów lutowanych, SOCAMM można łatwiej wymienić lub rozbudować, co czyni go atrakcyjną alternatywą dla pamięci HBM w zadaniach wymagających dużej ilości pamięci.

Najnowsze informacje z raportu Hankyung wskazują, że zarówno AMD, jak i Qualcomm planują włączenie modułów SOCAMM do swoich nadchodzących architektur systemów AI. Warto zauważyć, że firmy te badają unikalną strategię projektową, różniącą się od implementacji NVIDII. Ich podejście polega na stworzeniu „kwadratowego” modułu z dwoma modułami DRAM ułożonymi w równoległych rzędach. Projekt ten ma na celu usprawnienie zarządzania energią bezpośrednio w module poprzez zintegrowany układ zarządzania energią (PMIC), ułatwiając efektywną regulację mocy i zapewniając szybką pracę bez komplikacji.

Wraz z rosnącą popularnością SOCAMM, spodziewany jest wzrost zapotrzebowania na ten typ pamięci, napędzany głównie przez wymagania aplikacji AI opartych na agentach. Dostępność terabajtów pamięci na procesor umożliwia agentom AI efektywne zarządzanie milionami aktywnych tokenów. Chociaż przepustowość SOCAMM może nie dorównywać przepustowości HBM, jej parametry wydajnościowe sprawiają, że jest to opłacalna i energooszczędna opcja.

Obecnie NVIDIA planuje wykorzystać technologię SOCAMM 2 w swoich klastrach AI Vera Rubin. Biorąc pod uwagę, że AMD i Qualcomm również badają tę technologię pamięci, obserwatorzy branży mogą spodziewać się jej włączenia do swoich klastrów AI nowej generacji, co potencjalnie zwiększy wydajność przyszłych aplikacji AI.

Źródło i obrazy