Zaskakujący wpływ narzędzia TurboQuant firmy Google na zapotrzebowanie na pamięć: spostrzeżenia badacza

Sektor pamięci doświadczył ostatnio znacznych wahań, szczególnie po wprowadzeniu TurboQuant firmy Google. Jednak panujące przekonanie, że to wprowadzenie oznacza koniec niedoborów pamięci, jest w dużej mierze postrzegane jako nieporozumienie.

Ograniczony wpływ TurboQuant na zapotrzebowanie na pamięć: trwający supercykl

Chociaż w ciągu ostatnich kilku dni nastąpił zauważalny spadek cen pamięci DDR – i pojawiły się dyskusje na temat implikacji algorytmu TurboQuant firmy Google – „Financial Times” podkreśla, że łączenie tego zjawiska z końcem niedoborów pamięci jest błędne. Aktualne wskaźniki, w tym raporty o przychodach i prognozy przyszłego popytu, zdecydowanie sugerują, że niedobór pamięci będzie się utrzymywał w dającej się przewidzieć przyszłości.

TurboQuant „potencjalnie obniża koszty obsługi dużych modeli językowych od czterech do ośmiu razy” – stwierdził Kwon Seok-joon, profesor Uniwersytetu Sungkyunkwan w Seulu.„Na pierwszy rzut oka wydaje się to stanowić zagrożenie dla popytu na układy pamięci o dużej przepustowości”.

Kwon dodał jednak, że „znacznie tańsze wnioskowanie pozwala odblokować obciążenia, których uruchomienie wcześniej było zbyt kosztowne”, takie jak asystenci kodowania w czasie rzeczywistym i jednoczesna obsługa wielu agentów AI, co z kolei zwiększa, a nie zmniejsza, całkowite zapotrzebowanie na moc obliczeniową.

– Financial Times

Zagłębienie się w techniczne aspekty TurboQuant znacznie poszerzyłoby tę analizę. Zasadniczo algorytm kompresji ułatwia obsługę dużych modeli językowych (LLM) na akceleratorach, minimalizując jednocześnie zużycie pamięci, a tym samym optymalizując wydajność. Eksperci porównują TurboQuant do paradoksu Jevona. Jednak w rzeczywistości przejście od agresywnego popytu do powszechnego wykorzystania sugeruje wydłużenie obecnego cyklu. Tendencja ta jest widoczna, ponieważ producenci pamięci DRAM inicjują wieloletnie umowy z głównymi dostawcami hiperskalerów, aby uzyskać lepszy wgląd w wzorce popytu.

Dwa moduły pamięci Hynix 2GB 1Rx8 PC4N-19000S oznaczone etykietą „HMA325S7MFR8C - UG NO AA” umieszczone na żywej powierzchni płytki krzemowej. — Źródła obrazu: SK hynix

W swoim najnowszym raporcie dotyczącym przychodów za pierwszy kwartał, Samsung poinformował o imponujących 37 miliardach dolarów wygenerowanych wyłącznie z segmentu DRAM, a wyniki operacyjne dorównują wynikom czołowych producentów pamięci hiperskalowalnych. Co więcej, prognozy wskazują, że ceny kontraktów na pamięć DRAM wzrosną w nadchodzących kwartałach. Wraz z rozwojem rynku pamięci staje się coraz bardziej oczywiste, że żaden podmiot działający w sferze sztucznej inteligencji nie może prosperować bez wystarczających zasobów pamięci. Michael Dell, dyrektor generalny Dell Technologies, zwrócił ostatnio uwagę na potencjał gwałtownego wzrostu popytu, napędzanego znacznym wzrostem wykorzystania pamięci na procesor.

Jeśli nowe moce produkcyjne nie zostaną utworzone i uruchomione, złagodzenie niedoborów pamięci wydaje się mało prawdopodobne. Z tego punktu widzenia wydaje się zatem, że niedobór pamięci może pozostać wyzwaniem do drugiej połowy 2027 roku, a potencjalnie nawet dłużej, w zależności od tempa, w jakim dostawcy będą w stanie uruchomić nowe linie produkcyjne.

Źródło i obrazy