Firma Micron zaprezentowała przełomowe osiągnięcie w sektorze technologii pamięci, wprowadzając na rynek moduły pamięci SOCAMM2, które obiecują zwiększoną pojemność i lepszą efektywność energetyczną.
SOCAMM2 firmy Micron: rozwiązywanie problemów z wąskimi gardłami pamięci i obniżanie opóźnień dzięki pamięci podręcznej KV
Wraz z rozwojem aplikacji sztucznej inteligencji, problem wąskiego gardła pamięci narasta z powodu rosnących obciążeń. To wyzwanie skłoniło producentów pamięci DRAM do priorytetowego traktowania innowacji w zakresie pamięci o dużej przepustowości (HBM) i innych rozwiązań pamięciowych zorientowanych na sztuczną inteligencję. W niedawnym ogłoszeniu firma Micron poinformowała o przełomowym osiągnięciu w postaci modułów SOCAMM2, których pojemność wynosi 256 GB na moduł. To rozwiązanie stanowi znaczny wzrost w porównaniu z poprzednim limitem 192 GB, pozwalając SOCAMM2 odegrać kluczową rolę w nowoczesnej infrastrukturze AI poprzez rozwiązanie istniejących ograniczeń pamięci.
Osiągnięcia firmy Micron w dostarczaniu pamięci o dużej pojemności i przepustowości przy mniejszym zużyciu energii niż tradycyjna pamięć serwerowa z 256 GB pamięci SOCAMM2 umożliwiają rozwój kolejnej generacji procesorów AI.
– Ian Finder, szef produktu, procesory do centrów danych w firmie NVIDIA
Najnowsza iteracja SOCAMM2 prezentuje postęp, dzięki któremu pojedyncza monolityczna kość LPDRAM może osiągnąć pojemność 32 GB. W rezultacie moduł 256 GB zapewnia do 2 TB pamięci LPDRAM na 8-kanałowy procesor, usprawniając możliwości serwerów AI w zakresie efektywnego przetwarzania wydłużonych okien kontekstowych. Co więcej, firma Micron wskazała, że czas do pierwszego tokena (TTFT) dla wnioskowania w długim kontekście poprawił się 2, 3-krotnie, co znacząco poprawia wydajność obciążeń skoncentrowanych na aplikacjach agentowych.
Technologia SOCAMM2 została opracowana we współpracy z firmą NVIDIA, a wcześniejsze dyskusje wskazywały, że infrastruktura sztucznej inteligencji Vera Rubin będzie jednym z pierwszych zastosowań tego standardu pamięci. W dynamicznym obszarze sztucznej inteligencji, pamięć o wysokiej wydajności staje się coraz ważniejsza dla obciążeń wymagających niskich opóźnień i dużej pojemności kontekstowej. Należy jednak pamiętać, że możliwości SOCAMM2 mogą również wpłynąć na dostępność pamięci DRAM, potencjalnie wpływając na alokację pamięci w produktach ogólnego przeznaczenia, takich jak GDDR7.
Firma Micron potwierdziła, że próbki modułów SOCAMM2 o pojemności 256 GB zostały dostarczone klientom, a demonstracja tego innowacyjnego rozwiązania ma się odbyć na targach GTC 2026.