NVIDIA nie jest zainteresowana technologią pamięci HBF, mimo że nowe stosy 4 TB przewyższają HBM. Google rozpoczyna testowanie w tym roku

NVIDIA nie jest zainteresowana technologią pamięci HBF, mimo że nowe stosy 4 TB przewyższają HBM. Google rozpoczyna testowanie w tym roku

Pamięć flash o dużej przepustowości (HBF) wyłania się jako znaczący konkurent w branży pamięci, oferując większą pojemność niż pamięć o dużej przepustowości (HBM).Jednak NVIDIA zrezygnowała z tego innowacyjnego rozwiązania; zamiast tego Google ma stać się głównym odbiorcą pamięci HBF.

NVIDIA nadal stawia na HBM: próbkowanie HBF planowane na późniejszy okres w tym roku

Ostatnie postępy w dziedzinie pamięci NAND DRAM następują w czasie, gdy zastosowania sztucznej inteligencji (AI) szybko nabierają tempa. Chociaż pamięć NAND zaspokaja głównie potrzeby związane z pamięcią masową – głównie w dyskach SSD – przewidywany postęp w technologii HBF może znacząco zrewolucjonizować rozwiązania pamięciowe. Zaprojektowana jako połączenie pamięci HBM i pamięci flash NAND, pamięć HBF reprezentuje nową generację pamięci NAND DRAM.

Architektura HBF będzie zawierać liczne przejścia międzywarstwowe (TSV), co umożliwi integrację wielu pakietów NAND w jednym stosie. Obecnie HBM obsługuje pojemności od 32 do 64 GB na stos, podczas gdy HBF ma w planach rozszerzenie pojemności do 4 TB.

Pod względem wydajności, choć HBM nadal pozostaje szybszym rozwiązaniem, oczekuje się, że optymalizacje architektoniczne w HBF zapewnią wystarczającą przepustowość dla kluczowych zadań AI. Ten nowy standard jest szczególnie odpowiedni dla obciążeń inferencyjnych, których znaczenie wzrosło wraz z rozwojem sztucznej inteligencji opartej na agentach. Zwiększona wydajność oferowana przez HBF może również pomóc złagodzić niektóre ograniczenia narzucane przez pamięci podręczne wartości kluczowych (KV) w głównych układach obliczeniowych.

Pomimo potencjalnych zalet technologii HBF, NVIDIA publicznie oświadczyła, że ​​nie planuje obecnie wdrażania tej nowej technologii DRAM, wierząc, że istniejące ulepszone dyski SSD (eSSD) są w stanie sprostać obecnym wymaganiom w zakresie pojemności i szybkości. Firma współpracuje z firmą Kioxia w celu opracowania dysków SSD PCIe Gen7, które mogłyby zapewnić prędkość nawet 100 razy większą niż modele konwencjonalne.

Slajd prezentacji SanDisk zatytułowany „High Bandwidth Flash (HBF™)” przedstawia szczegółowo rozszerzenie pamięci HBM o pamięć flash NAND na potrzeby zadań związanych ze sztuczną inteligencją. Znajduje się w nim diagram stosu HBF z komponentami oznaczonymi jako rdzeń HBF, układ logiczny, PHY i interposer.
Źródło obrazu: SanDisk

Z kolei Google wydaje się być gotowe wykorzystać technologię HBF w ramach swojej ambitnej strategii rozwoju sztucznej inteligencji. Ekosystem Tensor Processing Unit (TPU) tego giganta technologicznego dynamicznie się rozwija, oferując szereg rozwiązań TPU nowej generacji, których celem jest zwiększenie możliwości obliczeniowych. Chociaż znaczenie HBF w szerszych zastosowaniach pozostaje niepewne, jego potencjał zastąpienia standardowej pamięci DDR stanowi ekscytujący rozwój w tej dziedzinie.

Wraz ze wzrostem zapotrzebowania na moc obliczeniową, serwery coraz częściej stosują pamięć LPDDR (Low Power Double Data Rate), co wynika z ograniczeń procesorów w aplikacjach AI. Ten trend uwypuklił rosnące zapotrzebowanie na pamięć LPDDR5 i LPDDR5X, szczególnie w konfiguracjach System-on-Chip i Multi-Chip Module (SOCAMM2).Innowacyjne podejście HBF do układania wielowarstwowego pozwala producentom układów scalonych i podmiotom zaangażowanym w ekosystem AI zmniejszyć rozmiar płytki drukowanej (PCB) przy jednoczesnym zwiększeniu wydajności, utrzymaniu niskiego zużycia energii i osiągnięciu wysokiej przepustowości.

Źródło i obrazy

Dodaj komentarz

Twój adres e-mail nie zostanie opublikowany. Wymagane pola są oznaczone *