Raja Koduri dołącza do rady doradczej ds. pamięci flash o dużej przepustowości firmy SanDisk, aby osiągnąć pojemność 8-16 razy większą dla procesorów graficznych AI przy 4 TB, co jest opłacalne w porównaniu z HBM

Raja Koduri dołącza do rady doradczej ds. pamięci flash o dużej przepustowości firmy SanDisk, aby osiągnąć pojemność 8-16 razy większą dla procesorów graficznych AI przy 4 TB, co jest opłacalne w porównaniu z HBM

Raja Koduri objął kluczową rolę w SanDisk, dążąc do kierowania rozwojem pamięci flash o dużej przepustowości (HBF).Ta innowacja ma na celu zwiększenie możliwości sztucznej inteligencji (AI) poprzez wyeliminowanie ograniczeń tradycyjnej pamięci o dużej przepustowości (HBM), która często boryka się z ograniczeniami pojemności.

Strategiczne powołanie Raja Koduriego do rady doradczej ds.pamięci HBF w SanDisk

Były główny architekt Intela, Raja Koduri, który przeszedł na emeryturę z działu grafiki tego giganta technologicznego w 2023 roku, obecnie koncentruje się na zwiększaniu pojemności pamięci VRAM w procesorach graficznych AI. Jego niedawne ogłoszenie o dołączeniu do Rady Doradczej ds. Technologii SanDisk podkreśla jego zaangażowanie w rozwój technologii pamięci HBF, która obiecuje znaczną poprawę pojemności pamięci w procesorach graficznych AI nowej generacji.

Współpraca Raja z SanDisk jest godna uwagi ze względu na jego bogate doświadczenie w rozwoju GPU i architektur obliczeniowych. Ta synergia dobrze wpisuje się w dążenie SanDisk do opracowania technologii HBF, która przezwycięża wady technologii HBM.

Schemat stosu pamięci flash o dużej przepustowości rozszerzającej pamięć HBM o pamięć flash NAND na potrzeby obciążeń AI.
Stos HBF może zapewnić wielokrotnie większą pojemność pamięci przy zachowaniu tej samej przepustowości co HBM.

Rozpoczynając prace nad HBM, skupiliśmy się na poprawie przepustowości w przeliczeniu na wat i przepustowości w przeliczeniu na mm² (oba te czynniki stanowią istotne ograniczenia dla urządzeń mobilnych), przy jednoczesnym utrzymaniu konkurencyjnej pojemności w porównaniu z dotychczasowymi rozwiązaniami. W przypadku HBF priorytetem jest znaczące zwiększenie pojemności pamięci (w przeliczeniu na dolara, wat i mm²) przy jednoczesnym zapewnieniu konkurencyjnej przepustowości.

Raja Koduri

Pomimo szybkiego postępu w technologii HBM, która z powodzeniem oferowała duże pojemności pamięci dla superchipów zorientowanych na AI, technologia HBF ma potencjał wykładniczego zwiększenia pojemności pamięci dzięki wykorzystaniu technologii Through-Silicon Vias. Pojedynczy stos HBF może zapewnić pojemność pamięci równą terabajtom, a integracja ośmiu takich stosów w systemie pozwala procesorom graficznym AI osiągnąć do 4 TB pamięci VRAM, zachowując jednocześnie wysoką przepustowość zapewnianą przez HBM. Ten rozwój ma kluczowe znaczenie dla sprostania rosnącym wymaganiom aplikacji AI.

Należy pamiętać, że technologia HBF firmy SanDisk nie będzie bezpośrednio konkurować z pamięcią DRAM w zadaniach wrażliwych na opóźnienia. Zamiast tego jest ona dostosowana do wymagań pamięciowych systemów sztucznej inteligencji (AI), takich jak wnioskowanie i trenowanie modeli na dużą skalę, gdzie priorytetem jest pojemność i przepustowość, a nie opóźnienia. Strategiczna rola Raja będzie kluczowa dla rozwoju tego rozwiązania pamięci o dużej pojemności.

Porównanie pojemności pamięci GPU HBM i HBF.Wizualna reprezentacja możliwości pamięci GPU: 192 GB HBM vs.4096 GB HBF.Uruchamianie Frontier LLM z HBF: parametry 1, 8T, wagi 16-bitowe i 3600 GB pamięci dla GPU.

Ponieważ SanDisk dąży do ustanowienia HBF jako otwartego standardu, oczekuje się, że inicjatywa ta przyczyni się do powszechnego przyjęcia jej w branży. Niezwykła sieć kontaktów i doświadczenie Raja w budowaniu ekosystemów będą nieocenione w zacieśnianiu współpracy z producentami GPU.

HBF ma zrewolucjonizować edge AI, wyposażając urządzenia w pamięć i przepustowość, które będą obsługiwać zaawansowane modele działające lokalnie w czasie rzeczywistym. Ten postęp zapoczątkuje nową erę inteligentnych aplikacji edge, fundamentalnie zmieniając sposób i miejsce wnioskowania AI.

– Raja Koduri

Więcej szczegółów znajdziesz w oficjalnym ogłoszeniu firmy SanDisk.

Źródło i obrazy

Dodaj komentarz

Twój adres e-mail nie zostanie opublikowany. Wymagane pola są oznaczone *