NVIDIA, AMD, Apple & Według doniesień procesory graficzne Qualcomm mają nową lukę w zabezpieczeniach, która nasłuchuje odpowiedzi LLM

Wygląda jak konsumenckie procesory graficzne firm AMD, NVIDIA, Apple & Firma Qualcomm nie jest bezpieczna przed lukami w zabezpieczeniach, ponieważ według doniesień eksperci odkryli zagrożenie znane jako „LeftoverLocals”, które może wyodrębnić dane z pamięci GPU.

Nowo wykryta luka w zabezpieczeniach procesora graficznego „LeftoverLocals” ma wpływ na głównych dostawców, dotyczy procesorów graficznych NVIDIA, Apple, AMD, Qualcomm i & Potencjalnie powodując niszczycielski wpływ

Pojawienie się luki w zabezpieczeniach dowolnego elementu sprzętu jest zjawiskiem, którego doświadcza branża technologiczna dość często, a zwykle jej skala jest dość duża, jeśli chodzi o liczbę osób dotkniętych tą luką. Wiodącym tego przykładem jest niedawno ujawniona luka w zabezpieczeniach Intela Downfall, która zagroziła tysiącom użytkowników procesorów firmy. Jednak tym razem użytkownicy procesorów graficznych, korzystający ze wszystkich platform, takich jak urządzenia mobilne i komputery stacjonarne, powinni zachować ostrożność, ponieważ badacz bezpieczeństwa Trail of Bits odkrył lukę, która może zabrać „kluczowe dane” z pamięci wbudowanej.

Luka nosi nazwę „LeftoverLocals” i zamiast atakować aplikacje konsumenckie, spełnia swoje zadanie poprzez penetrację procesorów graficznych wykorzystywanych w modelach LLM i ML. Jest to obszar, w którym wyodrębnianie danych ma większe znaczenie, ponieważ uczenie modeli wiąże się z wykorzystaniem wrażliwych dane. LeftoverLocals jest śledzony przez ekspertów z Carnegie Mellon University i mówi się, że informacje są już udostępniane przez głównych producentów procesorów graficznych, których to dotyczy, takich jak NVIDIA, Apple, AMD, Arm, Intel, Qualcomm i Imagination.

Odkryto, że LeftoverLocals może powodować wyciek około 5,5 MB danych na każde wywołanie procesora graficznego na karcie AMD Radeon RX 7900 XT, gdy działa model z siedmimiliardami parametrów. Według Trail of Bits tempo wycieku danych jest wystarczające, aby nawet odtworzyć cały model, dlatego luka stwarza duże ryzyko w obszarze sztucznej inteligencji, ponieważ może okazać się katastrofalna dla poszczególnych firm, zwłaszcza tych, które koncentrują się wokół szkolenia LLM. Wyzyskiwacze mogą potencjalnie wykorzystać ogromny rozwój sztucznej inteligencji, potencjalnie prowadząc do znacznie większego wpływu.

Funkcja LeftoverLocals zależy od jednej rzeczy, czyli sposobu, w jaki procesor graficzny izoluje swoją pamięć, co jest całkowicie odmienne od struktury procesora. Zatem exploit, który uzyskał współdzielony dostęp do procesora graficznego poprzez programowalny interfejs, może ukraść dane pamięci znajdujące się wewnątrz procesora graficznego, co ma kilka konsekwencji w zakresie bezpieczeństwa. LeftoverLocals jest podzielony na dwa różne procesy, słuchacza i pisarza, a oto jak działają oba:

Ogólnie rzecz biorąc, lukę tę można zilustrować za pomocą dwóch prostych programów: słuchacza i zapisującego, w których moduł zapisujący przechowuje wartości kanaryjskie w pamięci lokalnej, podczas gdy słuchacz odczytuje niezainicjowaną pamięć lokalną w celu sprawdzenia wartości kanaryjskich. Odbiornik wielokrotnie uruchamia jądro GPU, które odczytuje z niezainicjowanej pamięci lokalnej. Writer wielokrotnie uruchamia jądro GPU, które zapisuje wartości kanaryjskie do pamięci lokalnej.

Dla przeciętnego konsumenta LeftoverLocals prawdopodobnie nie jest powodem do zmartwień, jednak dla osób związanych z branżami takimi jak przetwarzanie w chmurze lub wnioskowanie luka może okazać się śmiertelna, szczególnie pod względem bezpieczeństwa struktur LLM i ML.

Źródło wiadomości: Szlak bitów