NVIDIA、AMD、Apple、およびQualcomm GPU は、LLM 応答をリッスンする新たな脆弱性に直面していると報告されています

AMD、NVIDIA、Apple および Apple のコンシューマー向け GPU のように見えます。クアルコムも脆弱性から安全というわけではなく、情報を抽出できる「LeftoverLocals」として知られる脅威を専門家が発見したと報告されています。 GPU のメモリからのデータ。

新たに表面化した GPU の脆弱性「LeftoverLocals」は主要ベンダーに影響を与え、NVIDIA、Apple、AMD、Qualcomm の GPU にも影響を及ぼします。壊滅的な影響をもたらす可能性がある

ハードウェアの一部に脆弱性が出現することは、ハイテク業界では頻繁に目撃されており、影響を受ける人の数を考えると、通常、その規模はかなり大きくなります。この代表的な例は、最近明らかになった Intel の Downfall 脆弱性です。これにより、同社の数千人の CPU ユーザーが危険にさらされました。ただし、今回は、セキュリティ研究者の Trail of Bits がオンボードメモリから「重要なデータ」を奪う可能性のある脆弱性を発見したため、モバイルやデスクトップなどあらゆるプラットフォームの GPU 消費者は、慎重に作業を進める必要があります。

この脆弱性は「LeftoverLocals」と名付けられており、消費者向けアプリケーションをターゲットとするのではなく、LLM および ML モデルで利用されている GPU に侵入することで機能します。モデルのトレーニングには機密データの利用が含まれるため、データ抽出がより重要な領域となります。データ。 LeftoverLocals はカーネギーメロン大学の専門家によって追跡されており、その情報はすでに NVIDIA、Apple、AMD、Arm、Intel、Qualcomm、Imagination など、影響を受ける主要 GPU ベンダーによって共有されていると言われています。

LeftoverLocals は、70 億パラメータモデルを実行している場合、AMD の Radeon RX 7900 XT で GPU 呼び出しごとに約 5.5 MB のデータをリークする可能性があることが判明しました。 Trail of Bits によると、データ漏洩の速度は完全なモデルを再作成するのに十分な速度であるため、この脆弱性は人工知能の分野で高いリスクをもたらします。これは、個々の企業、特に次のような企業にとって壊滅的な影響を与える可能性があるためです。 LLM のトレーニングを中心に展開します。悪用者は AI の膨大な発展を潜在的に活用し、より大きな影響をもたらす可能性があります。

LeftoverLocals は、GPU がメモリをどのように分離するかという 1 つのことに依存しており、これは CPU フレームワークとはまったく異なります。したがって、プログラマブルインターフェイスを介して GPU への共有アクセスを取得した悪用者は、GPU 内のメモリデータを盗む可能性があり、これによりいくつかのセキュリティ上の影響が生じます。 LeftoverLocals は、Listener と Writer という 2 つの異なるプロセスに分かれており、両方がどのように動作するかを次に示します。

全体として、この脆弱性は、リスナーとライターという 2 つの単純なプログラムを使用して説明できます。ライターはカナリア値をローカルメモリに保存し、リスナーは初期化されていないローカルメモリを読み取ってカナリア値を確認します。リスナーは、初期化されていないローカルメモリから読み取る GPU カーネルを繰り返し起動します。 Writer は、カナリア値をローカルメモリに書き込む GPU カーネルを繰り返し起動します。

平均的な消費者にとって、LeftoverLocals はおそらく心配する必要はありませんが、クラウドコンピューティングや推論などの業界に関連する消費者にとって、この脆弱性は、特に LLM や ML フレームワークのセキュリティの観点から致命的となる可能性があります。

ニュースソース: 豆知識の軌跡