NVIDIA, AMD, Apple e outros. GPUs Qualcomm supostamente enfrentam uma nova vulnerabilidade que escuta as respostas do LLM

Parecem GPUs de consumo da AMD, NVIDIA, Apple e outras. A Qualcomm não está protegida contra vulnerabilidades, pois especialistas descobriram uma ameaça conhecida como “LeftoverLocals“que pode extrair dados da memória da GPU.

Vulnerabilidade de GPU recém-surgida “LeftoverLocals” impactou os principais fornecedores, afeta NVIDIA, Apple, AMD, GPUs Qualcomm e outras GPUs. Criando Potencialmente um Impacto Devastador

O surgimento de uma vulnerabilidade em qualquer peça de hardware é algo que a indústria de tecnologia testemunha com bastante frequência e, geralmente, a escala dela é bastante alta quando se trata do número de pessoas afetadas por ela. Um exemplo importante disso é a recentemente divulgada vulnerabilidade Downfall da Intel, que colocou em risco milhares de usuários de CPU da empresa. No entanto, desta vez, os consumidores de GPU, em todas as plataformas, como dispositivos móveis e desktops, devem proceder com cautela, pois o pesquisador de segurança Trail of Bits descobriu uma vulnerabilidade que tem o potencial de retirar “dados importantes” da sua memória integrada.

A vulnerabilidade é chamada de “LeftoverLocals” e, em vez de atingir aplicativos de consumo, ela faz o trabalho penetrando nas GPUs utilizadas em modelos LLMs e ML, que é uma área onde a extração de dados tem maior importância, uma vez que o treinamento do modelo envolve a utilização de informações confidenciais. dados. LeftoverLocals está sendo rastreado por especialistas da Carnegie Mellon University, e dizem que as informações já são compartilhadas pelos principais fornecedores de GPU afetados por ela, como NVIDIA, Apple, AMD, Arm, Intel, Qualcomm e Imagination.

Foi descoberto que LeftoverLocals pode vazar cerca de 5,5 MB por invocação de dados de GPU no Radeon RX 7900 XT da AMD ao executar um modelo de sete bilhões de parâmetros. De acordo com Trail of Bits, a taxa de vazamento de dados é suficiente para recriar o modelo completo, razão pela qual a vulnerabilidade representa um alto risco no campo da inteligência artificial, uma vez que pode ser devastadora para empresas individuais, especialmente aquelas que giram em torno do treinamento de LLMs. Os exploradores podem potencialmente aproveitar os vastos desenvolvimentos na IA, levando potencialmente a um impacto muito maior.

LeftoverLocals depende de uma única coisa: como uma GPU isola sua memória, o que é completamente diferente de uma estrutura de CPU. Assim, um explorador que obteve acesso compartilhado a uma GPU por meio de uma interface programável pode roubar dados de memória dentro de uma GPU, o que tem diversas consequências de segurança. LeftoverLocals é dividido em dois processos diferentes, um Listener e um Writer, e aqui está como ambos funcionam:

No geral, essa vulnerabilidade pode ser ilustrada usando dois programas simples: um Listener e um Writer, onde o gravador armazena valores canário na memória local, enquanto um ouvinte lê a memória local não inicializada para verificar os valores canário. O Listener inicia repetidamente um kernel de GPU que lê a memória local não inicializada. O gravador inicia repetidamente um kernel de GPU que grava valores canário na memória local.

Para um consumidor médio, LeftoverLocals provavelmente não é algo com que se preocupar, no entanto, para aqueles associados a setores como computação em nuvem ou inferência, a vulnerabilidade pode ser fatal, especialmente em termos de segurança de LLMs e estruturas de ML.

Fonte de notícias: Trilha de Bits