Processadores AMD Ryzen AI MAX+ liberam 96 GB de memória para gráficos de consumo, permitindo execução local de LLMs de 128B parâmetros em PCs

A AMD avançou significativamente os recursos de IA de ponta para computadores pessoais com sua atualização de driver mais recente, permitindo suporte para modelos de grande linguagem (LLMs) aos usuários.

AMD capacita inovações em IA para o consumidor com a plataforma Strix Halo

Como um player de destaque no setor, a AMD fez avanços notáveis na integração de computação de IA de alto desempenho em sistemas de consumo por meio de seus inovadores mecanismos XDNA. As Unidades de Processamento Acelerado (APUs) da empresa, especialmente as das linhas Strix Point e Strix Halo, demonstram capacidades excepcionais de IA. A versão mais recente do driver Adrenalin Edition 25.8.1 introduz suporte para modelos LLM que podem atingir até 128 bilhões de parâmetros, abrindo caminho para que dispositivos de consumo utilizem modelos avançados de IA, incluindo o inovador Llama 4 Scout da Meta.

AMD Ryzen AI: Suporte líder para Windows LLM, quantização de 4 bits a 16 bits, implantação fina e leve

Um dos recursos de destaque da tecnologia da AMD é a Memória Gráfica Variável (VGM), que permite aos consumidores alocar até 96 GB de memória gráfica para a GPU integrada (iGPU).Essa capacidade permite a execução local de modelos de IA em larga escala. Por exemplo, o modelo Llama opera com um design de combinação de especialistas (MoE) e utiliza apenas 17 bilhões de parâmetros durante o tempo de execução. Consequentemente, os usuários podem atingir impressionantes transações por segundo (TPS), capacitando a LLM a funcionar eficientemente como um sofisticado assistente de IA.

O AMD AI Max+ executa até 128B de parâmetros; gráfico de comparação de uso de memória por modelo.

Os avanços da AMD vão além do simples poder computacional; eles também realizaram melhorias significativas no tamanho do contexto. Tradicionalmente, os processadores de consumo suportam um comprimento de contexto de aproximadamente 4.096 tokens. No entanto, a AMD atingiu um impressionante comprimento de contexto de 256.000 tokens, aprimorando significativamente o controle do usuário sobre os fluxos de trabalho e garantindo um desempenho robusto e consistente. Esses avanços ilustram a fervorosa progressão da tecnologia de “computação de IA” em computadores pessoais, marcando uma mudança notável no setor.

Atualmente, a plataforma Strix Halo está disponível em um número limitado de dispositivos, e a acessibilidade continua sendo um desafio para muitos consumidores, com alguns sistemas custando mais de US$ 2.000. Apesar do custo elevado, o compromisso da AMD com a democratização do poder da IA é evidente, mesmo que a aquisição desses dispositivos de ponta exija um investimento financeiro significativo.

Fonte e Imagens