AMD e Qualcomm investem na tecnologia de memória “SOCAMM” para produtos de IA de próxima geração, seguindo a liderança da NVIDIA.

A AMD e a Qualcomm estão investigando ativamente a integração da memória SOCAMM em suas soluções de inteligência artificial (IA).Essa exploração surge como resposta aos desafios contínuos relacionados às limitações de memória que prejudicam o desempenho dos sistemas de IA atuais.

Adoção da memória SOCAMM: da NVIDIA aos concorrentes

Desenvolvida inicialmente para a NVIDIA, a SOCAMM é um padrão de memória que ganhou popularidade rapidamente entre os produtos da empresa. Para quem não conhece, a SOCAMM é baseada na tecnologia DRAM LPDDR, comumente utilizada em dispositivos móveis e de baixo consumo de energia. O que diferencia a SOCAMM de alternativas como a Memória de Alta Largura de Banda (HBM) e a LPDDR5X é a sua capacidade de atualização. Ao contrário dos componentes tradicionais que são soldados, a SOCAMM pode ser substituída ou atualizada com mais facilidade, tornando-se uma opção atraente para complementar a HBM em tarefas que exigem muita memória.

Informações recentes de um relatório da Hankyung indicam que tanto a AMD quanto a Qualcomm estão buscando incorporar módulos SOCAMM em suas futuras arquiteturas de sistemas de IA. Notavelmente, essas empresas estão investigando uma estratégia de design exclusiva, diferente da implementação da NVIDIA. Sua abordagem envolve a criação de um módulo “quadrado” com dois componentes DRAM dispostos em fileiras paralelas. Esse design visa aprimorar o gerenciamento de energia diretamente no módulo por meio de um Circuito Integrado de Gerenciamento de Energia (PMIC), facilitando a regulação eficiente de energia e garantindo operação em alta velocidade sem complicações.

Micron SOCAMM — Crédito da imagem: Micron

Com a crescente adoção da SOCAMM, a demanda por esse tipo de memória deverá aumentar, impulsionada principalmente pelas necessidades de aplicações de IA com agentes. A disponibilidade de terabytes de memória por CPU permite que agentes de IA gerenciem milhões de tokens ativos de forma eficiente. Embora a taxa de transferência da SOCAMM possa não ser a mesma da HBM, suas características de desempenho a tornam uma opção viável e com baixo consumo de energia.

Atualmente, a NVIDIA planeja utilizar a tecnologia SOCAMM 2 em seus clusters de IA Vera Rubin. Considerando que a AMD e a Qualcomm também estão explorando essa tecnologia de memória, os observadores do setor podem antecipar sua inclusão em seus clusters de IA de próxima geração, o que poderá aprimorar o desempenho de futuras aplicações de IA.

Fonte e imagens