A SK Hynix alerta que o TurboQuant do Google pode agravar a crise de memória em vez de resolvê-la.

Embora o Google TurboQuant tenha sido inicialmente saudado como uma solução potencial para a crise de memória vigente, evidências recentes sugerem que a situação pode não melhorar e, na verdade, pode piorar.

Impacto limitado do Google TurboQuant na crise da memória

Em março deste ano, o Google apresentou um algoritmo inovador chamado TurboQuant, projetado para comprimir significativamente o cache de chave-valor (KV), resultando em reduções impressionantes nos requisitos de memória para cargas de trabalho de inteligência artificial (IA) — até 6 vezes menos uso de memória. Após esse anúncio, houve uma queda notável nos preços da memória, levando muitos a especular sobre o impacto do TurboQuant no mercado de memória em geral.

Essa especulação provocou uma onda de pânico entre os negociadores de memória, que começaram a vender DRAM e módulos de memória, temendo que o surgimento da TurboQuant sinalizasse o fim do atual boom de memória. No entanto, contrariando as expectativas, os preços da memória permaneceram estáveis nos dias seguintes, com a demanda por produtos de memória persistindo fortemente.

Uma imagem desfocada e pixelizada, com detalhes indistinguíveis, sobre um fundo degradê.

Desde o lançamento do TurboQuant, o mercado de memória não sofreu nenhuma queda significativa; pelo contrário, a demanda do setor de IA continuou a crescer. As principais empresas de IA estão se expandindo ativamente e desenvolvendo novos produtos para aprimorar suas capacidades no que vem sendo chamado de Era Agencial da IA.

A otimização de software e hardware, que está ocorrendo ativamente em toda a indústria de IA, é outro fator que impulsiona o crescimento da demanda por memória. Embora as tecnologias de eficiência de memória possam parecer reduzir o uso de memória por dispositivo individual, na realidade, elas estão evoluindo em uma direção que maximiza a quantidade de contexto que pode ser processada por unidade de memória. Espera-se que isso melhore a economia dos serviços de IA, criando um ciclo virtuoso que expande o mercado geral de serviços de IA e, por sua vez, impulsiona também a demanda por memória.

Segundo a We Hynix, os avanços em software e hardware, como a implementação do TurboQuant, devem aumentar ainda mais a demanda por memória, em vez de mitigá-la.À medida que as principais empresas de IA aprimoram sua capacidade de processar maiores quantidades de contexto por unidade de memória, e com as CPUs ganhando força no cenário da IA Agética, a dependência da memória tende a aumentar. Essa crescente demanda por CPUs já está influenciando os preços de mercado em diversos setores, de forma semelhante às tendências anteriores observadas com as GPUs, indicando uma trajetória de demanda implacável.

Fonte e imagens