AMD et Qualcomm étudient activement l’intégration de la mémoire SOCAMM dans leurs solutions d’intelligence artificielle (IA).Cette exploration fait suite aux difficultés persistantes liées aux limitations de la mémoire, qui entravent les performances des systèmes d’IA actuels.
Adoption de la mémoire SOCAMM : de NVIDIA à ses concurrents
Initialement développée pour NVIDIA, la norme SOCAMM est une mémoire qui a rapidement trouvé sa place dans les produits de la marque. Pour ceux qui ne la connaissent pas, la SOCAMM repose sur la technologie LPDDR DRAM, couramment utilisée dans les appareils mobiles et à faible consommation. Ce qui distingue la SOCAMM des alternatives comme la mémoire à large bande passante (HBM) et la LPDDR5X, c’est sa capacité d’évolution. Contrairement aux composants traditionnels soudés, la SOCAMM peut être remplacée ou mise à niveau plus facilement, ce qui en fait une option intéressante pour compléter la HBM dans les tâches gourmandes en mémoire.
D’après un rapport de Hankyung, AMD et Qualcomm envisagent d’intégrer des modules SOCAMM à leurs futures architectures de systèmes d’IA. Ces entreprises explorent notamment une stratégie de conception originale, différente de celle de NVIDIA. Leur approche consiste à créer un module « carré » composé de deux composants DRAM disposés en rangées parallèles. Cette conception vise à optimiser la gestion de l’alimentation directement sur le module grâce à un circuit intégré de gestion de l’alimentation (PMIC), permettant ainsi une régulation efficace et un fonctionnement à haute vitesse sans complications.
Avec l’adoption croissante de la mémoire SOCAMM, la demande pour ce type de mémoire devrait augmenter, principalement sous l’effet des exigences des applications d’IA multi-agents. L’accès à des téraoctets de mémoire par processeur permet aux agents d’IA de gérer efficacement des millions de jetons actifs. Bien que le débit de la SOCAMM soit inférieur à celui de la HBM, ses performances en font une option viable et écoénergétique.
NVIDIA prévoit d’utiliser la mémoire SOCAMM 2 au sein de ses clusters d’IA Vera Rubin. AMD et Qualcomm explorant également cette technologie, les observateurs du secteur peuvent anticiper son intégration dans leurs clusters d’IA de nouvelle génération, ce qui pourrait améliorer les performances des futures applications d’IA.