AMD y Qualcomm buscan la tecnología de memoria “SOCAMM” para productos de IA de próxima generación, siguiendo el ejemplo de NVIDIA

AMD y Qualcomm investigan activamente la integración de la memoria SOCAMM en sus soluciones de inteligencia artificial (IA).Esta exploración responde a los desafíos actuales relacionados con las limitaciones de memoria que afectan el rendimiento de los sistemas de IA actuales.

Adopción de memoria SOCAMM: de NVIDIA a la competencia

Desarrollado inicialmente con NVIDIA en mente, SOCAMM es un estándar de memoria que se ha consolidado rápidamente entre los productos de la compañía. Para quienes no lo conozcan, SOCAMM se basa en la tecnología LPDDR DRAM, comúnmente utilizada en dispositivos móviles y de bajo consumo. Lo que distingue a SOCAMM de alternativas como la memoria de alto ancho de banda (HBM) y LPDDR5X es su capacidad de actualización. A diferencia de los componentes tradicionales que se sueldan, SOCAMM se puede reemplazar o actualizar con mayor facilidad, lo que lo convierte en una opción atractiva para complementar HBM en tareas que requieren un uso intensivo de memoria.

Información reciente de un informe de Hankyung indica que tanto AMD como Qualcomm buscan incorporar módulos SOCAMM en sus próximas arquitecturas de sistemas de IA. Cabe destacar que estas compañías están investigando una estrategia de diseño única que difiere de la implementación de NVIDIA. Su enfoque consiste en crear un módulo «cuadrado» con dos componentes DRAM dispuestos en filas paralelas. Este diseño busca optimizar la gestión de energía directamente en el módulo mediante un Circuito Integrado de Gestión de Energía (PMIC), lo que facilita una regulación eficiente de la energía y garantiza un funcionamiento a alta velocidad sin complicaciones.

Micron SOCAMM — Crédito de la imagen: Micron

A medida que se expande la adopción de SOCAMM, se prevé que la demanda de este tipo de memoria aumente, impulsada principalmente por los requisitos de las aplicaciones de IA con agentes. La accesibilidad a terabytes de memoria por CPU permite a los agentes de IA gestionar millones de tokens activos de forma eficiente. Si bien el rendimiento de SOCAMM puede no ser comparable al de HBM, sus características de rendimiento lo convierten en una opción viable y energéticamente eficiente.

Actualmente, NVIDIA planea utilizar SOCAMM 2 en sus clústeres de IA Vera Rubin. Dado que AMD y Qualcomm también están explorando esta tecnología de memoria, los analistas de la industria pueden anticipar su inclusión en sus clústeres de IA de próxima generación, lo que podría mejorar el rendimiento de futuras aplicaciones de IA.

Fuente e imágenes