Lanzamiento de AMD ROCm 7: compatibilidad mejorada con MI350, nuevos algoritmos de IA, modelos y funciones avanzados con un rendimiento de inferencia 3,5 veces superior

AMD ha lanzado oficialmente ROCm 7, su última versión de tecnologías de pila de software abierto, diseñada para mejorar las capacidades de inteligencia artificial (IA) y la productividad de los desarrolladores.

Presentamos ROCm 7: Innovaciones de software abierto mejoradas con un enfoque en la inferencia de IA

Con la presentación de ROCm 7, AMD marca una importante mejora con respecto a su versión anterior, ROCm 6, que ha recibido numerosas mejoras a lo largo de los años, especialmente en relación con el auge de la computación con IA. Estas son algunas de las características clave que convierten a ROCm 7 en un producto revolucionario:

Algoritmos y modelos de vanguardia
Funciones robustas para la escalabilidad de la IA
Soporte para la serie MI350
Gestión integral de clústeres
Capacidades preparadas para la empresa

AMD está priorizando el fortalecimiento de las capacidades de inferencia dentro del conjunto de software ROCm. El nuevo ROCm 7 incluye frameworks avanzados, como vLLM v1, llm-d y SGLang. Además, introduce optimizaciones valiosas como la inferencia distribuida, el prellenado y la desagregación, que mejoran el rendimiento y la flexibilidad.

Entre los nuevos kernels y algoritmos integrados se encuentran el autoajuste de GEMM, la Mezcla de Expertos (MoE), los mecanismos de atención y la capacidad de crear kernels con Python. Estas mejoras prometen agilizar el proceso de desarrollo de aplicaciones de IA.

Además, ROCm 7 brinda soporte completo para tipos de datos avanzados, incluidos FP8, FP6, FP4, así como Mixed Precision, ampliando aún más sus capacidades para las GPU de la serie MI350.

En cuanto al rendimiento, AMD destaca que la inferencia ha sido un enfoque principal de ROCm 7, reportando mejoras de rendimiento de hasta 3, 5 veces para cargas de trabajo de IA. En concreto, las mejoras incluyen un aumento de hasta 3, 2 veces en Llama 3.1 70B, un aumento de 3, 4 veces en Qwen2-72B y un impresionante aumento de 3, 8 veces en el rendimiento de Deep Seek R1 en comparación con ROCm 6.

Fuente e imágenes