OpenAI ha presentado sus últimos modelos de IA, los GPT-OSS 20B y GPT-OSS 120B, y AMD está a la vanguardia de esta innovación. La compañía ha anunciado compatibilidad total con estos modelos a través de sus GPU Ryzen AI MAX y Radeon, lo que permite a los usuarios aprovechar capacidades avanzadas y mejoras de rendimiento.
APU Ryzen AI MAX+ 395 de AMD: un punto de inflexión para el GPT-OSS 120B de OpenAI
Con la introducción de los nuevos modelos de IA de OpenAI, AMD ha posicionado sus CPU Ryzen AI y GPU Radeon como el hardware ideal para un rendimiento óptimo. En concreto, la APU Ryzen AI MAX+ 395 se destaca como el chip exclusivo capaz de ejecutar el modelo GPT-OSS 120B de forma nativa, además de ofrecer compatibilidad desde el día 0, lo que permite a los usuarios experimentar los modelos a través de LM Studio de inmediato.
¿Qué son exactamente estos nuevos modelos? La serie GPT-OSS incluye modelos de peso abierto capaces de realizar tareas de razonamiento y agente integrales. Si bien muchos chips y PC de IA pueden gestionar la versión de 20B, el modelo de 120B, más exigente, requiere importantes recursos de hardware. Aquí es donde destacan las arquitecturas Ryzen AI MAX y Strix Halo de AMD, con hasta 128 GB de memoria diseñados específicamente para esta funcionalidad avanzada de IA.
Los pesos MXFP4 convertidos a GGML requieren aproximadamente 61 GB de VRAM, lo que se adapta perfectamente a los 96 GB de memoria gráfica dedicada del procesador AMD Ryzen AI MAX+ 395. Los usuarios deben asegurarse de que la versión de su controlador sea AMD Software: Adrenalin Edition 25.8.1 WHQL o superior para utilizar esta función eficientemente.
Con capacidades que alcanzan velocidades de 30 tokens por segundo, los usuarios de AMD pueden acceder a un potente modelo de nivel de centro de datos. Este rendimiento se ve mejorado aún más por el ancho de banda de la plataforma Ryzen AI MAX+, junto con la innovadora arquitectura de combinación de expertos del GPT-OSS 120B. Gracias a su amplia memoria, los usuarios también pueden beneficiarse de las implementaciones del Protocolo de Contexto de Modelo (MCP) con este modelo. Cabe destacar que quienes tengan procesadores AMD Ryzen AI serie 300 podrán aprovechar al máximo el modelo 20B más pequeño.
Para un rendimiento óptimo con el modelo GPT-OSS 20B, se recomienda a los usuarios utilizar la tarjeta gráfica AMD Radeon 9070 XT de 16 GB. Esta configuración no solo ofrece velocidades excepcionales, sino que también demuestra impresionantes ventajas en el tiempo hasta el primer token (TTFT), especialmente al trabajar con implementaciones del Protocolo de Contexto de Modelo (MCP) en escenarios de alto consumo de recursos.
Cómo experimentar los modelos GPT-OSS 120B y 20B de OpenAI en hardware AMD
- Descargue e instale los controladores AMD Software: Adrenalin Edition 25.8.1 WHQL o superior. Tenga en cuenta que los controladores antiguos pueden afectar el rendimiento y la compatibilidad.
- Si tienes un equipo con AMD Ryzen AI habilitado, ve al Escritorio y selecciona AMD Software: Adrenalin Edition > Pestaña Rendimiento > Pestaña Ajuste > Memoria Gráfica Variable.Configura la VGM según las especificaciones de la tabla adjunta. Si usas una tarjeta gráfica AMD Radeon, puedes omitir este paso.
- Instale LM Studio en su sistema.
- Cuando se le solicite, elija omitir el proceso de incorporación.
- Busca «gpt-oss» en la aplicación. Deberías encontrar una opción con el prefijo «LM Studio community».Selecciona la variante 20B o 120B según la compatibilidad de tu hardware.
- Acceda a la pestaña de chat dentro de LM Studio.
- Utilice el menú desplegable para seleccionar el modelo OpenAI deseado, asegurándose de marcar “Cargar parámetros manualmente”.
- Ajuste el control deslizante “Descarga de GPU” al valor máximo y habilite la opción de recordar configuraciones.
- Haz clic en el botón de carga. Ten en cuenta que cargar el modelo 120B puede tardar un tiempo y que la barra de carga podría bloquearse debido al tamaño del modelo.
- ¡Comience a interactuar con el modelo a través de indicaciones!
AMD también ha publicado una lista de compatibilidad para los modelos GPT-OSS de OpenAI. Su Ryzen AI MAX+ 395 destaca como el único chip capaz de ejecutar el modelo 120B. En cambio, otras opciones como las GPU Radeon RX 9000, Radeon AI PRO R9000 y Radeon RX 7000, todas equipadas con al menos 16 GB de memoria, pueden ejecutar los modelos GPT-OSS 20B sin problemas.
Artículos relacionados:
Exmiembros de la junta directiva de Intel recomiendan privatizar la empresa y dividirla en divisiones de fundición y diseño de chips tras la asociación con NVIDIA y la inversión del gobierno de EE. UU.
8:49
GPU Intel Arc Pro B60 disponible por $599 en tiendas de EE. UU. – Disponible y lista para envío
15:16
Compre los últimos escáneres 3D de Revopoint: INSPIRE 2, MetroY y MetroY Pro ya disponibles para la venta al público
12:04
Deja una respuesta