AMD, Ryzen 및 Radeon에서 OpenAI의 GPT-OSS 20B 및 120B AI 모델 구동: Ryzen AI MAX+ 395는 128GB의 뛰어난 메모리 풀을 통해 120B 모델을 지원하는 유일한 AI 칩입니다.

OpenAI는 최신 AI 모델인 GPT-OSS 20B와 GPT-OSS 120B를 공개했으며, AMD는 이러한 혁신의 선두에 있습니다. AMD는 Ryzen AI MAX와 Radeon GPU를 통해 이러한 모델에 대한 완벽한 지원을 발표했으며, 이를 통해 사용자는 고급 기능과 향상된 성능을 활용할 수 있습니다.

AMD의 Ryzen AI MAX+ 395 APU: OpenAI의 GPT-OSS 120B를 위한 게임 체인저

OpenAI의 새로운 AI 모델 출시와 함께 AMD는 Ryzen AI CPU와 Radeon GPU를 최적의 성능을 위한 최고의 하드웨어로 자리매김했습니다.특히 Ryzen AI MAX+ 395 APU는 GPT-OSS 120B 모델을 네이티브로 실행할 수 있는 독점 칩으로, Day-0 지원 기능을 제공하여 사용자가 LM Studio를 통해 모델을 즉시 체험할 수 있도록 지원합니다.

AMD Ryzen AI Max+는 향상된 처리를 위해 MCP를 지원하는 OpenAI의 GPT-OSS 120B를 활용합니다.

이 새로운 모델들은 정확히 무엇일까요? GPT-OSS 시리즈는 포괄적인 추론 및 에이전트 작업을 수행할 수 있는 개방형 가중치 모델로 구성됩니다.많은 AI 칩과 PC가 20B 버전을 처리할 수 있지만, 더 높은 사양을 요구하는 120B 모델은 상당한 하드웨어 리소스를 필요로 합니다.바로 이 부분에서 AMD의 Ryzen AI MAX와 Strix Halo 아키텍처가 빛을 발하며, 이러한 고급 AI 기능에 특화된 최대 128GB 메모리를 제공합니다.

GGML로 변환된 MXFP4 가중치는 약 61GB의 VRAM을 필요로 하며, 이는 AMD Ryzen AI MAX+ 395 프로세서의 96GB 전용 그래픽 메모리에 완벽하게 들어맞습니다.이 기능을 효율적으로 활용하려면 드라이버 버전이 AMD Software: Adrenalin Edition 25.8.1 WHQL 이상인지 확인해야 합니다.

초당 30 토큰의 속도에 도달하는 성능을 통해 AMD 사용자는 강력한 데이터센터급 모델을 활용할 수 있습니다.이 성능은 GPT-OSS 120B에 적용된 혁신적인 전문가 혼합 아키텍처와 함께 Ryzen AI MAX+ 플랫폼의 대역폭을 통해 더욱 향상됩니다.방대한 메모리 덕분에 사용자는 이 모델을 통해 MCP(Model Context Protocol) 구현의 이점을 누릴 수 있습니다.특히 AMD Ryzen AI 300 시리즈 프로세서 사용자는 더 작은 20B 모델을 최대한 활용할 수 있습니다.

GPT-OSS 20B 모델에서 최적의 성능을 얻으려면 AMD Radeon 9070 XT 16GB 그래픽 카드를 사용하는 것이 좋습니다.이 구성은 탁월한 속도를 제공할 뿐만 아니라, 특히 컴퓨팅 집약적인 시나리오에서 모델 컨텍스트 프로토콜(MCP) 구현을 사용할 때 탁월한 TTFT(Time-to-First-Token) 이점을 제공합니다.

AMD 하드웨어에서 OpenAI의 GPT-OSS 120B 및 20B 모델을 경험하는 방법

최신 AMD 소프트웨어: Adrenalin Edition 25.8.1 WHQL 드라이버 이상을 다운로드하여 설치하세요.이전 드라이버는 성능과 호환성에 영향을 줄 수 있습니다.
AMD Ryzen AI 지원 컴퓨터를 사용하는 경우, 데스크톱으로 이동하여 AMD 소프트웨어: Adrenalin Edition > 성능 탭 > 튜닝 탭 > 가변 그래픽 메모리를 선택하세요.표에 나와 있는 사양에 따라 VGM을 설정하세요. AMD Radeon 그래픽 카드를 사용하는 경우 이 단계를 건너뛸 수 있습니다.
시스템에 LM Studio를 설치하세요.
메시지가 표시되면 온보딩 과정을 건너뛰도록 선택하세요.
애플리케이션에서 “gpt-oss”를 검색하세요.”LM Studio community”라는 접두사가 붙은 옵션이 보일 것입니다.하드웨어 호환성에 따라 20B 또는 120B 버전을 선택하세요.
LM Studio의 채팅 탭에 접속하세요.
드롭다운 메뉴를 사용하여 원하는 OpenAI 모델을 선택하고 “매개변수를 수동으로 로드”를 선택하세요.
“GPU 오프로드” 슬라이더를 최대 설정으로 조정하고 설정 기억 옵션을 활성화합니다.
로드 버튼을 클릭하세요.120B 모델을 로드하는 동안 시간이 걸릴 수 있으며, 모델 크기 때문에 로딩 바가 멈춘 것처럼 보일 수 있습니다.
프롬프트를 통해 모델과의 소통을 시작하세요!

OpenAI 모델과의 호환성을 자세히 설명하는 AMD 제품 지원 매트릭스입니다.

AMD는 OpenAI의 GPT-OSS 모델에 대한 지원 목록도 발표했습니다. AMD의 Ryzen AI MAX+ 395는 120B 모델을 실행할 수 있는 유일한 칩으로 돋보입니다.반면, 최소 16GB 메모리를 탑재한 Radeon RX 9000, Radeon AI PRO R9000, Radeon RX 7000 GPU와 같은 다른 옵션들은 GPT-OSS 20B 모델을 손쉽게 실행할 수 있습니다.

출처 및 이미지