AMD, AI 가속기 성능 극대화를 위한 하이엔드 EPYC CPU의 중요성 입증

AMD는 최근 Advancing AI 기조연설 에서 데이터 센터 환경에서 서버 CPU가 수행하는 중요한 역할을 강조하면서, 적절한 CPU-GPU 조합이 성능 결과에 상당한 영향을 미칠 수 있다고 주장했습니다.

AMD의 EPYC 서버 CPU: 추론 워크로드에서 17% 성능 향상 제공

AI 분야에서 서버 CPU 성능에 대한 집중은 종종 간과되어 왔지만, 이러한 프로세서는 인공지능 애플리케이션의 학습 및 추론 작업에 필수적인 요소입니다.최근 몇 분기 동안 AMD는 특히 EPYC 서버 CPU 를 통해 데이터센터 부문에서 입지를 확고히 했습니다.이러한 성장을 통해 AMD는 경쟁이 치열한 이 분야에서 핵심 기업으로 부상할 수 있었습니다.”Advancing AI” 기조연설에서 AMD의 수석 부사장인 포레스트 노로드는 서버 구성에서 균형 잡힌 CPU와 GPU 조합의 필요성을 강조했습니다.

AMD는 비교 분석에서 자사의 최신 EPYC 9575F 서버 CPU 와 Instinct MI300X AI 가속기가 통합된 Intel Xeon 8592+ (5세대)를 비교 평가했습니다.이 비교는 클라이언트가 적절한 CPU 아키텍처를 사용하지 않을 때 발생하는 상당한 성능 차이를 강조했습니다. AMD가 이 벤치마크에 자사의 최신 EPYC 9005 시리즈를 선택했고, 거의 2년 전에 출시된 Intel Xeon을 선택했다는 점을 인지하는 것이 중요합니다.두 CPU 모두 64코어/128스레드 구성이라는 유사한 아키텍처를 갖추고 있어, 사양 기준으로는 비교적 공평한 비교가 가능합니다.

AMD가 발표한 벤치마크 결과에 따르면, EPYC 9005 시리즈를 도입하면 Llama 3.1 8B AI 모델을 활용한 다양한 테스트에서 평균 6%의 성능 향상을 보입니다.매개변수 수가 증가함에 따라 이 성능 향상은 최대 17%까지 치솟을 수 있습니다.다양한 추론 워크로드에 주로 초점을 맞춘 이러한 평가는 적절한 서버 CPU가 전체 성능에 미치는 심오한 영향을 강조합니다.하지만 이러한 결과에 시스템 최적화가 미치는 영향에 대해서는 의문이 제기될 수 있습니다.

벤치마크를 둘러싼 미묘한 차이에도 불구하고 AMD는 서버 CPU 시장에서 상당한 성장과 도입을 계속 목격하고 있으며, 짧은 기간 동안 시장 점유율이 인상적인 확대를 경험했습니다.