인텔은 MLPerf Inference v5.1 평가의 일부로 Arc Pro B60 GPU를 탑재한 Project Battlematrix 워크스테이션에 대한 새로운 벤치마크 결과를 발표했습니다.
성능 통찰력: Arc Pro B60 GPU 및 Xeon 6 CPU를 탑재한 Intel Project Battlematrix
보도자료: MLCommons 는 인텔의 첨단 GPU 시스템을 선보이는 최신 MLPerf Inference v5.1 벤치마크를 공개했습니다.이 시스템은 인텔 제온 프로세서와 P 코어, 그리고 Arc Pro B60 GPU를 사용하며, 이를 통칭하여 Project Battlematrix 라고 합니다.
벤치마크 결과에 따르면 인텔 Arc Pro B60은 Llama 8B 벤치마크에서 달러당 최대 1.25배 향상된 성능을 달성했으며, NVIDIA의 RTX Pro 6000 및 L40S 대비 최대 4배에 달하는 놀라운 성능 향상을 보였습니다.이러한 성능 향상은 고급 AI 추론 솔루션을 인텔 하드웨어를 통해 주로 이용할 수 있게 하는 데 있어 중요한 진전을 의미합니다.
이 개발의 중요성
강력한 AI 추론 플랫폼을 필요로 하는 전문가들에게 선택지는 상당히 제한적이었습니다.탁월한 추론 성능을 제공하면서도 데이터 프라이버시를 보장하고, 독점 AI 모델과 관련된 높은 구독료 부담을 피할 수 있는 솔루션에 대한 필요성이 점차 커지고 있습니다. Project Battlematrix 이니셔티브는 대규모 언어 모델(LLM)을 효과적으로 배포할 수 있는 포괄적인 솔루션을 제공함으로써 이러한 간극을 메우는 것을 목표로 합니다.
인텔의 새로운 GPU 시스템은 최신 AI 작업을 처리할 뿐만 아니라, 신뢰할 수 있는 하드웨어와 검증된 소프트웨어 프레임워크를 결합하여 포괄적인 추론 플랫폼을 제공하도록 설계되었습니다. Linux 환경에 최적화된 새로운 컨테이너형 솔루션을 탑재하여 다중 GPU 확장 및 PCIe 지점 간 데이터 전송을 통해 탁월한 추론 성능을 제공하는 이 시스템은 사용자 경험에 중점을 두고 있음을 분명히 보여줍니다.
AI 시스템에서 CPU의 필수 역할
CPU는 AI 시스템 아키텍처의 핵심으로, 처리, 전송 및 전반적인 시스템 관리를 위한 핵심 오케스트레이터 역할을 합니다.지난 4년 동안 인텔은 AI 애플리케이션에서 CPU 성능을 꾸준히 향상시켜 왔습니다.이러한 발전을 통해 인텔 제온 프로세서는 GPU 기반 시스템 내에서 AI 워크로드를 효과적으로 관리하는 데 가장 선호되는 선택으로 자리매김했습니다.
인텔의 탁월함에 대한 헌신은 MLPerf에 서버 CPU 결과를 제출하는 유일한 공급업체라는 점에서 더욱 두드러집니다.이는 컴퓨팅 및 가속 플랫폼 전반에서 AI 추론 기능 향상에 대한 인텔의 헌신을 보여줍니다.특히 P 코어를 탑재한 인텔 제온 6 프로세서의 출시는 최신 MLPerf Inference v5.1 벤치마크에서 이전 세대 대비 1.9배 향상된 성능을 보여주었습니다.
답글 남기기