Intel의 Project Battlematrix: Arc Pro GPU용 주요 소프트웨어 업데이트, 향상된 지원으로 성능을 최대 80% 향상시키는 LLM Scaler v1.0 출시

인텔은 Arc Pro “Project Battlematrix” 이니셔티브에 대한 중요한 소프트웨어 업데이트를 출시하면서 주목할 만한 개선 사항이 포함된 LLM Scaler v1.0을 선보였습니다.

Intel Arc Pro GPU, LLM Scaler v1.0으로 중요 소프트웨어 업그레이드 제공

인텔은 컴퓨텍스 2025에서 새로운 Arc Pro GPU와 함께 프로젝트 배틀매트릭스를 발표했습니다.이 이니셔티브는 여러 개의 Arc Pro GPU를 활용하는 추론 워크스테이션 플랫폼을 위한 포괄적인 솔루션을 제공하는 것을 목표로 합니다.인텔은 제품 로드맵에서 vLLM 스테이징 및 기본 원격 측정 지원과 같은 기능을 갖춘 최초의 컨테이너 배포를 3분기에 제공하겠다고 약속했으며, 이는 LLM 스케일러 v1.0 출시를 통해 실현되었습니다.

Intel의 Arc Pro GPU용 Project Battlematrix에 첫 번째 주요 소프트웨어 업데이트: LLM Scaler v1.0이 제공됩니다.

LLM Scaler 컨테이너 v1.0에는 포괄적인 기능과 최적화가 통합되어 있습니다.

vLLM 개선 사항 :
- 32B KPI 모델에서 40K 시퀀스 길이의 경우 성능이 최대 1.8배, 70B KPI 모델의 경우 성능이 최대 4.2배 향상되었습니다.
- 이전 버전 대비 8B-32B KPI 모델의 출력 처리량이 약 10% 증가했습니다.
- GPU 메모리 요구 사항 감소를 위한 계층별 온라인 양자화
- vLLM의 파이프라인 병렬 처리(PP)에 대한 실험적 지원
- torch.compile 및 추측 디코딩을 포함한 실험적 기능
- 임베딩 및 재순위 모델 지원
- 향상된 다중 모달 모델 호환성
- 최대 입력 길이 자동 감지
- 데이터 병렬 처리 기능
OneCCL 벤치마크 도구 활성화
XPU 관리자 기능 :
- GPU 전력 모니터링
- GPU 펌웨어 업데이트
- GPU 진단
- GPU 메모리 대역폭 분석

인텔은 업데이트된 소프트웨어 스택이 사용자 친화성을 고려하여 설계되었으며 업계 벤치마크를 준수한다고 강조합니다. Linux 환경에 맞춰 설계된 이 컨테이너는 다중 GPU 확장 및 PCIe P2P 데이터 전송을 통해 최대 80%의 성능 향상을 기대할 수 있습니다.또한 ECC, SR-IOV, 원격 측정, 원격 펌웨어 업데이트 등 엔터프라이즈급 안정성 및 관리 기능을 제공합니다.

인텔의 로드맵에 따르면, 이번 릴리스에 이어 이번 분기 후반에 더욱 강력한 컨테이너가 출시될 예정이며, 향상된 성능과 vLLM 제공에 중점을 둘 것입니다.마지막으로, 포괄적인 기능 세트는 4분기에 출시될 예정입니다.

출처 및 이미지