AMD는 스마트폰과 노트북과 같은 소비자 기기가 이러한 운영의 주요 플랫폼이 되는 미래로 기존 데이터 센터 추론에서 벗어나는 변화를 예측하고 있습니다.
AMD 최고기술책임자(CTO)가 차세대 AI를 설명했습니다.엣지 디바이스로의 추론 마이그레이션
“AI 열풍”의 시작은 초기에는 모델 학습에 집중되었으며, 다양한 기업들이 대규모 언어 모델(LLM) 학습을 위해 상당한 컴퓨팅 리소스를 축적했습니다.그러나 추론 기능으로의 전환을 시사하는 주목할 만한 추세가 나타나고 있습니다.최근 Business Insider 와의 인터뷰에서 AMD의 최고기술책임자(CTO)인 마크 페이퍼마스터는 이러한 변화에 대한 통찰력을 공유하며 추론 기능이 점점 더 엣지 디바이스로 집중되고 있음을 강조했습니다. AMD는 급성장하는 이 시장 부문에서 엔비디아에 도전할 준비가 되어 있습니다.
질문: 2030년이라고 가정해 보겠습니다.엣지에서 추론이 얼마나 많이 수행되나요?
AMD CTO: 시간이 지나면서 과반수가 될 겁니다.전환이 언제 이루어질지는 알 수 없지만, 이는 애플리케이션, 즉 엣지 디바이스에서 실행 가능한 킬러 앱 개발에 의해 주도되기 때문입니다.아직은 시작에 불과하지만, 빠르게 발전할 것으로 예상합니다.
페이퍼마스터는 데이터 센터의 AI 처리 비용 증가로 인해 마이크로소프트, 메타, 구글과 같은 거대 기술 기업들이 전략을 재고하게 되고, 이는 엣지 AI 솔루션의 광범위한 도입으로 이어질 것이라고 전망합니다.그는 AMD가 인텔이나 퀄컴과 같은 경쟁사보다 “AI PC”의 잠재력을 더욱 중요하게 생각한다고 강조합니다.이러한 관점은 Strix Point와 Strix Halo를 포함한 AMD의 최신 APU 제품군에 반영되어 있습니다.이 제품군은 AI 기능을 소형 시스템에 통합하면서도 비용 효율성을 유지하도록 설계되었습니다.
컴퓨팅 리소스의 진화를 논의하면서 Papermaster는 AI 모델의 정확성과 효율성을 향상시키는 것의 중요성을 강조했습니다. DeepSeek의 도입으로 주요 기술 기업들은 AI 프로세스에 최적화된 대안을 점점 더 많이 도입하고 있습니다.장기적인 목표는 기기가 정교한 AI 모델을 로컬에서 실행하여 AI 활용 시 사용자 경험을 극대화하는 것입니다.
AMD CTO가 표명한 의견은 인텔 전 CEO인 팻 겔싱어가 미래 발전을 위해 추론에 집중해야 한다는 기존 주장과 맥을 같이합니다.이는 엔비디아와 경쟁하는 기업들이 엔비디아가 확고한 우위를 점하고 있는 “AI 학습” 분야에 진출하는 데 어려움을 겪고 있음을 시사합니다. AMD는 이러한 새로운 애플리케이션에 맞춰 특별히 설계된 프로세서를 제공함으로써 엣지 AI 시장에서 상당한 진전을 이룰 것으로 보입니다.
답글 남기기 ▼