최근 보도에 따르면 구글은 마벨과 협력하여 두 가지 혁신적인 칩을 개발 중인데, 하나는 기존 텐서 처리 장치(TPU)의 성능을 향상시키는 데 초점을 맞추고 있고, 다른 하나는 차세대 TPU 설계를 대표하는 칩입니다.
구글과 마벨, 차세대 AI 칩 개발을 위해 협력
더 인포메이션(The Information) 의 보도에 따르면, 구글과 마벨(Marvell)은 인공지능 추론 최적화를 목표로 하는 두 가지 특수 칩 개발에 대한 논의를 시작했다고 합니다.
이러한 논의 진행 상황에 대한 자세한 내용은 아직 부족하지만, 구글이 기존 TPU의 성능을 향상시키는 칩과 완전히 새로운 TPU 아키텍처를 기반으로 하는 칩, 이렇게 두 가지 종류의 칩을 제안했다는 것은 분명합니다.이는 칩 개발을 위한 기본적인 계획이 마련되어 있음을 시사합니다.
두 칩의 목적은 상당히 다릅니다.첫 번째 칩은 TPU와 관련된 칩으로, 맞춤형 실리콘이 아니라 TPU와 연동하여 작동하도록 설계된 메모리 처리 장치(MPU)입니다.이 혁신적인 MPU는 칩이나 시스템에 일반적으로 가해지는 메모리 부하를 줄여 보다 효율적인 인메모리 처리를 가능하게 할 것으로 기대됩니다.
두 번째로 살펴볼 칩은 AI 추론 모델에 특화된 차세대 TPU입니다.현재 구글의 주력 AI 가속기는 TPU v7 또는 아이언우드 시리즈로, 192GB의 고대역폭 메모리(HBM)와 4614 TFLOPs의 최고 성능을 자랑하는 인상적인 사양을 갖추고 있습니다.이 강력한 TPU는 9216개의 칩으로 구성된 슈퍼포드에 통합되어 있습니다.
이러한 발전이 진행됨에 따라, 향후 출시될 구글 TPU는 새로운 MPU와 함께 메모리 서브시스템을 크게 향상시킬 것으로 예상됩니다.이러한 개선은 특히 AI 추론 영역에서 AI 모델의 성능을 더욱 빠르고 효율적으로 만들어 줄 것으로 기대됩니다.