Tiny 회사가 6개의 AMD Radeon RX 7900 XT GPU를 AI 애플리케이션용 단일 패키지에 통합함에 따라 소비자 GPU가 차세대 AI 가속기로 변모하고 있는 것 같습니다 .
AI GPU 부족으로 인해 제조업체는 적절한 AI 성능을 위한 대안으로 소비자 GPU를 활용하게 되었고, Tiny는 6개의 AMD Radeon RX 7900 XT GPU AI 패키지를 공개했습니다.
최근 AI GPU 부족으로 인해 구현하는 워크로드에 따라 적절한 AI 성능을 제공하는 게임용 GPU에 대안으로 많은 개인이 의존하고 있습니다. 마찬가지로 AI 관련 기업인 Tiny는 AI GPU가 부족한 소비자를 위해 AMD의 주력 제품인 RDNA 3 GPU를 합리적인 가격에 제공하는 패키지인 TinyBox를 공식화했습니다.
6개의 AMD Radeon RX 7900 XT가 12U 랙에 쌓이고 PCIe 4.0 x16 레인을 사용하여 상호 연결되어 속도 저하 없이 원활한 데이터 전송을 보장합니다.
TinyBits 자체는 이 시스템으로 얻을 수 있는 성능을 공개하지 않았지만 계산에 따르면 6개의 온보드 GPU 중 약 738 TLFOPS의 FP16 성능과 96GB GDDR6 메모리를 얻을 수 있으므로 고려하면 괜찮은 선택입니다. 여기서 얻을 수 있는 달러당 성능입니다. TinyBits 자체에서는 AMD가 제공하는 가치 때문에 RDNA3 플래그십 WeU를 활용하는 것이 GeForce RTX 4090에 비해 더 나은 선택이라고 언급했습니다.
다른 벤더들도 Grace Hopper Superchip 솔루션을 41,000달러에 제공하는 GPTshop 의 AI Workstation과 같은 맞춤형 AI 기계를 만들고 있습니다 .
다른 사양과 관련하여 시스템에는 128GB RAM과 함께 AMD의 EPYC 7532 프로세서가 함께 제공됩니다. 스토리지의 경우 5x 1TB SN850X SSD가 온보드되어 있으며 빈 16x OCP 3.0 슬롯은 네트워킹 목적으로 사용됩니다. Tiny는 TinyBox 시스템에 대해 주목을 받았습니다. 회사는 4월부터 배송을 시작할 시스템에 대해 583개의 사전 주문을 받았기 때문입니다. 더욱이 회사는 칩을 테이프로 묶겠다는 의도를 밝혔지만 이는 분명히 미래를 위한 계획입니다.
Tiny의 AI 중심 시스템 소매가는 미화 약 10,000달러로 괜찮은 수준입니다. GPU가 MSRP에 도달할 경우 약 6,000달러의 비용이 들 것이라는 점을 고려하면 그럴 가능성은 거의 없습니다. AI 가속기를 확보하는 것이 소규모 AI 스타트업에게는 큰 문제가 되는 시장으로 진출함에 따라 그러한 옵션을 선택하는 것이 실현 가능해 보입니다. 동일한 구성에서 AI 가속기와 동등한 성능을 제공할 수는 없지만 작업을 완료합니다.
뉴스 출처: Tiny
답글 남기기