Seis GPUs AMD Radeon RX 7900 XT embaladas em um pacote de IA, a partir de US$ 15.000

Parece que as GPUs de consumo estão se transformando nos próximos aceleradores de IA, à medida que a empresa Tiny integra seis GPUs AMD Radeon RX 7900 XT em um único pacote para aplicativos de IA.

A escassez de GPU de IA levou os fabricantes a utilizar GPUs de consumo como uma alternativa para um desempenho decente de IA, Tiny revela seis pacotes de IA de GPU AMD Radeon RX 7900 XT

Com a recente escassez de GPUs de IA, vários indivíduos recorreram a GPUs para jogos como alternativa, uma vez que oferecem desempenho decente de IA, dependendo das cargas de trabalho que você implementa. Da mesma forma, a Tiny, uma empresa relacionada à IA, formulou um pacote, o TinyBox, para consumidores privados de GPUs de IA, que vem com as principais GPUs RDNA 3 da AMD a um preço razoável.

Seis Radeon RX 7900 XT da AMD são empilhados em um rack 12U e interconectados usando pistas PCIe 4.0 x16 para garantir transferência de dados perfeita sem comprometer a velocidade.

Embora os próprios TinyBits não tenham divulgado o desempenho que você poderia obter com este sistema, com base em cálculos, você pode obter cerca de 738 TLFOPS de desempenho FP16 das seis GPUs integradas, junto com 96 GB de memória GDDR6, o que o torna uma escolha decente, considerando o desempenho por dólar que você está obtendo aqui. Os próprios TinyBits mencionam que utilizar o carro-chefe RDNA3 WeU foi a melhor escolha aqui em comparação com a GeForce RTX 4090, apenas por causa do valor que a AMD oferece.

Outros fornecedores também estão fabricando máquinas de IA personalizadas, como a AI Workstation da GPTshop, que oferece a solução Grace Hopper Superchip por US$ 41.000 .

Em termos de outras especificações, o sistema vem com processador EPYC 7532 da AMD junto com 128 GB de RAM. Para armazenamento, 5 SSDs SN850X de 1 TB estão integrados e um slot 16x OCP 3.0 vazio é usado para fins de rede. A Tiny chamou a atenção por seu sistema TinyBox, já que a empresa recebeu 583 pré-encomendas do sistema, que começará a ser comercializado em abril. Além disso, a empresa revelou intenções de gravar seus chips, mas, aparentemente, esse é um plano para o futuro.

O sistema focado em IA da Tiny é vendido por cerca de US$ 10.000, o que é decente, considerando que as GPUs teriam custado à empresa cerca de US$ 6.000 se conseguissem obtê-lo no MSRP, o que é altamente improvável. À medida que avançamos num mercado onde a obtenção de aceleradores de IA é um enorme problema para pequenas startups de IA, optar por tais opções parece viável. Embora eles certamente não possam oferecer o desempenho equivalente aos aceleradores de IA na mesma configuração, eles realizam o trabalho.

Fonte de notícias: minúsculo