Seis GPU AMD Radeon RX 7900 XT empaquetadas en un paquete de IA, desde 15.000 dólares

Parece que las GPU de consumo se están convirtiendo en los próximos aceleradores de IA, ya que la empresa Tiny integra seis GPU AMD Radeon RX 7900 XT en un solo paquete para aplicaciones de IA.

La escasez de GPU de IA ha llevado a los fabricantes a utilizar GPU de consumo como alternativa para un rendimiento de IA decente, Tiny revela seis paquetes de IA de GPU AMD Radeon RX 7900 XT

Con la reciente escasez de GPU con IA, varias personas han recurrido a las GPU para juegos como alternativa, ya que ofrecen un rendimiento de IA decente, dependiendo de las cargas de trabajo que implemente. De manera similar, Tiny, una empresa relacionada con la IA, ha formulado un paquete, TinyBox, para consumidores privados de GPU de IA, que viene con las GPU RDNA 3 insignia de AMD a un precio razonable.

Seis Radeon RX 7900 XT de AMD están apiladas en un rack de 12U e interconectadas mediante carriles PCIe 4.0 x16 para garantizar una transferencia de datos fluida sin comprometer la velocidad.

Si bien los propios TinyBits no han revelado el rendimiento que podría obtener con este sistema, según los cálculos, puede obtener alrededor de 738 TLFOPS de rendimiento FP16 de las seis GPU integradas, junto con 96 GB de memoria GDDR6, lo que lo convierte en una opción decente considerando el rendimiento por dólar que obtienes aquí. Los propios TinyBits mencionan que utilizar el modelo insignia RDNA3 WeU fue la mejor opción aquí en comparación con la GeForce RTX 4090, únicamente por el valor que ofrece AMD.

Otros proveedores también están fabricando máquinas de IA personalizadas, como la estación de trabajo AI de GPTshop, que ofrece la solución Grace Hopper Superchip por 41.000 dólares estadounidenses .

En cuanto a otras especificaciones, el sistema viene con el procesador AMD EPYC 7532 junto con 128 GB de RAM. Para el almacenamiento, se incluyen 5 SSD SN850X de 1 TB y se utiliza una ranura OCP 3.0 de 16x vacía para fines de conexión en red. Tiny ha llamado la atención por su sistema TinyBox, ya que la empresa ha recibido 583 pedidos anticipados para el sistema, que comenzará a enviarse en abril. Además, la empresa ha revelado sus intenciones de retirar sus chips, pero aparentemente ese es un plan para el futuro.

El sistema centrado en IA de Tiny se vende por alrededor de 10.000 dólares, lo cual es decente, considerando que las GPU le habrían costado a la empresa alrededor de 6.000 dólares si lograran conseguirlo al MSRP, lo cual es muy poco probable. A medida que avanzamos hacia un mercado donde conseguir aceleradores de IA es un problema enorme para las nuevas empresas de IA más pequeñas, optar por esas opciones parece factible. Si bien ciertamente no pueden ofrecer el rendimiento equivalente a los aceleradores de IA en la misma configuración, sí hacen el trabajo.

Fuente de noticias: Diminuto