El acelerador de IA Intel Gaudi 3 se lanza en IBM Cloud; supera a las GPU de IA NVIDIA H100 y H200 en pruebas de rendimiento.

El acelerador de inteligencia artificial Gaudi 3 de Intel hizo recientemente su debut en IBM Cloud, lo que marca un hito significativo como el primer proveedor de servicios en la nube (CSP) en integrar esta tecnología de vanguardia en sus ofertas.

IBM Cloud lidera con el acelerador de IA Gaudi 3 de Intel

A pesar del compromiso continuo de Intel con las tecnologías de IA, su entrada en el mercado no ha igualado el impulso inicial de sus competidores. Hasta el momento, la adopción de los productos de IA Gaudi de Intel ha sido relativamente lenta. Sin embargo, la reciente presentación por parte de IBM Cloud de los aceleradores de IA Gaudi 3 presenta una estrategia prometedora para ofrecer soluciones de IA asequibles a las empresas.

Al incorporar los aceleradores de IA Intel Gaudi 3 a IBM Cloud, permitimos a las empresas escalar cargas de trabajo de IA generativa con un rendimiento optimizado para la inferencia y el ajuste preciso. Esta colaboración refuerza nuestro compromiso compartido de hacer que la IA sea más accesible y rentable para las empresas de todo el mundo.

– Saurabh Kulkarni, vicepresidente de Intel

Los usuarios pueden aprovechar las capacidades de Gaudi 3 a través de los Servidores Virtuales en la Nube de IBM. Cabe destacar que Signal65 ha realizado pruebas que comparan el rendimiento de Gaudi 3 con el de las GPU H100 y H200 de NVIDIA, lo que supone el primer análisis independiente del último acelerador de Intel, más allá de sus evaluaciones internas.

Rendimiento de inferencia LLM: Entrada = 1024, Salida = 1024

Las pruebas revelan que Gaudi 3 de Intel superó a las ofertas de NVIDIA en benchmarks con los modelos Granite (8B) de IBM y Llama-3.1 de Meta. Si bien los parámetros específicos de las pruebas variaron, el rendimiento resultante puede variar en aplicaciones prácticas. Estos benchmarks preliminares ofrecen información crucial sobre el potencial de Intel en el competitivo panorama de la IA.

Fuente e imágenes