O acelerador de IA Intel Gaudi 3 é lançado na IBM Cloud; supera as GPUs de IA NVIDIA H100 e H200 em testes de desempenho

O acelerador de IA Gaudi 3 da Intel estreou recentemente na IBM Cloud, marcando um marco significativo como o primeiro provedor de serviços de nuvem (CSP) a integrar essa tecnologia de ponta em suas ofertas.

IBM Cloud lidera com o acelerador de IA Gaudi 3 da Intel

Apesar do compromisso contínuo da Intel com as tecnologias de IA, a entrada da empresa no mercado não correspondeu ao ímpeto inicial de seus concorrentes. Até agora, a adoção dos produtos de IA Gaudi da Intel tem sido relativamente lenta. No entanto, a recente revelação pela IBM Cloud dos aceleradores de IA Gaudi 3 apresenta uma estratégia promissora para fornecer soluções de IA acessíveis para empresas.

Ao trazer os aceleradores Intel Gaudi 3 AI para a IBM Cloud, estamos permitindo que as empresas ajudem a dimensionar cargas de trabalho de IA generativas com desempenho otimizado para inferência e ajuste fino. Esta colaboração ressalta nosso compromisso compartilhado de tornar a IA mais acessível e econômica para empresas em todo o mundo.

– Saurabh Kulkarni, vice-presidente da Intel

Os usuários podem aproveitar os recursos do Gaudi 3 por meio dos Cloud Virtual Servers da IBM. Notavelmente, a Signal65 conduziu testes que comparam o desempenho do Gaudi 3 com as GPUs H100 e H200 da NVIDIA, marcando o primeiro escrutínio independente do mais recente acelerador da Intel fora de suas avaliações internas.

Rendimento de inferência LLM - Entrada=1024, Saída=1024

Os testes revelam que o Gaudi 3 da Intel superou as ofertas da NVIDIA em benchmarks envolvendo os modelos Granite (8B) da IBM e Llama-3.1 da Meta. Embora os parâmetros específicos para os testes tenham variado, o desempenho resultante pode diferir em aplicações práticas. Esses benchmarks preliminares oferecem insights críticos sobre o potencial da Intel no cenário competitivo de IA.

Fonte e Imagens