El proyecto Battlematrix de Intel con GPU Arc Pro B60 alcanza un rendimiento cuatro veces superior al de NVIDIA en los benchmarks de MLPerf v5.1

Intel ha publicado nuevos resultados de referencia para su estación de trabajo Project Battlematrix, con GPU Arc Pro B60, como parte de las evaluaciones de MLPerf Inference v5.1.

Análisis de rendimiento: Intel Project Battlematrix con GPU Arc Pro B60 y CPU Xeon 6

Comunicado de prensa: En un avance significativo, MLCommons ha presentado las últimas pruebas de rendimiento de MLPerf Inference v5.1, que muestran los sistemas de GPU avanzados de Intel. Estos sistemas utilizan procesadores Intel Xeon con núcleos P y GPU Arc Pro B60, conocidos colectivamente como Proyecto Battlematrix.

Los benchmarks indican que el Intel Arc Pro B60 alcanza un rendimiento por dólar hasta 1, 25 veces superior en el benchmark Llama 8B y demuestra una impresionante ventaja de hasta cuatro veces en rendimiento sobre las RTX Pro 6000 y L40S de NVIDIA. Este rendimiento destacado marca un paso significativo para que las soluciones avanzadas de inferencia de IA sean accesibles principalmente a través de hardware Intel.

La importancia de este desarrollo

Para los profesionales que requieren plataformas robustas de inferencia de IA, las opciones han sido notablemente limitadas. La necesidad de una solución que ofrezca un excelente rendimiento de inferencia, a la vez que garantiza la privacidad de los datos y evita las elevadas cuotas de suscripción asociadas a los modelos de IA propietarios, ha sido una preocupación creciente. La iniciativa Project Battlematrix busca cubrir esta necesidad proporcionando una solución integral que permita implementar modelos de lenguaje de gran tamaño (LLM) de forma eficaz.

Los nuevos sistemas de GPU de Intel están diseñados no solo para abordar tareas modernas de IA, sino también para proporcionar una plataforma de inferencia integral, que fusiona hardware fiable con entornos de software validados. El enfoque en la experiencia del usuario es evidente, ya que estos sistemas incorporan una nueva solución contenedorizada optimizada para entornos Linux, lo que facilita un rendimiento de inferencia excepcional mediante el escalado multiGPU y las transferencias de datos punto a punto PCIe.

El papel esencial de las CPU en los sistemas de IA

Las CPU siguen siendo fundamentales en la arquitectura de los sistemas de IA, actuando como orquestadores esenciales para el procesamiento, la transmisión y la gestión general del sistema. Durante los últimos cuatro años, Intel ha mejorado constantemente el rendimiento de sus CPU en aplicaciones de IA. Estos avances han posicionado a los procesadores Intel Xeon como la opción preferida para gestionar eficazmente las cargas de trabajo de IA en sistemas con GPU.

El compromiso de Intel con la excelencia se ve reforzado por ser el único proveedor que envía resultados de CPU de servidor a MLPerf, lo que demuestra su dedicación a mejorar las capacidades de inferencia de IA en plataformas computacionales y de aceleración. Cabe destacar que la introducción del procesador Intel Xeon 6 con núcleos P ha generado una mejora del rendimiento de 1, 9 veces, generación tras generación, en las últimas pruebas de rendimiento de MLPerf Inference v5.1.

Fuente e imágenes