Las GPU NVIDIA RTX ofrecen un rendimiento de IA inigualable para los nuevos modelos “gpt-oss” de OpenAI

Las GPU NVIDIA RTX ofrecen un rendimiento de IA inigualable para los nuevos modelos “gpt-oss” de OpenAI

NVIDIA, en colaboración con OpenAI, ha presentado la última incorporación a su conjunto de modelos de IA: la familia gpt-oss. Esta versión ofrece a los consumidores acceso a tecnología de IA innovadora, aprovechando las excepcionales capacidades de procesamiento de las GPU RTX.

NVIDIA detalló hoy su asociación con OpenAI, lo que marca un avance significativo que permite que la inteligencia artificial de vanguardia funcione rápidamente en PC y estaciones de trabajo con tecnología RTX, recursos que antes estaban limitados a los centros de datos en la nube.

El fundador y CEO de NVIDIA, Jensen Huang, destacó la importancia de esta medida para la industria tecnológica:

“OpenAI demostró al mundo lo que se podía construir con la IA de NVIDIA, y ahora están impulsando la innovación en software de código abierto”, afirmó Jensen Huang.“Los modelos gpt-oss permiten a los desarrolladores de todo el mundo construir sobre esa base de código abierto de vanguardia, fortaleciendo el liderazgo tecnológico de EE. UU.en IA, todo ello en la infraestructura de computación de IA más grande del mundo”.

Este lanzamiento representa un momento crucial, marcando el comienzo de una era de IA en dispositivos más rápida e inteligente, impulsada por las formidables capacidades de las GPU GeForce RTX y PRO. Se presentan dos versiones del modelo, dirigidas a un amplio espectro de usuarios:

  • Modelo gpt-oss-20b: diseñado para un rendimiento óptimo en PC NVIDIA RTX AI equipadas con un mínimo de 16 GB de VRAM, este modelo puede procesar hasta 250 tokens por segundo cuando se ejecuta en una GPU RTX 5090.
  • Modelo gpt-oss-120b: Diseñado para entornos profesionales, este modelo es compatible con las GPU NVIDIA RTX PRO, maximizando las capacidades de procesamiento.
OpenAI recauda 8.300 millones de dólares en fondos
OpenAI obtiene 8.300 millones de dólares como parte de una iniciativa de financiación de 40.000 millones de dólares

Los modelos gpt-oss son los primeros en aprovechar la precisión MXFP4 en NVIDIA RTX, un método de entrenamiento de vanguardia que mejora la calidad del modelo sin sacrificar el rendimiento en comparación con técnicas anteriores. Ambos modelos cuentan con una impresionante capacidad de longitud de contexto de hasta 131 072 tokens, una de las más extensas disponibles para la inferencia local. Cuentan con una arquitectura flexible de mezcla de expertos (MoE), que permite la comprensión en cadena de pensamiento y facilita el seguimiento de instrucciones y el uso de herramientas.

El RTX AI Garage de esta semana se centra en cómo los desarrolladores y entusiastas de la IA pueden utilizar eficazmente los nuevos modelos OpenAI en las GPU NVIDIA RTX:

    Fuente e imágenes

    Deja una respuesta

    Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *