NVIDIA RTX GPU 為 OpenAI 全新「gpt-oss」模型提供無與倫比的 AI 效能

NVIDIA RTX GPU 為 OpenAI 全新「gpt-oss」模型提供無與倫比的 AI 效能

NVIDIA 與 OpenAI 合作,發布了其 AI 模型套件的最新成員——gpt-oss 系列。該系列充分利用 RTX GPU 的卓越處理能力,為消費者帶來突破性的 AI 技術。

NVIDIA今天詳細介紹了其與OpenAI 的合作夥伴關係,這標誌著一項重大進步,使尖端人工智慧能夠在搭載 RTX 的個人電腦和工作站上快速運行——這些資源以前僅限於雲端資料中心。

NVIDIA 創辦人兼執行長黃仁勳強調了此舉對科技產業的重要意義:

黃仁勳表示:「OpenAI 向世界展示了基於 NVIDIA AI 構建的潛力——現在,他們正在推動開源軟體的創新。gpt-oss 模型讓世界各地的開發者都能在最先進的開源基礎上進行構建,從而鞏固美國在 AI 領域的技術領先地位——所有這些都建立在全球最大的 AI 計算基礎架構之上。」

此次發布代表著一個關鍵時刻,開啟了更快、更智慧的裝置端 AI 時代,並由 GeForce RTX 和 PRO GPU 的強大效能驅動。該型號目前推出兩個版本,以滿足廣泛用戶的需求:

  • gpt-oss-20b 型號:該型號專為在配備至少 16GB VRAM 的 NVIDIA RTX AI PC 上實現最佳效能而設計,在 RTX 5090 GPU 上運行時每秒最多可處理 250 個代幣。
  • gpt-oss-120b型號:專為專業環境設計,該型號由NVIDIA RTX PRO GPU支持,可最大程度地發揮處理能力。
OpenAI 籌集 83 億美元資金
OpenAI 獲得 83 億美元融資,這是 400 億美元融資計劃的一部分

GPT-OSS 模型率先在 NVIDIA RTX 上利用 MXFP4 精度,這是一種先進的訓練方法,與舊技術相比,它在不犧牲性能的情況下提升了模型品質。兩種模型都擁有高達 131, 072 個 token 的驚人上下文長度容量,是目前本地推理領域中容量最大的模型之一。它們採用靈活的混合專家 (MoE) 架構,支援思路鏈功能,並支援指令追蹤和工具使用。

本週的RTX AI Garage重點關注 AI 開發人員和愛好者如何在 NVIDIA RTX GPU 上有效利用新的 OpenAI 模型:

    來源和圖片

    發佈留言

    發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *