NVIDIA RTX GPU 为 OpenAI 全新“gpt-oss”模型提供无与伦比的 AI 性能

NVIDIA RTX GPU 为 OpenAI 全新“gpt-oss”模型提供无与伦比的 AI 性能

NVIDIA 与 OpenAI 合作,发布了其 AI 模型套件的最新成员——gpt-oss 系列。该系列充分利用 RTX GPU 的卓越处理能力,为消费者带来突破性的 AI 技术。

NVIDIA今天详细介绍了其与OpenAI 的合作伙伴关系,这标志着一项重大进步,使尖端人工智能能够在搭载 RTX 的个人电脑和工作站上快速运行——这些资源以前仅限于云数据中心。

NVIDIA 创始人兼首席执行官黄仁勋强调了此举对科技行业的重要意义:

黄仁勋表示:“OpenAI 向世界展示了基于 NVIDIA AI 构建的潜力——现在,他们正在推动开源软件的创新。gpt-oss 模型让世界各地的开发者都能在最先进的开源基础上进行构建,从而巩固美国在 AI 领域的技术领先地位——所有这些都建立在全球最大的 AI 计算基础架构之上。”

此次发布代表着一个关键时刻,开启了更快、更智能的设备端 AI 时代,并由 GeForce RTX 和 PRO GPU 的强大性能驱动。该型号目前推出两个版本,以满足广泛用户的需求:

  • gpt-oss-20b 模型:该模型专为在配备至少 16GB VRAM 的 NVIDIA RTX AI PC 上实现最佳性能而设计,在 RTX 5090 GPU 上运行时每秒最多可处理 250 个令牌。
  • gpt-oss-120b型号:专为专业环境设计,该型号由NVIDIA RTX PRO GPU支持,可最大程度地发挥处理能力。
OpenAI 筹集 83 亿美元资金
OpenAI 获得 83 亿美元融资,这是 400 亿美元融资计划的一部分

GPT-OSS 模型率先在 NVIDIA RTX 上利用 MXFP4 精度,这是一种先进的训练方法,与旧技术相比,它在不牺牲性能的情况下提升了模型质量。两种模型都拥有高达 131, 072 个 token 的惊人上下文长度容量,是目前本地推理领域中容量最大的模型之一。它们采用灵活的混合专家 (MoE) 架构,支持思路链功能,并支持指令跟踪和工具使用。

本周的RTX AI Garage重点关注 AI 开发人员和爱好者如何在 NVIDIA RTX GPU 上有效利用新的 OpenAI 模型:

    来源和图片

    发表回复

    您的邮箱地址不会被公开。 必填项已用 * 标注