NVIDIA RTX GPU, OpenAI의 새로운 “gpt-oss” 모델에 탁월한 AI 성능 제공

NVIDIA RTX GPU, OpenAI의 새로운 “gpt-oss” 모델에 탁월한 AI 성능 제공

엔비디아는 OpenAI와 협력하여 자사의 AI 모델 제품군에 최신 모델인 gpt-oss 제품군을 추가했습니다.이번 출시를 통해 소비자는 RTX GPU의 탁월한 처리 성능을 활용하여 획기적인 AI 기술을 활용할 수 있습니다.

NVIDIA는 오늘 OpenAI 와의 파트너십에 대해 자세히 설명했습니다.이는 최첨단 인공지능이 RTX 기반 PC와 워크스테이션에서 신속하게 작동할 수 있게 하는 중요한 발전을 의미합니다.이러한 리소스는 이전에는 클라우드 데이터 센터에서만 사용 가능했습니다.

NVIDIA의 창립자 겸 CEO인 젠슨 황은 이러한 움직임이 기술 산업에 얼마나 중요한지 강조했습니다.

젠슨 황은 “OpenAI는 엔비디아 AI를 기반으로 무엇을 구축할 수 있는지 세상에 보여줬고, 이제 오픈소스 소프트웨어 혁신을 이끌고 있습니다.”라고 말했습니다.”gpt-oss 모델을 통해 전 세계 개발자들은 최첨단 오픈소스 기반을 기반으로 AI를 개발할 수 있게 되었으며, 이는 세계 최대 규모의 AI 컴퓨팅 인프라를 기반으로 미국의 AI 기술 리더십을 강화하는 데 기여합니다.”

이번 출시는 GeForce RTX와 PRO GPU의 강력한 성능으로 구동되는 더욱 빠르고 지능적인 온디바이스 AI 시대를 여는 중요한 순간을 의미합니다.다양한 사용자를 위해 두 가지 버전의 모델이 출시됩니다.

  • gpt-oss-20b 모델: 최소 16GB VRAM을 탑재한 NVIDIA RTX AI PC에서 최적의 성능을 발휘하도록 맞춤 제작된 이 모델은 RTX 5090 GPU에서 실행할 경우 초당 최대 250개의 토큰을 처리할 수 있습니다.
  • gpt-oss-120b 모델: 전문적인 환경을 위해 설계된 이 모델은 NVIDIA RTX PRO GPU의 지원을 받아 처리 성능을 극대화합니다.
OpenAI, 83억 달러 자금 조달
OpenAI, 400억 달러 자금 조달의 일환으로 83억 달러 확보

gpt-oss 모델은 NVIDIA RTX에서 MXFP4 정밀도를 활용한 최초의 모델입니다. MXFP4는 기존 기술 대비 성능 저하 없이 모델 품질을 향상시키는 최첨단 학습 방법입니다.두 모델 모두 최대 131, 072개 토큰에 달하는 인상적인 컨텍스트 길이 용량을 자랑하며, 이는 로컬 추론에 사용 가능한 가장 광범위한 용량 중 하나입니다.유연한 전문가 혼합(MoE) 아키텍처를 특징으로 하며, 사고의 사슬 기능을 활성화하고 명령어 추종 및 도구 사용을 지원합니다.

이번 주의 RTX AI Garage에서는 AI 개발자와 애호가들이 NVIDIA RTX GPU에서 새로운 OpenAI 모델을 효과적으로 활용할 수 있는 방법에 초점을 맞춥니다.

    출처 및 이미지

    답글 남기기

    이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다