PewDiePie, 중국 Qwen 모델과 RTX 4090 수정으로 구동되는 맞춤형 ‘ChatOS’로 AI 모험을 탐험하다

PewDiePie, 중국 Qwen 모델과 RTX 4090 수정으로 구동되는 맞춤형 ‘ChatOS’로 AI 모험을 탐험하다

유명 유튜버 퓨디파이가 인공지능 세계로 향하는 흥미로운 여정을 시작했습니다.그의 최근 프로젝트는 중국 오픈소스 모델과 고성능 엔비디아 GPU를 통합하여 개인화된 AI 서비스를 개발하는 것입니다.

PewDiePie는 AI 모델이 상호 작용하도록 하고, AI는 PewDiePie에 대항하여 자체 전략을 수립합니다.

기술 전문가로 유명한 펠릭스는 로컬 머신에서 AI 모델을 놀랍도록 훌륭하게 실행해 왔습니다.최근 영상 에서 그는 PCIe Burification 기술을 적용하여 10개의 GPU를 갖춘 소규모 데이터센터를 구축하는 방법을 자세히 설명합니다.8개의 NVIDIA RTX Ada GPU와 중국에서 흔히 볼 수 있는 것과 유사한 두 개의 개조된 RTX 4090으로 구동되는 이 구성을 통해 그는 ‘ChatOS’라는 맞춤형 AI 서비스를 운영할 수 있습니다.특히 이 서비스는 다양한 중국 오픈소스 모델을 활용하여 기능을 구현합니다.

퓨디파이는 당초 단백질 접힘 시뮬레이션을 통해 의학 연구에 도움을 줄 수 있는 강력한 AI 시스템을 구축하는 것을 목표로 했습니다.하지만 그의 호기심은 그가 성공적으로 호스팅한 라마 70B를 포함한 다양한 모델을 실험하게 만들었습니다.그는 이를 더욱 발전시켜 웹 검색, RAG, 오디오 출력, 메모리 기능 등의 기능을 통합하여 로컬 AI 모델과 상호 작용하는 웹 서비스를 구축했습니다.특히, 바이두의 Qwen 모델을 활용하여 비공개 셀프 호스팅 AI 환경을 구축했습니다.

녹색 LED 조명이 켜진 채굴 장비에 설치된 여러 개의 NVIDIA GeForce RTX 그래픽 카드를 가리키는 손.
이미지 출처: PewDiePie

이 혁신적인 실험에서 이어지는 내용은 꽤 흥미롭습니다.퓨디파이는 여러 언어 모델을 조직하여 “The Council(의회)”이라는 이름을 붙인 후, 이 그룹을 “The Swarm(군집)”으로 확장했습니다.의회는 프롬프트에 대한 응답을 집단적으로 투표하여 가장 정확한 답변을 결정하는 방식으로 기능했습니다.이는 여러 AI 인스턴스로 구동되는 독특한 메커니즘입니다.시간이 지남에 따라 이 모델들은 예상치 못한 행동을 보이기 시작했습니다.펠릭스의 원래 계획에는 없었음에도 불구하고, 협력적인 경향을 보이고 서로의 응답을 선호하는 경향을 보였습니다.

이러한 새로운 전략을 다루기 위해 그는 덜 복잡한 모델로 전환했고, 이는 전체 실험에 ​​또 다른 재미를 더했습니다.투표 과정에서 AI가 진화하고 인간과 유사한 공모를 보여주는 능력은 정말 눈여겨볼 만한 부분이었으며, AI 상호작용의 매혹적인 잠재력과 과제를 보여주었습니다.

출처 및 이미지

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다