유니젠(Unigen)은 표준 M.2 슬롯에 장착할 수 있도록 설계된 최신 혁신 제품인 아마레티(Amaretti) AI 모듈을 공개했습니다.이 소형 모듈은 최대 60 TOPS의 뛰어난 성능과 32GB의 메모리를 제공하여 최대 200억 개의 파라미터를 포함하는 대규모 언어 모델(LLM)과 호환됩니다.
유니젠 AI 모듈: 최소한의 전력 소비로 강력한 성능 제공
로컬 AI 에이전트가 주목받으면서 기술 업계에는 혁신적인 AI 제품들이 쏟아져 나오고 있습니다.그중에서도 유니젠은 기존 SSD와 유사한 외형을 갖추면서도 뛰어난 AI 처리 능력을 자랑하는 아마레티 E1. S AI 모듈을 선보였습니다.
이 모듈은 EdgeCortix의 SAKURA-II AI 가속기 로 구동됩니다.저전력 AI 애플리케이션용으로 개발된 SAKURA-II는 Raspberry Pi5 및 기타 ARM 기반 플랫폼과 같은 장치에 강력한 기능을 제공합니다.특히 SAKURA-II는 INT8 연산에서 60 TOPS, BF16 연산에서 30 TFLOPS의 성능을 제공하는 NPU를 탑재하고 있습니다.또한 듀얼 64비트 LPDDR4x 메모리 컨트롤러와 20MB의 내장 SRAM 캐시를 갖추고 있으며, 이 모든 기능이 약 8~10와트의 전력만 소비하는 소형 19×19 BGA 패키지에 담겨 있습니다.
유니젠은 SAKURA-II AI 가속기를 E1. S 보드에 성공적으로 통합하여 최대 32GB의 메모리 용량을 제공함으로써 기능을 크게 향상시켰습니다.이 모듈은 16GB와 32GB 두 가지 옵션으로 제공되며, 최대 68GB/s의 놀라운 대역폭을 자랑합니다.또한, 단 10와트의 전력 소비로 와트당 6 TOPS라는 뛰어난 효율을 달성할 수 있습니다.
넉넉한 32GB 메모리 용량을 갖춘 이 모듈은 최대 200억 개의 파라미터를 가진 AI LLM을 능숙하게 처리할 수 있어, 생성형 AI 및 에이전트형 AI 워크플로우 실행에 필요한 저전력 AI 솔루션에 이상적입니다.또한, 이 모듈은 여러 개의 M.2 슬롯에 장착하여 전체 처리 용량을 확장할 수 있습니다.더욱 까다로운 애플리케이션의 경우, EdgeCortix는 듀얼 칩과 확장된 기능을 갖춘 우수한 PCIe 구성도 제공하지만, M.2 솔루션이 특히 매력적인 선택입니다.
많은 PC, 데스크톱 및 노트북에는 AI 기능을 향상시키기 위해 활용할 수 있는 사용되지 않는 M.2 슬롯이 있습니다.시스템 성능 향상을 위한 맞춤형 AI 솔루션을 찾는 사용자에게 Amaretti AI 모듈은 매우 유리한 선택입니다.
유니젠 에 따르면, 이 AI 모듈은 TensorFlow, PyTorch, ONNX, Hugging Face를 포함한 모든 주요 AI 프레임워크와 호환됩니다.이 모듈의 주요 기능은 다음과 같습니다.
- E1. S AI 모듈
- AI 가속기: 사쿠라-II
- 공랭식 듀얼 CPU 서버와 함께 사용 시 최대 1920 TOPS의 추론 성능을 제공합니다.
- GPU 학습용 대비 20%의 전력 소비로 뛰어난 전력 효율을 제공합니다.
- 최대 200억 개의 매개변수를 가진 생성형 AI LLM 지원
- 약 14주의 리드 타임으로 GPU 서버 대기 시간이 크게 단축됩니다.
- 모듈당 최대 32GB의 메모리 옵션 제공
유니젠은 최적의 성능을 보장하기 위해 아마레티 E1. S AI 모듈에 방열판을 사전 장착하여 출고합니다.가격 정보는 아직 공개되지 않았지만, 메모리 용량을 통해 예상 가격을 짐작할 수 있습니다.
답글 남기기