Unigenは、標準的なM.2スロットに収まるように設計された最新のイノベーション、Amaretti AIモジュールを発表しました。このコンパクトなモジュールは、最大60 TOPSの優れた性能と32GBのメモリを搭載し、最大200億個のパラメータを含む大規模言語モデル（LLM）に対応します。
Unigen AIモジュール：最小限の消費電力でパワフルなパフォーマンスを実現
ローカルAIエージェントの普及が進むにつれ、テクノロジー業界では革新的なAI製品が次々と登場している。その一つがUnigen社で、従来型のSSDに似た外観ながら、驚異的なAI処理能力を誇るAmaretti E1. S AIモジュールを発表した。
このモジュールは、EdgeCortix社のSAKURA-II AIアクセラレータを搭載しています。当初は低消費電力AIアプリケーション向けに開発されたSAKURA-IIは、Raspberry Pi5をはじめとするARMベースのプラットフォームに強力な機能を提供します。特に注目すべきは、60 TOPSのINT8演算性能と30 TFLOPSのBF16演算性能を実現するNPUを搭載している点です。デュアル64ビットLPDDR4xメモリコントローラを備え、20MBのインチップSRAMキャッシュを搭載。これらすべてが、約8～10ワットの消費電力で動作するコンパクトな19×19 BGAパッケージに収められています。
Unigenは、SAKURA-II AIアクセラレータをE1. Sボードに統合することに成功し、最大32GBのメモリ容量でその機能を大幅に強化しました。このモジュールは16GBと32GBの2種類が用意されており、最大68GB/sという驚異的な帯域幅を実現します。消費電力はわずか10ワットで、1ワットあたり6TOPSという優れた効率性を達成できます。
32GBという大容量メモリを搭載したこのモジュールは、最大200億個のパラメータを持つAI LLMを効率的に処理できるため、生成AIやエージェントAIのワークフローを実行する低消費電力AIソリューションに最適です。さらに、これらのモジュールは複数のM.2スロットにスタックできるため、処理能力を拡張できます。より高度なアプリケーション向けには、EdgeCortixはデュアルチップと拡張機能を備えた優れたPCIe構成も提供していますが、M.2ソリューションは魅力的な選択肢として際立っています。
多くのPC、デスクトップPC、ノートPCには、AI機能の強化に活用できる未使用のM.2スロットが搭載されています。システムを強化するためのローカルAIソリューションをお探しのユーザーにとって、Amaretti AIモジュールは非常に魅力的な選択肢となるでしょう。
Unigenによると、このAIモジュールはTensorFlow、PyTorch、ONNX、Hugging Faceなど、主要なAIフレームワークすべてに対応しています。このモジュールの主な機能は以下のとおりです。
- E1. S AIモジュール
- AIアクセラレーター：SAKURA-II
- 空冷式デュアルCPUサーバーと併用した場合、最大1920 TOPSの推論性能を実現
- トレーニング用GPUと比較して消費電力はわずか20%で、電力効率に優れています。
- 最大200億パラメータの生成型AI LLMをサポート
- リードタイムは約14週間で、GPUサーバーの待ち時間を大幅に短縮します。
- メモリ容量はモジュールあたり最大32GBまで選択可能
Unigenは、最適なパフォーマンスを確保するために、Amaretti E1. S AIモジュールにヒートシンクをあらかじめ搭載して出荷しています。価格の詳細はまだ明らかにされていませんが、メモリ容量は潜在的なコストを示す有力な指標となります。
コメントを残す