Trasforma il tuo slot M.2 vuoto in un processore LLM 20B utilizzando questo modulo AI: dotato di 32 GB di memoria e 60 TOPS

Unigen ha presentato la sua ultima innovazione, il modulo Amaretti AI, progettato per essere installato in uno slot M.2 standard. Questo modulo compatto offre prestazioni impressionanti fino a 60 TOPS e 32 GB di memoria, risultando compatibile con modelli linguistici di grandi dimensioni (LLM) contenenti fino a 20 miliardi di parametri.

Modulo AI Unigen: prestazioni elevate con consumo energetico minimo.

Con la crescente diffusione degli agenti AI locali, sta emergendo un’ondata di prodotti AI innovativi nel panorama tecnologico. Tra questi, Unigen presenta il modulo AI Amaretti E1. S, che assomiglia a un SSD convenzionale ma vanta notevoli capacità di elaborazione AI.

Questo modulo è alimentato dall’acceleratore AI SAKURA-II di EdgeCortix. Inizialmente sviluppato per applicazioni AI a basso consumo, offre funzionalità avanzate a dispositivi come Raspberry Pi 5 e altre piattaforme basate su ARM. In particolare, il SAKURA-II integra una NPU in grado di raggiungere 60 TOPS di prestazioni INT8 e 30 TFLOPS di calcolo BF16.È dotato di un doppio controller di memoria LPDDR4x a 64 bit e offre ben 20 MB di cache SRAM integrata, il tutto in un package BGA compatto da 19×19 pollici con un consumo energetico di circa 8-10 watt.

Un chip EdgeCortix SAKURA-I1 montato su una scheda S2M2 Rev-C.

Unigen ha integrato con successo l’acceleratore AI SAKURA-II sulla scheda E1. S, migliorandone significativamente le funzionalità con una capacità di memoria fino a 32 GB. Questo modulo è disponibile in due versioni, da 16 GB e 32 GB, offrendo una notevole larghezza di banda fino a 68 GB/s. Con un consumo energetico di soli 10 watt, gli utenti possono raggiungere un’impressionante efficienza di 6 TOPS per watt.

La generosa capacità di memoria di 32 GB consente a questo modulo di gestire agevolmente modelli lineari di apprendimento (LLM) per l’IA con fino a 20 miliardi di parametri, rendendolo la scelta ideale per soluzioni di IA a basso consumo energetico incaricate di eseguire flussi di lavoro di IA generativa e IA agentica. Inoltre, questi moduli possono essere impilati in più slot M.2, ampliando le loro capacità di elaborazione complessive. Per applicazioni più esigenti, EdgeCortix offre anche una configurazione PCIe superiore con doppio chip e funzionalità estese, ma la soluzione M.2 si distingue come un’opzione interessante.

L'immagine mostra un'unità a stato solido Unigen Amaretti E1. S AI Module su sfondo nero. — Moduli Amaretti E1. S AI – Foto del prodotto e design promozionali

Molti PC, desktop e laptop dispongono di slot M.2 inutilizzati che potrebbero essere sfruttati per potenziare le funzionalità di intelligenza artificiale. Per coloro che cercano soluzioni di IA localizzate per migliorare le prestazioni dei propri sistemi, i moduli AI di Amaretti rappresentano un’opzione estremamente vantaggiosa.

Secondo Unigen, il modulo AI è compatibile con tutti i principali framework di intelligenza artificiale, tra cui TensorFlow, PyTorch, ONNX e Hugging Face. Le caratteristiche principali di questo modulo includono:

Modulo AI E1. S
Acceleratore di intelligenza artificiale: SAKURA-II
Prestazioni di inferenza fino a 1920 TOPS se utilizzato con server Dual CPU raffreddati ad aria.
Efficienza energetica con solo il 20% del wattaggio rispetto alle GPU di training
Supporto per modelli lineari generativi basati sull’IA (Generative AI LLM) con un massimo di 20 miliardi di parametri.
Tempi di consegna di circa 14 settimane, riducendo significativamente l’attesa associata ai server GPU.
Opzioni di memoria fino a 32 GB per modulo

Unigen fornisce il modulo Amaretti E1. S AI preinstallato con un dissipatore di calore per garantire prestazioni ottimali. Sebbene i dettagli sui prezzi non siano ancora stati resi noti, la capacità di memoria rappresenta un forte indicatore dei potenziali costi.

Fonte e immagini