RAMDeck: il nuovo hub per ottimizzare la RAM domestica in crowdfunding

RAMDeck è un innovativo hub a basso consumo energetico attualmente in crowdfunding su Indiegogo, con un prezzo early-bird di 109 dollari. La campagna ha un obiettivo di finanziamento fisso di 10.000 dollari e terminerà l’8 novembre 2026. Questo dispositivo è progettato per aggregare la memoria RAM di vari dispositivi, inclusi PC Windows, Mac, Linux e telefoni Android, per eseguire modelli di intelligenza artificiale che richiedono più risorse di quelle disponibili su un singolo dispositivo.

La genesi di RAMDeck si colloca in un contesto di forte aumento dei prezzi della memoria DDR5, che ha visto i costi salire a circa cinque volte rispetto a metà 2025. A differenza di altre soluzioni, RAMDeck non fonde la memoria a livello hardware; piuttosto, distribuisce i pesi di un modello tra i dispositivi connessi, mantenendo ciascuno la propria porzione di memoria locale e trasferendo solo i risultati intermedi attraverso la rete durante la generazione dei token.

L’infrastruttura software di RAMDeck si basa su llama.cpp, un protocollo che consente la comunicazione tra i nodi. Ogni dispositivo partecipante avvia un server ggml RPC, e il coordinamento avviene tramite il protocollo standard di llama.cpp. Un elemento chiave del progetto è l’orchestrazione fornita da TradeMAV, che include funzionalità come la scoperta automatica dei nodi, il posizionamento dei layer per ottimizzare l’uso di GPU veloci rispetto alla RAM di sistema, gestione dei guasti e un’API compatibile con OpenAI.

Le specifiche hardware del RAMDeck non sono state rese pubbliche, e la documentazione suggerisce che gli utenti con esperienza in scripting possono optare per una soluzione fai-da-te gratuita. Esistono già alternative software per il pooling e l’orchestrazione su dispositivi eterogenei, e sul mercato sono disponibili soluzioni commerciali di clustering ad alte prestazioni che sfruttano interconnessioni come Thunderbolt 5 con RDMA.

TradeMAV avverte che il pooling della memoria comporta un compromesso tra velocità e capacità. Per chi cerca prestazioni elevate, è consigliato l’acquisto di GPU con maggiore VRAM. I benchmark pubblicati mostrano che le configurazioni più veloci utilizzano mini PC con schede RTX 3060, ottenendo prestazioni significative con modelli mixture-of-experts. Ad esempio, sono stati registrati 39 token al secondo per il modello Qwen3-Coder 30B su una coppia di mini PC Beelink e un Mac mini M4, e 16 token al secondo per una variante 40B REAP di Qwen3-Coder-Next. Tuttavia, i modelli densi hanno mostrato prestazioni più modeste, con un modello 27B che ha raggiunto solo 1,92 token al secondo su quattro dispositivi.

In sintesi, RAMDeck si propone di semplificare l’orchestrazione multi-dispositivo utilizzando un software già disponibile gratuitamente. Tuttavia, mancano dettagli hardware specifici e le misurazioni pubblicate evidenziano limitazioni di prestazioni per i modelli densi. Per chi desidera sperimentare, è possibile utilizzare le modalità RPC di llama.cpp o soluzioni open source simili senza costi. Per chi preferisce una soluzione pronta all’uso, i 109 dollari per l’hub in preorder comportano i rischi tipici delle campagne di crowdfunding, inclusi possibili ritardi o modifiche al progetto.