In Breve
- Cos'è RAMDeck?
- RAMDeck è un hub in crowdfunding che aggrega la RAM di più dispositivi per eseguire modelli di intelligenza artificiale.
- Qual è l'obiettivo della campagna di crowdfunding?
- L'obiettivo della campagna è raccogliere 10.000 dollari entro l'8 novembre 2026.
- Come funziona l'orchestrazione di RAMDeck?
- Utilizza un'infrastruttura software basata su RPC di llama.cpp per coordinare i dispositivi nella rete.
RAMDeck: l’hub innovativo per potenziare la RAM dei dispositivi domestici
Il mondo della tecnologia è in continua evoluzione e, in questo contesto, emerge RAMDeck, un hub a basso consumo attualmente in crowdfunding su Indiegogo. Con un prezzo early-bird di 109 dollari, la campagna ha come obiettivo 10.000 dollari e terminerà l’8 novembre 2026. Ma cosa rende questo dispositivo così interessante?
Un’idea rivoluzionaria per l’intelligenza artificiale
RAMDeck si propone di aggregare la memoria RAM di diversi dispositivi, tra cui PC Windows, Mac, Linux e smartphone Android, per eseguire modelli di intelligenza artificiale troppo grandi per un singolo dispositivo. Questa soluzione è particolarmente rilevante in un periodo in cui i prezzi della memoria DDR5 hanno raggiunto livelli record, quintuplicandosi rispetto a metà 2025.
Come funziona RAMDeck?
Contrariamente a quanto si potrebbe pensare, RAMDeck non fonde la memoria a livello hardware. Invece, i pesi di un modello vengono distribuiti tra le macchine, ognuna delle quali mantiene la propria porzione di memoria locale e trasferisce solo i risultati intermedi attraverso la rete durante la generazione dei token.
L’infrastruttura software di RAMDeck si basa sull’RPC di llama.cpp. Un agente nodo avvia il server ggml RPC su ogni dispositivo partecipante, mentre il coordinamento avviene tramite un protocollo standard. L’elemento distintivo di TradeMAV è l’orchestrazione attorno a questo motore, che include la scoperta automatica dei nodi, il posizionamento dei layer privilegiando GPU veloci rispetto alla RAM di sistema, la gestione dei guasti e un’API compatibile con OpenAI.
Specifiche hardware e alternative
Attualmente, le specifiche hardware di RAMDeck non sono state rese pubbliche, il che solleva alcune domande. Tuttavia, la documentazione suggerisce che gli utenti esperti possono optare per una soluzione fai-da-te gratuita. Esistono già alternative software per il pooling e l’orchestrazione su dispositivi eterogenei, così come soluzioni commerciali di clustering ad alte prestazioni che utilizzano interconnessioni come Thunderbolt 5 con RDMA.
Prestazioni e raccomandazioni
TradeMAV avverte che il pooling della memoria può sacrificare la velocità in favore della capacità. Per chi cerca prestazioni elevate, è consigliabile investire in GPU con più VRAM. I benchmark mostrano che le configurazioni più veloci utilizzano mini PC con RTX 3060, raggiungendo risultati notevoli come 39 token/s per Qwen3-Coder 30B su una coppia di Beelink mini PC e Mac mini M4.
Tuttavia, i modelli densi tendono a mostrare prestazioni più modeste, con un 27B denso che ha ottenuto solo 1,92 token/s su quattro dispositivi. Questi risultati evidenziano i limiti di prestazione per modelli densi, ma evitano crash per esaurimento di memoria.
Conclusioni e opportunità
In sintesi, RAMDeck punta a semplificare l’orchestrazione multi-dispositivo, anche se mancano dettagli hardware cruciali. Per chi è interessato a sperimentare, esistono già modalità RPC di llama.cpp e soluzioni open source simili senza costi. Per chi preferisce la comodità, l’hub è disponibile in preorder a 109 dollari, con i rischi tipici delle campagne di crowdfunding, tra cui ritardi e cambiamenti.