Due fatti dell'estate 2026 rendono concreta una possibilità finora teorica: far ragionare un modello quasi-frontiera su dati sensibili che restano dentro l'edificio.
Nel dibattito online i due temi si sono fusi in una sola narrazione: «antirez ha fatto girare DeepSeek sulla macchina da 100.000 dollari di NVIDIA». La verifica sulle fonti primarie racconta una storia più precisa e, per certi versi, più interessante.
antirez lavora su hardware da scrivania di fascia personale. Le macchine di test elencate nel repository sono MacBook Pro M3 Max e M5 Max da 128 GB, Mac Studio M3 Ultra da 512 GB, una DGX Spark (GB10, 128 GB, circa 4.000 dollari), un Framework Desktop con AMD Strix Halo e un server con otto schede L40S. Il repository resta silenzioso sulla DGX Station GB300.
La macchina da 100.000 dollari è la DGX Station GB300, ordinabile da marzo 2026 e consegnata ai primi clienti dall'estate. Exxact la lista a 94.930 dollari, i distributori europei indicano un intervallo fra 103.500 e 123.000 dollari con tempi di consegna di 6-13 settimane. I test pubblici su questa macchina arrivano da altri: il primo esemplare è andato ad Andrej Karpathy, e un cliente del distributore tedesco pi3g ha misurato circa 159 token al secondo con DeepSeek-V4-Flash in NVFP4.
Il collegamento reale fra i due mondi è il software. DwarfStar è progettato per le classi di memoria da 128 GB e 512 GB, e la DGX Station con i suoi 748 GB di memoria coerente è il primo sistema deskside che rende pensabile un DeepSeek V4 PRO a 4 bit su una sola macchina.
Il titolo corretto è quindi doppio: un ingegnere italiano ha dimostrato che un modello da 284 miliardi di parametri gira bene su computer da 4.000-10.000 euro, e nel frattempo NVIDIA ha messo in vendita, a dieci volte tanto, la macchina che porta la stessa idea alla scala del modello da 1.600 miliardi.
Salvatore Sanfilippo, siciliano, classe 1977, è l'autore di Redis, il database in memoria che regge una parte rilevante del web moderno. Da anni scrive codice in C con un'ossessione per la semplicità e per la misurabilità. Nella primavera 2026 ha pubblicato DwarfStar 4 (repository antirez/ds4, licenza MIT, oltre 17.000 stelle su GitHub in pochi mesi), un motore di inferenza nativo scritto per un solo modello: DeepSeek V4 Flash, con supporto successivo a DeepSeek V4 PRO e GLM 5.2.
La dichiarazione di intenti nel README è esplicita: il progetto è volutamente stretto. Resta fuori dal perimetro l'idea di un runner GGUF generico, di un wrapper attorno a un altro runtime, di un framework. Il ragionamento è che il 95 % dei casi d'uso locali sia già coperto da progetti generalisti come llama.cpp, mentre alcuni modelli con caratteristiche estreme, la sparsità di DeepSeek V4 e la sua KV cache compressa, meritino un'implementazione dedicata e ottimizzata a mano.
Un dettaglio che merita trasparenza: l'autore dichiara nel README che il codice è sviluppato con forte assistenza di GPT 5.5, con gli umani a guidare idee, test e debugging. Il progetto riconosce inoltre un debito esplicito verso llama.cpp e GGML, da cui riprende formati di quantizzazione e alcuni kernel.
Le scelte tecniche che contano sono sei.
Quantizzazione a 2 bit asimmetrica. Solo gli esperti MoE instradati, cioè la maggior parte del volume del modello, vengono compressi a IQ2_XXS e Q2_K; proiezioni, routing ed esperti condivisi restano a 8 bit. Risultato: DeepSeek V4 Flash da 284 miliardi di parametri entra in circa 81 GB e, per dichiarazione dell'autore e per verifica contro i logit dell'API ufficiale, resta affidabile nel tool calling e nel coding agentico.
Tre backend nativi. Metal su Mac come target primario, da 96 GB in su; CUDA con cura specifica per DGX Spark e GPU NVIDIA anche multi-GPU; ROCm su AMD Strix Halo.
KV cache come cittadina di prima classe del disco. Le sessioni si salvano e si riprendono da SSD, il che azzera il prefill dei prompt lunghi tipici degli agenti di coding, che mandano decine di migliaia di token prima di iniziare a lavorare.
SSD streaming. Quando il modello supera la RAM, gli esperti vengono caricati dal disco su cache miss: la memoria diventa uno spettro di velocità invece di un limite binario, e un portatile da 64 GB esegue il Flash a 2 bit.
Inferenza distribuita. Due o più macchine si dividono i layer via TCP: due Mac Studio da 512 GB eseguono il PRO completo a 4 bit, 1.600 miliardi di parametri, a circa 11 token al secondo su Thunderbolt 5.
Server compatibile OpenAI e Anthropic. Gli endpoint /v1/chat/completions, /v1/responses e /v1/messages permettono a Claude Code, Codex CLI, opencode e Pi di collegarsi al modello locale così come sono.
Il perimetro dichiarato è altrettanto istruttivo. Il motore esegue esclusivamente i GGUF pubblicati dal progetto, e i file DeepSeek scaricati altrove rifiutano il caricamento. Supporta un modello alla volta, con politica dichiaratamente opportunistica: all'arrivo di un open weight migliore per la stessa classe di memoria, il precedente può uscire di scena. Il server serve una sola sessione viva alla volta, e il multi-utente arriva dai fork della comunità e dalla modalità multi-GPU. Il protocollo distribuito viaggia in chiaro, pensato per reti fidate. Il codice è dichiarato di qualità beta, l'agente è in stato alpha, e il percorso CPU su macOS resta uno strumento diagnostico.
I valori riportati nel README, con contesto 32k e decodifica greedy, disegnano una scala continua.
Un MacBook Pro M3 Max da 128 GB esegue il Flash a 2 bit con prefill fra 58 e 250 token al secondo e generazione fra 21,5 e 26,7. Il modello M5 Max sale a 87-463 in prefill e 25,9-34,3 in generazione. Un Mac Studio M3 Ultra da 512 GB porta il Flash a 4 bit a 79-449 in prefill e 26,6-35,5 in generazione, e regge il PRO a 2 bit a 9,6 token al secondo. La DGX Spark GB10 misura 13,8 token al secondo in versione upstream, e sale a 35-59 nei fork ottimizzati. Un server con otto L40S arriva a 2.000 token al secondo aggregati in prefill e 120 in generazione multi-sessione. La DGX Station GB300, nel test del cliente pi3g con vLLM, si colloca attorno a 159 token al secondo sul Flash in NVFP4.
La lettura corretta è questa: su un portatile da 128 GB la generazione a 25-35 token al secondo supera già la velocità di lettura umana; la DGX Station porta lo stesso modello a una velocità cinque volte superiore con una quantizzazione più conservativa, 4 bit invece di 2, e apre la porta al PRO su singola macchina.
Il cuore è il GB300 Grace Blackwell Ultra Desktop Superchip: CPU Grace da 72 core ARM e GPU Blackwell Ultra, collegate via NVLink-C2C a 900 GB/s. La memoria GPU è di 252 GB HBM3e a 7,1 TB/s, con sette stack su otto attivi, a fronte dei 288 GB e 8 TB/s promessi dalle specifiche 2025. La memoria CPU aggiunge 496 GB LPDDR5X a 396 GB/s, per un totale coerente di 748 GB. Il calcolo dichiarato arriva a 20 petaFLOPS FP4, con modelli fino a 1.000 miliardi di parametri.
Sul fronte rete la macchina monta una ConnectX-8 SuperNIC con due porte QSFP112 400 GbE, più 10 GbE e BMC. Assorbe 1.600 W da una presa domestica standard e pesa circa 45 kg. L'uscita video richiede una GPU RTX PRO aggiuntiva. Gli OEM sono ASUS, Dell, Exxact, Gigabyte, HP, MSI e Supermicro, con prezzi fra 95.000 e 123.000 dollari e attese di 6-13 settimane. Il software è DGX OS su ARM, con stack NVIDIA AI preinstallato e MIG fino a sette istanze; una versione Windows è annunciata per il quarto trimestre 2026.
Il punto tecnico da tenere a mente: i 748 GB sono memoria eterogenea. Il modello deve stare nei 252 GB veloci, mentre contesto e parti fredde scivolano nella memoria CPU con un costo di banda di circa diciotto volte. DeepSeek V4 Flash in FP4, circa 150 GB, sta interamente nell'HBM; il PRO a 4 bit, circa 800 GB, richiede due Station in NVLink oppure una quantizzazione a 2 bit.
Il fenomeno cambia una variabile finora considerata fissa: l'obbligo di scegliere fra qualità del modello e controllo del dato. Le conseguenze pratiche sono quattro.
Il dato smette di viaggiare. Studi legali, strutture sanitarie, uffici gare e pubbliche amministrazioni possono far ragionare un modello quasi-frontiera su fascicoli, cartelle cliniche e offerte tecniche mantenendo il trattamento dentro il proprio perimetro. GDPR, NIS2 e le linee guida AgID sull'AI nella pubblica amministrazione diventano più semplici da dimostrare quando il perimetro coincide con l'edificio.
Il costo diventa capex prevedibile. Una DGX Station da 100.000 dollari, ammortizzata su tre anni e usata in modo continuativo da un team, regge il confronto con molti contratti enterprise a consumo; una DGX Spark o un Mac Studio da 512 GB rendono lo stesso ragionamento accessibile a uno studio professionale.
Il modello diventa ispezionabile. Con i pesi in casa è possibile misurare il comportamento contro i logit ufficiali, applicare steering, congelare una versione per anni. Un servizio a consumo può cambiare modello sotto i piedi del cliente con un preavviso minimo.
Gli agenti diventano sostenibili. Un agente che lavora otto ore al giorno su un repository o su una knowledge base consuma milioni di token, e in locale il costo marginale si riduce alla bolletta elettrica.
Resta da costruire la parte difficile, perché la collocazione locale è una condizione, e la sicurezza è un lavoro. La macchina va inserita in un'architettura: segregazione di rete, autenticazione sull'endpoint, log delle richieste, gestione delle versioni dei pesi, policy sull'uso degli agenti che accedono ai file. È il livello in cui si colloca l'ambito AI Privacy First formalizzato da Synthos Logic, azienda che pubblica questa sala stampa e che opera in questo stesso mercato: la segnalazione vale come dichiarazione di posizione, oltre che come rimando. Il ferro e il motore tendono alla commodity, la governance resta il lavoro.
Un MacBook Pro da 128 GB o una DGX Spark, fra 4.000 e 6.000 euro, reggono il Flash a 2 bit con contesto fra 100k e 300k token: è la fascia del professionista singolo, dello sviluppatore, dello studio piccolo. Un Mac Studio M3 Ultra da 512 GB, fra 10.000 e 13.000 euro, porta il Flash a 4 bit e il PRO a 2 bit, con il PRO a 4 bit raggiungibile accoppiando due macchine: è la fascia dello studio professionale e del team di tre-cinque persone. La DGX Station GB300, fra 90.000 e 115.000 euro, offre il Flash a 4 bit ad alta velocità in multi-utente e il PRO con due Station: è la fascia dell'azienda, dell'ospedale, dell'ente pubblico, del gruppo di ricerca. Chi possiede già hardware Ada Lovelace può riutilizzarlo: un server con otto L40S e il server multi-GPU del progetto regge il Flash multi-sessione a 120 token al secondo aggregati.
Un'analisi onesta elenca i punti fragili.
Qualità del software. DwarfStar è dichiarato beta, con un autore principale e sviluppo assistito da AI. Un'organizzazione che lo adotta in produzione deve mettere in conto un fork mantenuto internamente, oppure la tolleranza alle rotture fra versioni.
Qualità del modello a 2 bit. I test dell'autore sono convincenti e limitati insieme: la degradazione su compiti lunghi, multilingua o giuridici italiani va misurata caso per caso. A 4 bit il rischio si riduce, al prezzo di più memoria.
Economia reale. DeepSeek vende V4 Flash via API a 0,14 dollari per milione di token in ingresso e 0,28 in uscita. Con carichi discontinui la macchina locale resta ferma, e il costo per attività completata favorisce il servizio a consumo. Il vantaggio locale è prima di tutto controllo, poi costo.
Hardware con asterischi. La DGX Station consegnata ha il 12 % di memoria HBM e di banda in meno rispetto alle specifiche annunciate; è ARM, richiede una GPU aggiuntiva per il monitor, ha lead time lunghi, e i primi benchmark pubblici sono a singolo flusso e provengono da un rivenditore.
Provenienza del modello. DeepSeek è un laboratorio cinese: i pesi sono aperti, e la licenza della famiglia V4 va verificata sulla model card prima di un uso commerciale. Alcune organizzazioni pubbliche possono avere vincoli di policy indipendenti dalla licenza.
La collocazione locale è una premessa, la conformità è un risultato. Un modello in casa esposto in rete aziendale con autenticazione debole, e agenti che leggono file arbitrari, è un incidente in attesa di accadere. Il protocollo distribuito del progetto viaggia in chiaro per scelta di design.
Obsolescenza. L'autore avverte che il modello supportato può cambiare. Chi congela una versione per stabilità rinuncia ai miglioramenti, chi segue il progetto accetta discontinuità.
Per un'organizzazione italiana che tratta dati sensibili e vuole misurare questa strada, la sequenza ragionevole costa poco e produce numeri propri.
Si parte da una macchina di fascia bassa, un portatile da 128 GB o una DGX Spark, e da un carico reale già in casa: cento fascicoli, cento referti, cento capitolati. Su quel campione si misurano tre cose che decidono tutto, cioè qualità della risposta contro un modello a consumo usato come riferimento, token al secondo alla lunghezza di contesto che serve davvero, e ore-uomo risparmiate per pratica.
Il secondo passo è architetturale e precede l'acquisto grande: rete segregata, endpoint autenticato, log delle richieste conservato, versione dei pesi congelata e dichiarata. Il terzo è contrattuale: verificare la licenza dei pesi sulla model card e mettere per iscritto chi risponde di cosa quando un agente locale tocca un documento.
Solo dopo ha senso ragionare sulla macchina da 100.000 dollari. La domanda che resta aperta per il mercato europeo è di scala: quanti dei modelli quasi-frontiera dei prossimi diciotto mesi resteranno eseguibili su una singola macchina da ufficio, e quanti torneranno a richiedere il data center. La risposta decide se questa finestra è una transizione o una parentesi.
Autore
Pablo Liuzzi
Founder, Synthos Logic
antirez/ds4, README con architettura, benchmark e limiti — GitHub, agosto 2026QA_BEFORE_RELEASES.md, elenco delle macchine di test — GitHub, agosto 2026