DS4 di antirez, l'intelligenza artificiale che gira a casa tua

C'è un programmatore siciliano, Salvatore Sanfilippo, che nel software conoscono tutti come antirez. È l'uomo che ha inventato Redis, uno di quei pezzi di infrastruttura invisibili che fanno girare mezza internet. Molti menolo conoscono per un capolavoro di codice dump1090 che permette con hardware usb da poche decine di euro di "intercettare" il messaggi squawk del traffico aere. A maggio del 2026 ha pubblicato una cosa piccola e affilata che secondo me vale la pena capire, si chiama DS4, e fa una promessa semplice. Prendere un modello di intelligenza artificiale di quelli grossi, di quelli che di solito girano solo nei datacenter, e farlo girare sul tuo computer. A casa tua, in ufficio, offline, senza chiedere il permesso a nessuno.

Proviamo a spiegare cosa fa davvero, perché è furbo dal punto di vista tecnico, e soprattutto perché secondo noi è una notizia che parla di una cosa molto più grande del software.

Prima di tutto, cosa vuol dire far girare un modello

Quando usi un assistente AI da un sito, non stai usando niente sul tuo computer. Il tuo testo parte, viaggia fino a un datacenter dall'altra parte del mondo, lì un ammasso di schede grafiche costosissime calcola la risposta, e te la rimanda indietro. Il pezzo di software che fa quel calcolo si chiama motore di inferenza. È il motore che, dato il modello e la tua domanda, produce le parole di risposta una dopo l'altra.

DS4 è esattamente questo, un motore di inferenza. La differenza è dove gira. Non in un datacenter, ma su una macchina che puoi avere sulla scrivania.

Il modello che fa girare, DeepSeek V4 Flash

DS4 è nato per un modello preciso, DeepSeek V4 Flash, uscito open source ad aprile del 2026 da un laboratorio cinese. È un modello enorme sulla carta, 284 miliardi di parametri, ma è costruito con un'idea chiamata Mixture of Experts. In parole povere il modello è diviso in tanti piccoli specialisti, e per ogni parola che genera ne accende solo una manciata, quelli giusti per quel pezzo di ragionamento. Gli altri restano spenti. Questa cosa si chiama sparsità, ed è il motivo per cui un modello gigantesco può comunque girare senza avere un datacenter sotto.

Non è un dettaglio da poco. Vuol dire che la conoscenza è distribuita in tanti esperti, e in ogni singolo passaggio la maggior parte di quegli esperti non viene nemmeno toccata.

Il primo trucco, comprimere solo dove non fa male

Un modello di questa taglia, se lo tieni a piena precisione, occupa una quantità di memoria che nessun computer normale ha. La soluzione classica si chiama quantizzazione, cioè riduci la precisione dei numeri che compongono il modello. È un po' come passare da una foto a milioni di colori a una con molti meno colori, occupa meno spazio ma se esageri si vede.

Qui antirez fa la mossa intelligente. Invece di comprimere tutto allo stesso modo, comprime in modo asimmetrico. Gli esperti della Mixture of Experts, che come abbiamo detto per lo più restano spenti, vengono schiacciati fino a 2 bit per numero, una compressione violenta. Tutto il resto, l'attenzione, il router che decide quali esperti accendere, le parti delicate, resta a piena qualità. Il risultato è che il modello scende a circa 76 gigabyte, entra in una macchina da 128 gigabyte di memoria, e la qualità regge. Regge anche perché il modello era stato addestrato apposta per tollerare questa compressione, quindi il merito è condiviso tra chi ha fatto DeepSeek e chi ha fatto DS4. Su questo antirez è onesto e lo dice chiaramente.

La KV cache, la memoria di lavoro del modello

Adesso arriviamo al cuore della faccenda, e serve capire una cosa che di solito resta nascosta.

Quando parli con un modello, lui non rilegge tutta la conversazione da capo a ogni parola. Sarebbe lentissimo. Invece, mentre legge quello che gli hai scritto, per ogni pezzo di testo si prende degli appunti interni, delle specie di scorciatoie che gli servono per non ricalcolare tutto ogni volta. Questi appunti si chiamano KV cache, la cache delle chiavi e dei valori. Puoi pensarla come la memoria di lavoro del modello, i foglietti su cui ha segnato tutto quello che è stato detto finora.

Il problema è che questa memoria di lavoro cresce. Più lunga è la conversazione, più appunti, più memoria occupata. Su conversazioni davvero lunghe, o su documenti enormi dati in pasto al modello, la KV cache diventa il vero collo di bottiglia, mangia la RAM prima ancora del modello stesso. Di solito questi foglietti stanno tutti nella memoria veloce e costosa, e quando finisce la memoria, finisce la festa.

Trattare la KV cache come carburante sull'SSD

Ed ecco l'idea che dà il titolo a tutto. Antirez smette di trattare la KV cache come una cosa che deve stare solo in RAM, e comincia a trattarla come un file. La scrive sull'SSD, il disco a stato solido, gli dà un nome basato su un'impronta del contenuto, e la parcheggia lì.

L'immagine giusta è quella del carburante. La RAM è il motore, veloce e costoso, ma piccolo. L'SSD è il serbatoio, più lento ma enorme ed economico. Invece di pretendere che tutto il carburante stia dentro il motore, lo tieni nel serbatoio e ne pompi dentro solo la quantità che ti serve in quel momento. La stessa logica DS4 la usa anche per gli esperti del modello, li carica dal disco solo quando servono davvero, e quelli che in quel passaggio restano spenti non occupano posto.

Le conseguenze pratiche sono belle concrete. Chiudi il computer con una chat lunga aperta e la riprendi dal punto esatto, perché quegli appunti erano su disco e non sono svaniti. Fai due domande che partono dallo stesso documento e la parte comune viene riusata invece di ricalcolarla. E soprattutto, su una macchina da 128 gigabyte dove il modello ne occupa 76, puoi lavorare con contesti vicini al milione di parole, roba che tenuta tutta in RAM sarebbe semplicemente impossibile.

C'è un prezzo, ovvio. Il disco è più lento della RAM, quindi ogni tanto si aspetta. Ma proprio perché il modello è sparso e la maggior parte degli esperti non viene toccata, e perché la cache si può parcheggiare senza ricalcolarla, il compromesso torna. È ingegneria vera, non magia.

Quanto va e quanto beve

Numeri concreti, perché servono. Su un MacBook Pro M3 Max con 128 gigabyte, alla compressione a 2 bit, DS4 genera intorno alle 26 parole al secondo. Sulla lettura di un prompt lungo, quasi dodicimila parole, arriva a centinaia di parole al secondo. Su un Mac Studio più carico si sale ancora. Sono velocità che per lavorarci davvero vanno benissimo, si legge la risposta mentre esce.

Il dato che colpisce di più però è un altro, il consumo. Durante la generazione a piena velocità quel portatile tocca circa 50 watt. È il consumo di un computer che lavora, non di un armadio in un datacenter. Un modello di frontiera che gira spendendo l'energia di un laptop è una cosa che due anni fa avremmo detto impossibile.

Il punto che conta davvero, non dipendere da nessuno

Fin qui abbiamo parlato di tecnica. Adesso parliamo del motivo per cui secondo noi questa storia è importante, e non è la velocità.

Immagina di aver costruito il tuo prodotto, il tuo servizio, il tuo flusso di lavoro sopra un modello di intelligenza artificiale che chiami tramite internet da un fornitore. Funziona benissimo, oggi. Domani quel fornitore può alzare il prezzo di cinque volte, e tu paghi o chiudi. Può cambiare le condizioni d'uso. Può mandare in pensione il modello esatto su cui avevi tarato tutto, e il giorno dopo le tue istruzioni non funzionano più uguali. Può decidere che il tuo settore non gli piace. E poi c'è lo strato sopra a tutto, la geopolitica. Un modello sta di qua, un altro sta di là, e da un mese all'altro cambiano le regole su cosa si può esportare, chi può usare cosa, quali servizi sono raggiungibili dal tuo Paese. Tu hai costruito una casa sopra un terreno che non è tuo, e chi possiede il terreno può cambiare le regole quando vuole.

Un modello che gira in locale ribalta completamente questa faccenda. I pesi del modello sono un file, sul tuo disco, sulla tua macchina. Nessuno te lo può togliere, spegnere, limitare o rincarare. Nessuno vede i tuoi dati, perché non escono da lì. Se domani il fornitore sparisce, cambia bandiera o viene bloccato, a te non cambia niente, perché quel file ce l'hai già. Non stai scommettendo il tuo business sulla buona volontà di qualcuno dall'altra parte del mondo.

E qui c'è il bello della vicenda, quasi ironico. DeepSeek è un modello cinese, aperto, che chiunque può scaricare. Tanti dei servizi più blasonati sono invece americani e chiusi. Il punto non è tifare per una squadra. Il punto è esattamente il contrario, non essere ostaggio di nessuna delle due. Quando i pesi sono aperti e girano a casa tua, la partita tra i giganti diventa un problema loro, non tuo.

Per chi lavora con dati sensibili questo smette di essere filosofia e diventa pratica. Uno studio legale, un medico, un commercialista, chi gestisce brevetti. Gente che quei dati non può mandarli a un servizio cloud, per privacy, per il GDPR, per semplice buon senso. Con un modello locale il dato non si muove mai, resta sulla macchina in ufficio, e l'AI va a lui invece del contrario.

Dove sta la fregatura, perché serve onestà

Sarebbe scorretto raccontarla solo bella. DS4 oggi non è roba da installare col doppio click. Serve una macchina con almeno 128 gigabyte di memoria, quindi un Mac Studio o una workstation dedicata, non il portatile della zia. Fa girare un solo modello, per scelta precisa, non è un coltellino svizzero. È dichiarato codice beta, quindi ancora in fase di rifinitura. E antirez supporta solo l'hardware che possiede di persona, il che è onesto ma vuol dire che non tutto è coperto.

C'è anche una cosa che ci piace, la sincerità sul metodo. Antirez dice apertamente che DS4 è stato scritto con forte assistenza di un modello AI, con gli umani sopra le idee, i test e la caccia agli errori. Non lo nasconde, anzi lo rivendica come il modo in cui si scrive software adesso. E la compressione a 2 bit resta un compromesso, non è gratis, un pezzetto di qualità lo paghi, anche se la struttura del modello lo rende molto meno doloroso di quanto sembri.

Perché ne parlo

Perché la direzione è chiara, e ci riguarda da vicino. L'intelligenza artificiale di qualità sta smettendo di essere una cosa che puoi solo affittare da lontano, e sta diventando una cosa che puoi possedere e tenere sotto il tuo tetto. DS4 non è ancora il prodotto per tutti, è la dimostrazione che si può fare, oggi, su hardware che si compra. Per un'azienda che tiene alla riservatezza dei propri dati, o che semplicemente non vuole legare il proprio futuro alle scelte di qualcun altro, questa non è più fantascienza. È una strada.

E secondo noi è la strada giusta. Non perché il cloud sia il nemico, ma perché avere una scelta, avere il controllo, poter dire di no e restare in piedi lo stesso, è sempre meglio che dipendere.

Se volete curiosare, il progetto sta su Github come antirez ds4, e il modello quantizzato si trova su huggingface.