L’intelligenza artificiale in casa: meglio una superworkstation o una scatoletta da 15cm?

Tra i piccoli supercomputer che usano i processori nVidia dedicati all’AI e le workstation con RTX 5090 si gioca una partita che riguarda molto più il controllo dei dati, dei costi e delle competenze interne che non della pura potenza

C’è una domanda che negli ultimi mesi sta rimbalzando nelle riunioni IT di molte aziende italiane, dalle software house di medie dimensioni agli studi di ingegneria, passando per i reparti R&D dell’industria manifatturiera: conviene continuare ad affittare potenza di calcolo in cloud per sperimentare con l’intelligenza artificiale oppure è arrivato il momento di comprarsela e tenerla in ufficio?

Le bollette del cloud computing che crescono più velocemente di quanto ci si aspettasse, i responsabili della privacy che chiedono dove finiscono davvero i dati aziendali dati in pasto all’AI e i team tecnici che vogliono poter usare un modello senza aspettare che si liberi una GPU sul cloud sono tutti ottimi motivi per rispondere che è meglio fare da sé, ma costruirsi in casa una infrastruttura AI è un compito tutt’altro che triviale e l’hardware per farlo è molto costoso. Per questo molte aziende sono tornate a sperimentare e le strade da seguire sono principalmente due: preparare delle workstation con schede grafiche Nvidia di ultima generazione (le famose RTX5090 che, però sono costosissime) oppure usare i computer basati sulla piattaforma Spark di Nvidia, piccole scatole con 128GB di RAM e un processore pensato per fornire inferenza AI della famiglia Blackwell. Abbiamo provato un Asus Ascent GX10 per qualche settimana e ci siamo resi conto di quanto siano diverse tra di loro queste scelte e che non esiste una soluzione sempre migliore dell’altra.

Per capire la differenza tra i due approcci, un’immagine aiuta più di una tabella di specifiche tecniche: l’ASUS GX10 ricorda un elefante con la memoria di ferro, capace di tenere in testa contemporaneamente la mappa di tutte le pozze d’acqua della savana, ma non particolarmente scattante quando deve andare da una all’altra; la workstation con RTX 5090 è il ghepardo che brucia la pista, ma solo sulla breve distanza. La differenza principale la fa la memoria RAM che viene montata. Per far girare bene i modelli AI, infatti, questi devono stare tutti nella stessa memoria, quanto più vicina possibile all’unità di elaborazione. L’architettura del SoC Nvidia GB10, che è alla base dell’Asus Ascent GX10 (ma anche di molte altre scatolette simili di altri produttori), vanta ben 128GB di RAM che possono essere usati per ospitare i modelli AI. I sistemi basati sulla RTX5090, invece, possono sfruttare solo i 32GB della velocissima RAM DDR7 a bordo della scheda. Se il modello è più grande, non ci sta e la gara non inizia neanche.

Addirittura, l’ASUS Ascent GX10 è progettato per poter collegare in cascata due box uguali tramite la rete NVIDIA ConnectX-7 e gestire modelli ancora più grandi, come Llama 3.1 a 405 miliardi di parametri, una cosa impossibile per una singola workstation consumer, per quanto ben equipaggiata. Dall’altro lato, con i suoi 32 GB la RTX 5090 riesce comunque a far girare bene modelli come Llama 3 da 70miliardi di parametri in quantizzazione Q4-Q6, DeepSeek R1 in Q4, e modelli di generazione video come Wan 14B, purché si accettino alcuni compromessi per farceli stare.

In termini pratici, per le aziende questo significa che se il progetto è costruire un assistente virtuale interno basato su un modello open-source di fascia alta, senza scendere a compromessi sulla qualità delle risposte, il GX10 (o un cluster di due unità) offre più margine di manovra. Se invece il progetto riguarda l’addestramento fine di modelli più piccoli, la generazione di immagini o video o compiti che richiedono cicli di calcolo intensi e ripetuti — quindi forza bruta più che capacità — la RTX 5090 si dimostra nettamente più reattiva.

Sul fronte prezzo, i due prodotti si posizionano in fasce diverse ma non lontanissime. L’Ascent GX10 si trova online a partire da circa 3.600 euro (prezzo soggetto a volatilità notevole), un costo tutto sommato ragionevole per gli scopi per i quali è pensato: portare sistemi AI che preservano la privacy in piccoli uffici e sperimentazione per chi deve progettare sistemi più grandi. Una workstation con RTX 5090 parte dal costo della scheda stessa (che al momento in cui scrivo è a un minimo di 4.400 euro) e poi va a completarsi con il resto del PC considerando anche consumi che superano il KW/h.

Ma il costo economico è solo metà della storia. L’altra metà riguarda quello che in azienda si chiama, con un termine un po’ abusato ma efficace, “total cost of ownership esteso”: tempo di configurazione, competenze necessarie per mantenere il sistema, energia elettrica consumata, spazio fisico occupato.

Qui il GX10 gioca una carta che in molte aziende pesa più di quanto si pensi: la compattezza. Il dispositivo misura appena 15x 15 x 5 centimetri, sta letteralmente su una scrivania accanto alla tastiera e, anche se tende a diventare caldo sotto stress, non è rumoroso.

In questo periodo, sta succedendo una cosa che raramente si è vista in passato: i costi non sono più la molla delle scelte tecnologiche. Quello che conta adesso, con una legislatura così rigida sui temi della sovranità e una situazione geopolitica che ha letteralmente distrutto la fiducia di tutti nei confronti di tutti gli altri, si vuole avere il controllo. Con l’Ascent GX10, promette ASUS, si ottiene un sistema AI completamente locale, con costi prevedibili, stabilità di livello enterprise e nessuna esposizione dei dati verso l’esterno. È uno slogan pubblicitario, certo, ma intercetta un’esigenza sentita da molte aziende, specialmente quelle che maneggiano dati sensibili (sanitari, finanziari, industriali coperti da segreto ) e che non possono permettersi di mandare informazioni riservate a un’API cloud, per quanto blindata sia la promessa contrattuale del fornitore. Lo stesso vale, con sfumature diverse, per la workstation con RTX 5090: chi la sceglie spesso lo fa non solo per la potenza di calcolo, ma perché vuole un ambiente di sviluppo che non dipenda da una connessione internet stabile, da un abbonamento cloud rinnovabile, da un fornitore che potrebbe cambiare condizioni contrattuali da un giorno all’altro e che alla fine vede quello che il tuo codice fa.

Va detto, per completezza, che nessuno dei due sistemi sostituisce davvero l’infrastruttura cloud quando si tratta di addestrare modelli da zero su scala enorme, o di gestire carichi di lavoro distribuiti su più giorni: per quello, come ricordano gli stessi integratori di sistemi, restano necessarie GPU di classe H100 o H200 in un data center. Ma un giorno si arriverà anche lì, perché Internet ha aperto il mondo e gli interessi governativi ne hanno approfittato senza alcun limite.