Span sta trasformando il tuo cortile in un data center

17

Una scatola grande quanto un condizionatore. Seduto nel tuo cortile. Canticchiando con le attività dell’intelligenza artificiale mentre dormi.

Trae energia da casa tua. Ti paga con elettricità e internet scontati. O almeno così va il discorso.

Questo è XFRA. Una rete distribuita di nodi informatici in miniatura. Presentato da Span, la startup di pannelli intelligenti fondata a San Francisco nel 2008. Hanno collaborato con Nvidia. L’idea? Smetti di costruire data center enormi e schiaccianti. Inizia a utilizzare la griglia che già possiedi.

“L’accesso all’elettricità è diventato uno dei maggiori vincoli nel settore dell’intelligenza artificiale”.

Le utenze sono soffocate. Le griglie sono piene.

Vuoi collegare un impianto da 100 megahawatt? Aspetta quattro anni. Sette, in alcune parti del Paese. Alla fine del 2025? Più di 2.064 gigawatt di capacità sono semplicemente… seduti lì. In attesa. Secondo il Lawrence Berkeley National Lab, le code sono assurdamente lunghe.

Span pensa di conoscere una soluzione alternativa.

Non costruire un mostro gigante. Distribuisci il morso. In migliaia di case. Case già connesse. Case che non utilizzano tutta l’energia per cui sono suddivise in zone.

La matematica disturba gli esperti

È intelligente. Potrebbe funzionare.

Jonathan Koomey, che studia l’energia dei data center, è scettico. Non perché la tecnologia non sia adatta. Ma perché l’economia è confusa. I grandi centri appositamente costruiti hanno una certa scala. Scala enorme. Un’unità da giardino può competere?

“Noi diciamo che è una questione di velocità”, osserva Koomey. “Ma i benefici devono superare la scala”.

L’hardware è roba seria, però.

Ogni nodo XFRA racchiude 16 GPU Nvidia, quattro CPU e tre terabyte di memoria. Mahadev Satyanarayanan della Carnegie Mellon lo definisce “piuttosto robusto”. Un modello linguistico modesto e di grandi dimensioni funziona proprio lì. Nessun problema.

Il colpo di energia è reale.

Un nodo assorbe 12,5 kilowatt a piena potenza.
Fai i conti.

Circa 8.000 nodi equivalgono alla fame di energia di un data center medio da 100 MW.

Ecco il bello: un’unità XFRA che funziona a pieno regime per tre giorni consuma tanta energia quanta ne brucia una famiglia media negli Stati Uniti in un mese intero.

Span sostiene che va bene. Perché?

La maggior parte delle case moderne sono cablate per 20 amp. Raramente ne usano 80. Anche se metti da parte un buffer di sicurezza, c’è una parte di capacità… che resta lì. Inutilizzato. Chris Lander, vicepresidente di VFRA, vede quella capacità inattiva come denaro rimasto sul tavolo.

Ma la rete odia questa idea

Il carico extra non è invisibile al sistema.

Rich Brown, un altro veterano del Berkeley Lab, è preoccupato. Le griglie si basano sulla diversità. Non tutte le persone accendono l’aria condizionata alle 17:00. Ciò crea una bella curva di picchi e valli. Data center distribuiti? Riempiono le valli. Appiattiscono la curva. O peggio, crea nuovi picchi acuti.

Poi c’è il carico di domani.

Pannelli solari. Pompe di calore. Auto elettriche. Tutta quella roba consuma capacità. Il margine di manovra a cui mira Span potrebbe non esistere tra cinque anni. Koomey mette in guardia dall’ignorare questa traiettoria.

E parliamo di velocità. O la sua mancanza.

L’intelligenza artificiale ha bisogno di chip per parlare. Veloce. Formare un modello di frontiera? Richiede migliaia di chip che si scambiano dati quasi in tempo reale. Non puoi distribuire questi compiti nei cortili di periferia. La latenza lo ucciderà.

Inferenza? Storia diversa.

L’inferenza è la parte di domande e risposte. Chiacchierata. Codifica. Compiti agentici. Quelli non hanno bisogno di una mente alveare. Possono accadere indipendentemente.

“La vicinanza del nodo è molto importante. L’utente vede il vantaggio.”

Per gli assistenti vocali. Traduzione dal vivo. Realtà aumentata. Essere vicini aiuta. Meno tempo di percorrenza del segnale. Risposte più rapide. Satyanarayanan ammette che la vittoria in termini di prestazioni è reale.

Testare le acque

Allora chi riceverà per primo queste scatole?

Costruzioni di nuove case. PulteGroup, uno dei maggiori costruttori americani, sta installando unità XFRA in nuove comunità. Stanno testando i prototipi adesso. Con clienti paganti.

L’autunno porta con sé il passo successivo: 100 unità. Gonfiando la rete a circa 1,2 mega watt di calcolo. Nel sud-ovest. Sud-ovest caldo e secco. Dove il raffreddamento diventa un problema immediato.

Le unità sono raffreddate a liquido. Le pompe di calore estraggono il calore. Niente acqua. Tranquillo, afferma Span. Più silenzioso del tuo condizionatore, comunque.

I proprietari di case non pagano nulla per l’hardware. Tariffa fissa per alimentazione/WiFi. Guadagnano crediti in base all’utilizzo. Alla fine Span punta a 1 gigawatt di capacità. È una cosa grandiosa. È enorme.

Ma è pratico?

Una batteria di backup gestisce picchi o interruzioni. Lo span può limitare i lavori o spostarli su un altro nodo se le cose si fanno troppo strette. Promettono che la vita del proprietario della casa non cambierà. Nemmeno uno sfarfallio.

Satyanarayanan vede il problema.

Lo spostamento dei carichi di lavoro costa denaro. Quindi fai le riparazioni. Il modello finanziario di Span presuppone un andamento tranquillo. La realtà è più accidentata.

“Ci sono molte incognite sul fronte degli affari.”

Ha venduto la tecnologia. Completamente convinto. Il lavoro di fisica. L’ingegneria regge.

La parte del denaro?

Questa rimane una questione aperta. Vedremo quale parte vincerà. L’efficienza della distribuzione o le brutali economie di scala.

Nessuno lo sa ancora veramente.