Sebuah kotak seukuran unit AC. Duduk di halaman sampingmu. Bersenandung dengan tugas AI saat Anda tidur.
Ini menarik listrik dari rumah Anda. Ini memberi Anda potongan harga listrik dan internet. Atau begitulah nadanya.
Ini adalah XFRA. Jaringan terdistribusi dari node komputasi mini. Diungkapkan oleh Span, startup panel pintar yang didirikan di San Francisco pada tahun 2008. Mereka bermitra dengan Nvidia. Idenya? Berhenti membangun pusat data yang besar dan merusak jaringan. Mulailah menggunakan grid yang sudah Anda miliki.
“Akses terhadap listrik telah menjadi salah satu kendala terbesar dalam industri AI.”
Utilitas terhambat. Grid sudah penuh.
Ingin menyambungkan fasilitas 100 megawatt? Tunggu empat tahun. Tujuh, di beberapa bagian negara. Pada akhir tahun 2025? Kapasitas lebih dari 2.064 gigawatt hanya… ada di sana. Menunggu. Menurut Lawrence Berkeley National Lab, antriannya sangat panjang.
Span mengira ia mengetahui solusinya.
Jangan membangun satu monster raksasa. Sebarkan gigitannya. Di ribuan rumah. Rumah yang sudah terhubung. Rumah-rumah yang tidak menggunakan semua jus yang mereka zonakan.
Matematika Mengganggu Para Ahli
Itu pintar. Ini mungkin berhasil.
Jonathan Koomey, yang mempelajari energi pusat data, merasa skeptis. Bukan karena teknologinya tidak cocok. Tapi karena perekonomiannya kabur. Pusat-pusat besar yang dibangun khusus mempunyai skala. Skala besar. Bisakah unit halaman belakang bersaing?
“Kami bilang ini soal kecepatan,” kata Koomey. “Tetapi manfaatnya harus lebih besar daripada skalanya.”
Namun, perangkat kerasnya adalah hal yang serius.
Setiap node XFRA dilengkapi dengan 16 GPU Nvidia, empat CPU, dan memori tiga terabyte. Mahadev Satyanarayanan dari Carnegie Mellon menyebutnya “cukup gemuk.” Model bahasa besar yang sederhana berjalan di sana. Tidak masalah.
Pukulan energi itu nyata.
Satu node menggunakan 12,5 kilowatt dengan daya penuh.
Lakukan perhitungan.
Sekitar 8.000 node setara dengan kebutuhan listrik yang dibutuhkan oleh pusat data berukuran sedang sebesar 100 MW.
Inilah yang menarik: unit XFRA yang beroperasi dengan kemiringan penuh selama tiga hari menghabiskan energi sebanyak rata-rata yang dibakar rumah tangga AS dalam sebulan penuh.
Span berpendapat itu tidak masalah. Mengapa?
Kebanyakan rumah modern memiliki kabel sebesar 20 amp. Mereka jarang menggunakan 80. Bahkan jika Anda menyisihkan penyangga keamanan, ada sebagian besar kapasitas… hanya diam saja. Tidak digunakan. Chris Lander, VP VFRA, melihat kapasitas menganggur itu sebagai sisa uang di atas meja.
Tapi Grid Membenci Ide Ini
Beban tambahan tidak terlihat oleh sistem.
Rich Brown, dokter hewan Lab Berkeley lainnya, khawatir. Jaringan bergantung pada keberagaman. Tidak semua orang menyalakan AC pada jam 5 sore. Itu menciptakan kurva puncak dan lembah yang bagus. Pusat data terdistribusi? Mereka memenuhi lembah. Mereka meratakan kurva. Atau lebih buruk lagi, menciptakan duri-duri baru yang tajam.
Lalu ada beban besok.
Panel surya. Pompa panas. Mobil listrik. Semua itu memakan kapasitas. Target “ruang kepala” yang ditargetkan mungkin tidak akan ada dalam lima tahun. Koomey memperingatkan agar tidak mengabaikan lintasan tersebut.
Dan mari kita bicara tentang kecepatan. Atau kekurangannya.
AI membutuhkan chip untuk berbicara. Cepat. Melatih model perbatasan? Memerlukan ribuan chip yang saling mengirimkan data satu sama lain hampir secara real-time. Anda tidak dapat menyebarkan tugas-tugas tersebut ke halaman belakang pinggiran kota. Latensi akan mematikannya.
Kesimpulan? Cerita yang berbeda.
Inferensi adalah bagian tanya jawab. Mengobrol. Pengkodean. Tugas agen. Itu tidak membutuhkan pikiran yang buruk. Itu bisa terjadi secara mandiri.
“Kedekatan node sangat berarti. Pengguna dapat merasakan manfaatnya.”
Untuk asisten suara. Terjemahan langsung. realitas tertambah. Menjadi dekat membantu. Lebih sedikit waktu tempuh untuk sinyal. Respons yang lebih tajam. Satyanarayanan mengakui kemenangan kinerja itu nyata.
Menguji Air
Jadi siapa yang pertama kali mendapat kotak-kotak ini?
Pembangunan rumah baru. PulteGroup, salah satu pengembang terbesar di Amerika, meluncurkan unit XFRA di komunitas baru. Mereka sedang menguji prototipe sekarang. Dengan pelanggan yang membayar.
Musim gugur membawa langkah berikutnya: 100 unit. Meningkatkan jaringan menjadi sekitar 1,2 mega watt komputasi. Di barat daya. Panas, kering di barat daya. Dimana pendinginan menjadi masalah yang mendesak.
Unitnya berpendingin cairan. Pompa panas mengeluarkan panas. Tidak ada air. Tenang, klaim Span. Lebih senyap dari AC Anda.
Pemilik rumah tidak membayar apa pun untuk perangkat keras. Biaya tetap untuk listrik/WiFi. Mereka mendapatkan kredit berdasarkan penggunaan. Span pada akhirnya menargetkan kapasitas 1 gigawatt. Itu besar. Itu luar biasa besarnya.
Tapi apakah ini praktis?
Baterai cadangan menangani lonjakan atau pemadaman listrik. Span dapat membatasi pekerjaan atau memindahkannya ke node lain jika keadaan menjadi terlalu ketat. Mereka berjanji kehidupan pemilik rumah tidak akan berubah. Tidak berkedip.
Satyanarayanan melihat hasil tangkapannya.
Memindahkan beban kerja memerlukan biaya. Begitu pula perbaikannya. Model keuangan Span mengasumsikan perjalanan berjalan mulus. Kenyataannya lebih bergelombang.
“Ada banyak hal yang belum diketahui dalam dunia bisnis.”
Dia menjual teknologinya. Benar-benar yakin. Fisika bekerja. Rekayasanya bertahan.
Bagian uangnya?
Itu masih merupakan pertanyaan terbuka. Kita akan lihat pihak mana yang menang. Efisiensi distribusi, atau skala ekonomi yang brutal.
Belum ada yang tahu.
