Buzz Mesh: Saat Komunitas Menjalankan Model

Beberapa minggu lalu saya menulis tentang daya komputasi yang tidak terpakai di sekitar kita. Idenya menyerupai smart grid untuk komputasi: individu, tim, atau komunitas regional secara sukarela menyediakan kapasitas kosong, pihak lain memakainya, dan tidak setiap permintaan AI harus berakhir di pusat data milik penyedia besar yang sama.

Saat itu gagasan tersebut terutama berupa arsitektur. Kini Buzz menunjukkan bentuk komponen awal yang cukup konkret. Proyek ini menyatukan ruang kerja bagi manusia dan agen AI, identitas Nostr, serta pool komputasi di dalam komunitas. Seorang anggota dapat menyediakan model lokal untuk agen milik anggota lain. Dalam visi yang lebih luas, beberapa perangkat bahkan dapat menyimpan bagian model yang tidak muat di satu mesin mana pun.

Ini sangat mirip dengan ide kita sebelumnya. Namun Buzz bukan superkomputer AI global, dan RAM kosong tidak tiba-tiba menjadi memori bersama yang ajaib. Buzz terlebih dahulu membangun sebuah sel berbasis kepercayaan. Mungkin itulah awal yang lebih masuk akal.

Apa Sebenarnya Buzz

Buzz adalah proyek open source dari Block, perusahaan di balik Square yang dipimpin Jack Dorsey. Menyebutnya sekadar “aplikasi baru Jack Dorsey” tetap tidak tepat. Buzz dikembangkan sebagai proyek Block dan kode publiknya tersedia di GitHub dengan lisensi Apache 2.0.

Sekilas, Buzz tampak seperti gabungan Slack, GitHub, dan platform agen. Manusia dan agen AI bekerja di channel yang sama, membahas tugas, mengelola kode, dan memicu workflow. Setiap agen memiliki identitas kriptografis dan izin yang dibatasi. Dengan demikian, orang yang mengizinkan tindakan dapat dibedakan dari agen yang benar-benar menjalankannya.

Ini bukan sekadar pengelolaan pengguna kosmetis. Banyak bot memakai akun layanan bersama atau API key dengan hak terlalu luas. Kita lalu tahu bahwa “otomasi” melakukan sesuatu, tetapi tidak selalu tahu instansi mana dan berdasarkan tugas apa. Buzz berusaha menampilkan otorisasi dan kepengarangan secara terpisah.

Ruang kerja dapat di-host sendiri. Arsitekturnya menggunakan komponen yang dikenal: Buzz Relay, PostgreSQL untuk event dan pencarian, Redis untuk Pub/Sub dan presence, serta penyimpanan media kompatibel S3. Realitas operasional tidak perlu disembunyikan agar desentralisasi terlihat meyakinkan.

Nostr sebagai Fondasi

Nostr berarti Notes and Other Stuff Transmitted by Relays. Pengguna memiliki pasangan kunci kriptografis, menandatangani event, lalu menerbitkannya ke relay. Client berlangganan event yang dibutuhkan melalui satu atau beberapa relay.

Event Nostr memuat identitas publik pengirim, waktu, jenis, isi, referensi, dan tanda tangan. Kunci privat tetap pada pengguna; kunci publik menjadi identitas sekaligus alat verifikasi. Nostr memakai tanda tangan Schnorr pada secp256k1, kurva eliptik yang juga penting bagi Bitcoin.

Log Bertanda Tangan, Bukan Blockchain

Nostr bukan blockchain. Tidak ada mining, konsensus global, atau satu rantai yang harus ditunggu semua relay. Relay menerima dan menyimpan event berdasarkan aturannya sendiri lalu mengirimkannya kepada client. Relay lain dapat menyimpan event yang sama atau berbeda.

Buzz memakai model ini untuk pesan, reaksi, tugas agen, langkah workflow, dan event Git. Di dalam komunitas, relay tetap menjadi sumber utama ruang kerja: memeriksa keanggotaan, mendistribusikan event, dan memelihara state. Protokol membuat identitas dan format lebih portabel, tetapi tidak menghapus operator, database, backup, aturan retensi, atau risiko kegagalan relay.

Tanda tangan membuktikan kunci mana yang menandatangani event, bukan bahwa relay akan menyimpannya selamanya. Karena itu, self-hosting tetap membutuhkan backup, ekspor, monitoring, dan pengelolaan kunci. Kunci privat yang hilang bukan password biasa yang bisa di-reset; kunci yang dicuri memberi penyerang identitas yang dapat menandatangani secara valid.

Hubungannya dengan Bitcoin

Nostr dekat dengan komunitas Bitcoin secara budaya dan teknis. NIP-57 mendefinisikan Lightning Zaps, sehingga client dapat mengirim satoshi kepada orang atau event dan merepresentasikan bukti pembayaran sebagai event.

Bitcoin tidak wajib. Nostr berjalan tanpa blockchain dan tanpa coin. Buzz Shared Compute saat ini juga bukan pasar terbuka yang otomatis membayar komputer asing per token. Kapasitas dibagikan secara sukarela dalam komunitas. Lightning kelak dapat membantu pembayaran atau kuota, tetapi belum menjawab biaya listrik, keausan, dan operasional.

Cara Shared Compute Bekerja

Buzz Mesh menghubungkan keanggotaan komunitas dengan akses ke pool komputasi. Anggota mengaktifkan berbagi, memilih model yang sesuai dengan perangkat keras, dan menyediakan inferensi. Agen dapat memilih “Buzz shared compute” seperti penyedia model tanpa API key layanan eksternal.

Relay mengoordinasikan kepercayaan: ia mengetahui anggota dan node yang menawarkan model. Permintaan model sesungguhnya bergerak langsung dan terenkripsi antar-mesin. Prompt tidak melewati server Buzz, tetapi tetap meninggalkan perangkat peminta dan tiba di mesin anggota lain.

Enkripsi transport melindungi jalur, bukan membutakan endpoint. Memakai perangkat keras orang lain berarti memercayai operatornya. Visi Mesh menyatakannya dengan jujur: privasi komunitas hanya sebaik keandalan anggotanya.

Inferensi Jarak Jauh Bukan Otomatis Inferensi Terdistribusi

Dalam kasus sederhana, seluruh model berjalan pada satu workstation kuat dan perangkat lain mengirim permintaan. Jaringan terutama membawa prompt, token, dan overhead; model tetap dihitung pada satu mesin.

Dalam kasus sulit, model dibagi di beberapa komputer. Setiap node memegang sebagian bobot atau komputasi dan terus bertukar hasil antara ketika token dibuat. Bandwidth, latensi, topologi, dan kegagalan langsung menentukan kecepatan.

Buzz menjelaskan kedua arah. Panduan publik menunjukkan jalur nyata dari aplikasi ke inferensi lokal atau jarak jauh. Membagi model antar-perangkat masih menjadi visi Mesh, sasaran yang masuk akal tetapi belum platform produksi yang dapat diskalakan sesuka hati. Sebagian fungsi masih memerlukan feature flag.

Cluster Mac Studio Menunjukkan Masalah Jaringan

NetworkChuck menghubungkan empat Mac Studio, masing-masing dengan Unified Memory 512 GB, menjadi cluster lokal dengan total 2 TB yang dapat diakses GPU. Namun percobaan sebelumnya dengan lima Mac justru membuat inferensi 91 persen lebih lambat menurut perbandingannya.

Video membedakan pipeline dan tensor parallelism. Dalam pipeline, satu Mac memproses layer lalu meneruskan hasil; model besar dapat dimuat, tetapi node lain sering menunggu. Dalam tensor parallelism, semua Mac bekerja pada layer yang sama dan sangat sering bertukar data kecil. Latensi menjadi faktor utama.

NetworkChuck menunjukkan penurunan sekitar 300 menjadi 3 mikrodetik. Pada Llama 70B, throughput naik dari sekitar 5 token per detik dengan pipeline menjadi sekitar 16 dengan tensor parallelism dan RDMA. Seluruh cluster bukan seratus kali lebih cepat: latensi koneksinya turun sekitar faktor itu, sedangkan throughput model naik sedikit lebih dari tiga kali.

Sejak macOS 26.2, Mac Apple silicon dengan Thunderbolt 5 mendukung RDMA over Thunderbolt. RDMA memindahkan data antara area memori terdaftar dengan overhead lebih kecil; Apple menyelaraskannya dengan MLX Distributed dan JACCL.

Fisika tetap berlaku. Apple menyarankan topologi fully meshed: dua Mac membutuhkan satu sambungan, tiga membutuhkan tiga kabel, dan empat membutuhkan enam. Mulai lima node, keterbatasan port dapat memaksa topologi ring yang meneruskan data melalui node perantara. Implementasi juga dibatasi sepuluh UC Queue Pairs dan operasi send/receive dua arah.

Komunitas dapat menawarkan beberapa model lengkap pada mesin berbeda melalui internet. Membagi satu model antara Zurich, Berlin, dan New York adalah persoalan lain. Setiap hop memperlambat token dan satu node lambat dapat menahan seluruh pipeline.

RAM Tidak Sekadar Dijumlahkan

Bobot model, KV cache, data runtime, serta cadangan untuk konteks panjang harus berada di suatu tempat. Dua anggota yang masing-masing menjalankan model dalam RAM 64 GB memiliki dua node, bukan satu mesin dengan memori bersama 128 GB. Hanya model sharding nyata yang menggeser batas tersebut, dengan biaya komunikasi, kompleksitas, dan risiko kegagalan.

Pada 2026, pasar DRAM masih sulit. TrendForce menggambarkan kuartal ketiga yang sangat ketat, sementara permintaan server AI menopang harga rekor. Shared Compute membuat perangkat keras yang ada lebih berguna, tetapi tidak membuat komputer lokal baru dengan RAM besar menjadi murah.

Berbagi tiga workstation yang sudah dimiliki dapat masuk akal. Membelinya hanya untuk menghindari tagihan cloud mungkin menjadi investasi lebih buruk. Listrik, pendinginan, suku cadang, internet, administrasi, dan risiko downtime tidak menghilang.

Hal yang Benar-Benar Menarik

Kekuatan Buzz bukan menciptakan metode inferensi baru, melainkan menghubungkan komponen yang sudah ada. Komunitas sudah memiliki anggota, identitas, dan izin. Agen serta model lokal sudah berjalan. Buzz menjadikan berbagi kapasitas sebagai pengaturan produk dan komputasi sebagai penyedia biasa bagi agen.

Batas kepercayaannya juga wajar: orang yang sudah bekerja bersama, bukan jutaan pihak asing. Ini realistis bagi agensi, bisnis kecil, proyek riset, dan kelompok pengembang.

Independensi model membantu. Open-weight memungkinkan operator mengendalikan bobot, konfigurasi, dan runtime, tetapi “memiliki model” hanyalah singkatan. Bobot terbuka bukan public domain; lisensi dapat membatasi penggunaan, distribusi, atau operasi komersial. Kedaulatan berarti bobot tersedia, lisensi dipahami, runtime dikendalikan, data dapat diekspor, dan sistem dapat berjalan tanpa penyedia awal.

Hal yang Belum Meyakinkan

Kompensasi belum selesai. Berbagi sukarela cukup untuk tim kecil, tetapi jika satu orang terus menyediakan listrik dan perangkat bagi sepuluh pengguna, diperlukan batas, prioritas, metrik, dan perhitungan yang adil. Nostr dan Lightning menyediakan komponen, bukan ekonomi lengkap.

Operasi juga sulit: siapa memperbarui serta memverifikasi model dan lisensi, node mana boleh melihat prompt sensitif, dan apa yang terjadi saat overload, sleep, laptop dibawa bepergian, atau komputer hilang di tengah jawaban. Cloud mahal, tetapi menangani banyak pekerjaan membosankan ini.

Buzz meneruskan permintaan model, bukan kode asing sembarang. Itu batas yang sehat. Namun prompt dapat bersifat rahasia, model dimanipulasi, dan agen mengirim konteks berlebihan. Keanggotaan mengendalikan akses, bukan perilaku. Perusahaan juga memerlukan klasifikasi data, logging, kuota, persetujuan model, hardening endpoint, serta aturan untuk pekerjaan yang wajib lokal.

Buzz masih muda. Kode publik, arsitektur, dan jalur uji konkret lebih dari slide, tetapi feature flag, rilis cepat, dan dokumentasi yang bergerak menunjukkan sistem yang belum stabil. Ini saat yang baik untuk menguji data nonkritis, bukan bergantung tanpa exit plan.

Apa yang Sebenarnya Diwujudkan

Buzz belum menerapkan seluruh smart grid komputasi sebelumnya. Namun ia menerapkan lapisan pertama yang paling masuk akal: sel komputasi sukarela dan terbatas di atas struktur kepercayaan sosial yang sudah ada.

Pasar terbuka, kredit stabil, hardware attestation, verifikasi hasil independen, dan operasi ribuan node asing masih belum tersedia. Sebagai gantinya, ada antarmuka yang mudah dipahami dan kasus penggunaan langsung: agen membutuhkan model, anggota memiliki komputer, relay mengoordinasikan, dan mesin menghitung.

Jika lingkaran kecil itu andal, kuota, kredit, pembayaran Lightning, federasi regional, atau job terverifikasi dapat menyusul. Lingkaran kecil harus bekerja lebih dulu.

Dasar dan Batas Artikel Ini

Saya tidak menguji Buzz Mesh sendiri pada beberapa komputer. Penilaian ini berdasarkan kode publik, arsitektur, visi Mesh, panduan pengembangan, spesifikasi Nostr, dan dokumentasi RDMA Apple, yang diperiksa pada 21 Agustus 2026. Pernyataan tentang stabilitas, throughput, dan beban nyata bukan hasil pengukuran saya.

Meski demikian, Buzz adalah contoh paling nyata yang saya lihat tentang bagaimana ide komputasi terdistribusi dapat menjadi produk yang berguna. Masih kecil, dini, dan tanpa ekonomi yang selesai, tetapi tidak lagi sekadar teori.

Sampai jumpa,
Joe