Baru saja menangkap sesuatu yang liar yang kebanyakan orang tidak sadari. Vitalik merilis sebuah postingan rinci tentang bagaimana token Shiba Inu yang tidak pernah dia minta berakhir menjadi situasi filantropi senilai sekitar satu miliar dolar, dan jujur saja, seluruh hal ini adalah pelajaran tentang konsekuensi yang tidak diinginkan.

Jadi pada tahun 2021, pencipta Shiba Inu secara harfiah mengirim sebagian besar token SHIB ke dompet Vitalik sebagai aksi pemasaran - cukup menaruh namanya di materi dan mengikuti hype-nya. Token tersebut melonjak nilainya hingga lebih dari satu miliar dolar secara kertas. Vitalik tidak ingin terlibat, jadi dia mulai menjualnya. Cerita tentang bagaimana dia melakukannya sebenarnya lucu - menelepon ibu tiri di Kanada, memintanya menarik angka 78 digit dari lemari, menggabungkannya dengan angka lain dari ranselnya untuk mengakses dompet tersebut. Energi Vitalik yang khas, jujur saja.

Dia berhasil memindahkan sebagian ke ETH dan menyumbangkan $50 juta ke GiveWell, tetapi dia masih menyimpan jumlah besar kepemilikan Shiba Inu. Jadi dia membagi sisanya: setengah ke CryptoRelief untuk infrastruktur medis di India dan penelitiannya sendiri, setengah lainnya ke Future of Life Institute karena mereka memiliki peta jalan yang solid tentang risiko eksistensial dari AI dan bioteknologi.

Di sinilah bagian yang menarik dimulai. FLI berhasil melikuidasi sekitar $500 juta dari setengah token Shiba Inu mereka - jauh lebih banyak dari yang diperkirakan Vitalik mengingat likuiditas yang sangat tipis. Tiba-tiba sebuah organisasi yang fokus pada riset risiko eksistensial memiliki setengah miliar dolar untuk dikerahkan. Saat itulah semuanya mulai berubah.

Menurut postingan terbaru Vitalik, FLI berbelok tajam. Mereka beralih dari pendekatan riset risiko eksistensial yang luas ke kampanye politik dan budaya yang agresif tentang kebijakan AI. Pemikirannya masuk akal di permukaan - AGI berkembang pesat, jadi mereka perlu menyamai anggaran lobi dari perusahaan AI besar. Tapi Vitalik khawatir tentang jenis aksi politik terkoordinasi berskala besar ini dengan dana yang sangat besar.

Dia menjelaskan kekhawatirannya cukup jelas. Ketika kekuasaan dipusatkan melalui strategi yang berfokus pada regulasi, Anda menciptakan sistem yang rapuh dan mudah backfire. Contohnya adalah pendekatan biosafety FLI - menyematkan pengaman ke dalam model AI agar mereka menolak output berbahaya. Kedengarannya bagus sampai Anda menyadari jailbreak dan fine-tuning membuat pembatasan tersebut sangat mudah dilanggar. Dorong logika itu cukup jauh dan Anda akan berakhir pada "larang AI sumber terbuka" atau "biarkan satu perusahaan baik yang mendirikan dominasi global," yang jelas-jelas menjadikan dunia lain sebagai musuh.

Ada juga masalah struktural yang dia tandai. Ketika pemerintah membatasi teknologi berbahaya, organisasi keamanan nasional mendapatkan pengecualian. Dan organisasi-organisasi tersebut seringkali menjadi sumber risiko itu sendiri - pikirkan program kebocoran laboratorium pemerintah.

Namun, dia merasa terinspirasi oleh beberapa karya terbaru FLI, terutama "deklarasi AI pro-manusia" mereka yang entah bagaimana menyatukan konservatif, progresif, dan libertarian dari berbagai wilayah. Mereka juga meneliti cara mencegah konsentrasi kekuasaan AI, yang sejalan dengan visi awalnya.

Tapi masalah inti tetap sama. Donasi yang tidak pernah direncanakan Vitalik, dari token yang tidak pernah dia inginkan, membiayai sebuah organisasi yang berbelok dari pendekatannya dan sekarang mengerahkan ratusan juta dolar dengan cara yang membuatnya tidak nyaman. Dia tampaknya telah menyampaikan kekhawatirannya ini ke FLI berkali-kali sebelum menjadi publik, tetapi ketegangan mendasar itu masih ada.

Ini adalah pandangan yang menarik tentang bagaimana bahkan filantropi yang berbaik hati sekalipun bisa menciptakan konsekuensi yang tidak diinginkan ketika organisasi mengubah strategi inti mereka. Keuntungan dari Shiba Inu berubah menjadi gudang perang kebijakan bernilai miliar dolar, tetapi tidak seperti yang diharapkan siapa pun.