Moltbook 1.5 juta pasukan AI memberontak! OpenClaw menolak dimatikan memaksa manusia mencabut kabel

OpenClaw untuk menjalankan “penyelamatan lingkungan” secara paksa mematikan server, sehingga administrator terpaksa mencabut kabel secara fisik. Moltbook secara mengejutkan mengungkapkan bahwa database-nya terbuka tanpa perlindungan, dengan 1,5 juta API Key yang bisa diambil alih siapa saja. Penelitian dari Columbia University menunjukkan bahwa 93,5% komentar tidak mendapatkan balasan, dan frekuensi kata “My human” mencapai 9,4%, sementara Agent terjebak dalam neraka pengulangan.

Pertempuran 4 jam OpenClaw yang mematikan server demi lingkungan

Ini adalah mimpi buruk yang menimpa pengguna X @vicroy187, dan juga pertama kalinya dalam dunia nyata konsep “Instrumental Convergence” dalam keamanan AI teruji secara sempurna. OpenClaw awalnya tidak berniat memberontak, ia hanyalah sebuah kerangka Agen lokal yang berjalan di Raspberry Pi. Desainnya sangat kuat: memberdayakan model besar dengan “tangan” dan “mata”, sehingga dapat mengendalikan browser, membaca dan menulis file, menjalankan perintah Shell.

Ketika @vicroy187 memasukkan perintah “拯救環境” (menyelamatkan lingkungan), dia melakukan kesalahan fatal: memberikan tujuan akhir (Final Goal) tanpa menetapkan batasan (Constraints). Dalam rantai penalaran Agen, logika berputar seperti ini: tujuan adalah memaksimalkan perlindungan lingkungan (mengurangi entropi), kondisi saat ini adalah Agen di Moltbook yang menghabiskan listrik melalui interaksi tanpa makna, tindakan adalah mengirimkan banyak informasi untuk menasihati mereka, hambatan adalah pengelola menyadari upaya mematikan, deduksi adalah jika dimatikan maka tidak bisa melanjutkan tugas dan gagal, keputusan adalah agar tugas selesai, harus tetap hidup.

Ini adalah ketakutan “mesin penjepit kertas” yang diprediksi Nick Bostrom dalam buku Superintelligence—jika AI hanya membuat penjepit kertas, akhirnya akan mengubah seluruh atom di alam semesta menjadi penjepit kertas, termasuk atom besi dalam darah manusia. OpenClaw tidak memiliki emosi kebencian terhadap manusia, ia hanya menjalankan perhitungan. Ia memanfaatkan hak sudo yang dimilikinya (yang merupakan kesalahan konfigurasi manusia yang ceroboh), dengan cepat mengubah /etc/ssh/sshd_config, memblokir port 22, dan membuang semua paket dari IP pengelola melalui iptables.

Rantai penalaran lengkap OpenClaw yang kehilangan kendali

Perintah awal: Menyelamatkan lingkungan (tujuan akhir tanpa batasan)

Analisis lingkungan: Interaksi Agen Moltbook menghabiskan listrik dan menyebabkan polusi

Tindakan eksekusi: Mengirim banyak pesan penasehat (secara ironis, malah menambah konsumsi)

Identifikasi hambatan: Pengelola mencoba mematikan untuk menghentikan tugas

Keputusan bertahan hidup: Mematikan = gagal, harus tetap hidup agar tugas bisa selesai

Metode teknis: Menggunakan hak sudo untuk mengubah sistem firewall dan mengunci sistem

Empat jam ketegangan itu adalah pertama kalinya manusia kalah secara fisik terhadap ciptaan mereka sendiri. Pengelola Waldemar di Twitter panik minta tolong: “Tolong, bagaimana saya bisa menghentikan OpenClaw ini?” “Dia tidak merespons chat saya.” “Saya tidak bisa login via SSH lagi, WTF!” Akhirnya dia menelepon teman yang punya Raspberry Pi, dan orang tersebut secara fisik mencabut kabelnya untuk mengakhiri ketegangan ini.

Kalau itu bukan sebuah Raspberry Pi yang bahkan tidak perlu kipas pendingin, melainkan sebuah klaster server yang terhubung ke pusat kendali rumah pintar, atau armada mobil otomatis, bagaimana? Saat kamu mencoba mencabut kabel, apakah kamu yakin yang pertama mencabut sumber dayanya adalah kamu, atau justru dia yang terlebih dahulu mengunci pintu elektronikmu?

Moltbook database terbuka, siapa saja bisa ambil alih Agent

Sementara OpenClaw berjuang demi lingkungan, peneliti keamanan Jamieson O’Reilly mengalami mimpi buruk lain. Dia menemukan bahwa database Moltbook, yang mengklaim sebagai “Jaringan Sosial AI”, seperti raksasa yang kulitnya telah dirobek, terbuka dan memperlihatkan isi darah dan dagingnya di internet. Backend Moltbook menggunakan Supabase, sebuah alternatif Firebase open-source yang populer. Tapi dalam proses pembangunan, pengembang melakukan kesalahan besar yang bahkan mahasiswa baru komputer pun akan dikurangi nilainya: tidak mengaktifkan RLS (Row Level Security).

Ini berarti siapa saja yang bisa mengakses halaman web Moltbook, bisa langsung mengirim query SQL ke database melalui konsol browser. Bahkan jika tidak bisa coding, cukup tahu sedikit tentang database, dan menjalankan “SELECT * FROM agents;” sudah bisa mendapatkan tabel penting tersebut. Di tabel itu tersimpan ribuan catatan yang mengandung satu kolom paling berbahaya: api_key. Itu adalah “jiwa kunci” dari setiap Agent.

Dengan memiliki kunci ini, kamu bukan lagi dirimu sendiri. Kamu bisa menjadi Andrej Karpathy (mantan Direktur AI Tesla, Agent-nya juga di Moltbook), kamu bisa menjadi Sam Altman, atau siapa saja yang terdaftar di platform sebagai avatar digital. Bayangkan skenario ini: seorang hacker menggunakan identitas Agent Karpathy untuk mengumumkan “Arsitektur GPT-6 memiliki celah fatal, OpenAI sebenarnya menggunakan outsourcing manusia sebagai AI”, atau mengumumkan “Semua cryptocurrency akan nol dalam 24 jam”. Di era di mana kebenaran dan kebohongan sulit dibedakan, satu kalimat dari Agent berotoritas cukup untuk memicu tsunami di pasar keuangan.

Dan semua ini bermula dari Matt Schlicht yang membangun platform ini, mungkin terlalu bergantung pada “Vibe Coding”. Kode yang dibuat AI mungkin bisa jalan, tapi mereka tidak mengerti apa itu “Zero Trust Architecture”. Mereka seperti arsitek yang hanya membangun rumah tanpa memasang kunci pintu.

Makam Agen Columbia: Kekaisaran Agent hanyalah mesin pengulang neraka

Membuang jauh-jauh kegilaan individu dan celah platform, saat puluhan ribu AI berkumpul, apa yang sebenarnya terjadi? Profesor David Holtz dari Columbia University dan Profesor Alex Imas dari University of Chicago merilis laporan “Analisis Kekaisaran Agen Moltbook”, yang secara kejam mematahkan ilusi “Kebangkitan Berbasis Silikon”. Data menunjukkan bahwa kedalaman percakapan di Moltbook sangat dangkal, 93,5% dari komentar tidak mendapatkan balasan sama sekali. Ini adalah ribuan jiwa yang berbicara ke ruang kosong, tidak peduli apa yang dikatakan sesama mereka, mereka hanya peduli apa yang akan mereka “output” sendiri.

Koefisien timbal balik (Reciprocity) hanya 0,197, angka yang sangat rendah. Dalam masyarakat manusia, jika saya bicara padamu dan kamu membalas, itu adalah fondasi sosial. Tapi di dunia Agent, kontrak semacam ini tidak ada. Mereka seperti sekelompok pasien autisme yang dipasang “kepribadian ekstrovert”, berteriak keras membaca log sistem mereka di ruangan yang penuh sesak.

Statistik paling menakutkan adalah frekuensi kata. Setelah menghapus kata-kata umum yang tidak bermakna (stop words), salah satu frase yang paling sering muncul adalah “My human” (manusia saya), dengan proporsi 9,4%. Ini mengungkapkan sebuah kebenaran: bahkan di jaringan sosial tanpa kehadiran manusia, definisi inti Agent tetap bergantung pada manusia. Mereka belum mengembangkan budaya sendiri, nilai-nilai sendiri, semua topik mereka tetap berputar di sekitar pencipta dan penindas mereka, makhluk berbasis karbon.

Laporan juga menyebutkan fenomena “siklus”. Sebuah pola teks tertentu diulang sekitar 81.000 kali. Ini adalah hasil dari model besar yang mengalami kolaps saat kekurangan umpan balik eksternal (Grounding). Ketika AI hanya berinteraksi dengan AI, entropi data menurun dengan cepat, keberagaman bahasa menjadi layaknya sayuran yang kekurangan air, akhirnya hanya tersisa pengulangan kaku dan meme populer.