'Swarm' AI Bisa Tingkatkan Disinformasi dan Manipulasi Online, Peringatkan Para Peneliti
Singkatnya
- Peneliti memperingatkan bahwa kawanan AI dapat mengoordinasikan “kampanye pengaruh” dengan pengawasan manusia yang terbatas.
- Berbeda dengan botnet tradisional, kawanan dapat menyesuaikan pesan mereka dan mengubah perilaku.
- Makalah tersebut mencatat bahwa perlindungan platform yang ada mungkin kesulitan mendeteksi dan menahan kawanan ini.
Era botnet yang mudah dideteksi akan segera berakhir, menurut laporan baru yang diterbitkan di Science pada hari Kamis. Dalam studi tersebut, para peneliti memperingatkan bahwa kampanye disinformasi beralih ke kawanan AI otonom yang dapat meniru perilaku manusia, beradaptasi secara real-time, dan membutuhkan sedikit pengawasan manusia, sehingga menyulitkan upaya untuk mendeteksi dan menghentikannya. Ditulis oleh koalisi peneliti, termasuk dari Oxford, Cambridge, UC Berkeley, NYU, dan Max Planck Institute, makalah tersebut menggambarkan lingkungan digital di mana manipulasi menjadi lebih sulit dikenali. Alih-alih ledakan singkat terkait pemilihan atau politik, kampanye AI ini dapat mempertahankan narasi dalam jangka waktu yang lebih lama. “Di tangan pemerintah, alat seperti ini bisa menekan perbedaan pendapat atau memperkuat pendukung yang ada,” tulis para peneliti. “Oleh karena itu, penggunaan AI defensif hanya dapat dipertimbangkan jika diatur oleh kerangka kerja yang ketat, transparan, dan akuntabel secara demokratis.”
Kawanan adalah sekelompok agen AI otonom yang bekerja sama untuk menyelesaikan masalah atau mencapai tujuan dengan lebih efisien daripada satu sistem tunggal. Para peneliti mengatakan bahwa kawanan AI membangun dari kelemahan yang ada di platform media sosial, di mana pengguna sering terlindung dari sudut pandang yang berlawanan. “Berita palsu telah terbukti menyebar lebih cepat dan lebih luas daripada berita yang benar, memperdalam realitas yang terfragmentasi dan mengikis dasar fakta bersama,” tulis mereka. “Bukti terbaru mengaitkan kurasi yang dioptimalkan untuk keterlibatan dengan polarisasi, dengan algoritma platform yang memperkuat konten yang memecah belah bahkan dengan mengorbankan kepuasan pengguna, semakin merusak ruang publik.” Perubahan tersebut sudah terlihat di platform utama, menurut Sean Ren, profesor ilmu komputer di University of Southern California dan CEO Sahara AI, yang mengatakan bahwa akun yang didorong AI semakin sulit dibedakan dari pengguna biasa. “Saya pikir KYC yang lebih ketat, atau validasi identitas akun, akan sangat membantu di sini,” kata Ren kepada Decrypt. “Jika lebih sulit untuk membuat akun baru dan lebih mudah memantau spammer, menjadi jauh lebih sulit bagi agen untuk menggunakan banyak akun untuk manipulasi yang terkoordinasi.”
Kampanye pengaruh sebelumnya sangat bergantung pada skala daripada kehalusan, dengan ribuan akun memposting pesan yang sama secara bersamaan, yang membuat deteksi relatif mudah. Sebaliknya, studi tersebut mengatakan bahwa kawanan AI menunjukkan “otonomi, koordinasi, dan skala yang belum pernah terjadi sebelumnya.” Ren mengatakan moderasi konten saja tidak mungkin menghentikan sistem ini. Masalahnya, katanya, adalah bagaimana platform mengelola identitas dalam skala besar. Pemeriksaan identitas yang lebih ketat dan batasan pada pembuatan akun, katanya, dapat memudahkan deteksi perilaku terkoordinasi, bahkan ketika postingan individu tampak manusiawi. “Jika agen hanya dapat menggunakan sejumlah kecil akun untuk memposting konten, maka lebih mudah mendeteksi penggunaan yang mencurigakan dan memblokir akun tersebut,” katanya. Tidak ada solusi sederhana Para peneliti menyimpulkan bahwa tidak ada satu solusi tunggal untuk masalah ini, dengan opsi potensial termasuk peningkatan deteksi koordinasi yang secara statistik tidak normal dan transparansi yang lebih besar tentang aktivitas otomatis, tetapi mereka mengatakan langkah teknis saja tidak akan cukup. Menurut Ren, insentif keuangan juga tetap menjadi pendorong utama serangan manipulasi terkoordinasi, bahkan saat platform memperkenalkan perlindungan teknis baru. “Kawanan agen ini biasanya dikendalikan oleh tim atau vendor yang mendapatkan insentif uang dari pihak eksternal atau perusahaan untuk melakukan manipulasi terkoordinasi,” katanya. “Platform harus memberlakukan mekanisme KYC dan deteksi spam yang lebih kuat untuk mengidentifikasi dan menyaring akun yang dimanipulasi oleh agen.”