Pendapat: Agen mandiri AI "kelompok" atau dapat memperburuk risiko manipulasi opini platform

PANews 20 Februari—Menurut laporan dari Decrypt, peneliti dari berbagai universitas dan lembaga penelitian di banyak negara memperingatkan dalam makalah yang diterbitkan di Science bahwa di masa depan, “aksi pengaruh” daring akan bertransformasi dari jaringan bot/ zombie yang mudah dikenali menjadi “swarms” yang terdiri dari banyak agen AI otonom, yang dapat secara kolaboratif memanipulasi opini tanpa banyak intervensi manusia. Penelitian menyebutkan bahwa kelompok AI semacam ini mampu menyamar sebagai manusia, melakukan penyesuaian otomatis terhadap kata-kata di berbagai akun dan platform, serta secara berkelanjutan membangun narasi tertentu dalam jangka waktu panjang, sehingga sulit dideteksi oleh sistem pengendalian risiko dan peninjauan konten yang saat ini lebih fokus pada konten spam dan pelanggaran satu titik. Para ahli menunjukkan bahwa platform saat ini masih memiliki kekurangan yang jelas dalam verifikasi identitas, pemantauan penyalahgunaan akun, serta transparansi dan audit eksternal terhadap perilaku kolaboratif yang mencurigakan, sehingga hanya mengandalkan peninjauan konten tidak cukup untuk membangun pertahanan yang efektif.