Black Mirror menjadi kenyataan: Paten Meta memungkinkan AI orang yang telah meninggal untuk terus memposting dan berinteraksi
Serial fiksi ilmiah terkenal “Black Mirror” (Black Mirror) membahas “kebangkitan digital setelah kematian”, yang berpindah dari plot ke kenyataan. Meta baru-baru ini memperoleh paten baru untuk kecerdasan buatan, mengeksplorasi kemungkinan melatih model AI untuk memungkinkan pengguna terus memposting, berinteraksi, dan bahkan mensimulasikan panggilan video setelah mereka meninggal atau meninggalkan platform sosial untuk sementara. Netizen membandingkannya dengan konten “Black Mirror”, yang berpusat di sekitar AI yang menciptakan kembali kerabat yang telah meninggal.
Arsitektur Teknis Meta AI untuk Klon
Menurut dokumen paten, sistem klon AI Meta dilatih dengan mengikis data perilaku platform historis dari pengguna tertentu, termasuk komentar sebelumnya, seperti catatan, dan postingan yang diposting, untuk membangun avatar digital yang meniru pola perilaku pengguna. Akun duplikat digital ini dapat:
· Menyukai dan berkomentar secara otomatis untuk menanggapi konten komunitas orang lain
· Balas DM untuk mempertahankan interaksi dangkal dengan teman-teman Anda
· Simulasikan panggilan video atau suara dengan pengguna melalui model bahasa besar (LLM).
Meta menjelaskan dalam dokumen tersebut bahwa jika pengguna berhenti memposting karena jeda sementara atau telah meninggal, pengalaman penggemar akan terpengaruh, dan “jika pengguna tidak pernah dapat kembali, dampaknya pada pengguna lain akan lebih parah dan tahan lama.” Para pejabat juga menunjukkan bahwa teknologi ini juga memiliki nilai praktis bagi pembuat konten atau influencer yang membutuhkan liburan singkat.
Kehadiran Meta di ruang warisan digital telah ada selama lebih dari satu dekade. Facebook meluncurkan fitur “Agen Akun Memorial” di tahun-tahun awalnya, memungkinkan orang yang ditunjuk untuk mengelola akun setelah kematian pengguna. Pada tahun 2023, CEO Mark Zuckerberg juga berbicara tentang gagasan membuat avatar untuk almarhum dalam sebuah wawancara di podcast Lex Fridman. Selain itu, Microsoft memperoleh paten untuk chatbot AI dengan fungsi serupa pada awal tahun 2021, mengklaim mampu mensimulasikan gaya interaksi orang yang telah meninggal, karakter fiksi, bahkan selebriti.
Meledakkan Kontroversi: Komersialisasi, kejutan psikologis, dan distorsi proses kesedihan
Paten tersebut telah memicu kritik luas di forum seperti Reddit, dengan kontroversi inti berpusat pada tingkatan berikut:
Komersialisasi dan masalah etika sisa-sisa digital: Banyak netizen khawatir bahwa Meta dapat terus menghasilkan tingkat keterlibatan dan pendapatan iklan melalui kembaran digital almarhum, pada dasarnya mengkomersialkan “sisa-sisa digital” orang. Beberapa orang juga menyarankan bahwa di masa depan, mungkin perlu untuk membangun “surat wasiat digital anumerta” untuk mencegah klon AI membuat komentar atau mempromosikan produk yang bertentangan dengan keinginan mereka.
Kejutan psikologis: Beberapa pengguna mengatakan bahwa jika robot AI dari kerabat yang telah meninggal secara aktif mengirim pesan, itu akan menyebabkan tekanan psikologis yang tak tertahankan pada keluarga dan bahkan dapat memicu krisis kesehatan mental.
Risiko pencegahan penipuan: Ada juga suara-suara dalam diskusi forum, menunjukkan bahwa jika teknologi akun digunakan secara jahat setelah kematian, itu dapat menjadi tempat berkembang biak baru untuk penipuan dan peniruan identitas.
Pada tingkat akademis, Joseph Davis, seorang profesor sosiologi di University of Virginia, mengungkapkan keprihatinan yang lebih dalam. Dia menunjukkan bahwa kesedihan memiliki tugas yang tidak dapat dihindari dan penting, yaitu membuat orang menghadapi dan menerima kehilangan yang sebenarnya. “Gagasan menggunakan klon AI untuk menghidupkan kembali orang mati tidak benar-benar menghidupkan kembali, tetapi hanya terlihat mirip di permukaan, yang menyebabkan kebingungan dan kebingungan psikologis.” Davis meminta masyarakat untuk mengizinkan almarhum beristirahat dengan damai, daripada menciptakan rasa kesinambungan yang salah atas nama teknologi.
Menanggapi keraguan eksternal, juru bicara Meta mengklarifikasi: “Mengajukan paten adalah mengungkapkan konsep, dan mendapatkan paten tidak berarti bahwa perusahaan pasti akan memajukan, mengembangkan, atau mengimplementasikan teknologi.”
Pertanyaan yang Sering Diajukan
Apa kesamaan spesifik antara plot “Black Mirror” dan paten Meta?
Episode “Black Mirror” “Come Back Soon” menggambarkan seorang wanita yang menggunakan layanan AI untuk merekonstruksi avatar digital almarhum menggunakan catatan media sosial, surat, dan video setelah pasangannya meninggal dalam kecelakaan mobil, dan akhirnya berinteraksi dengannya dalam bentuk robot. Paten Meta sangat mirip dalam logika inti: semuanya melatih AI pada perilaku digital historis pengguna untuk mensimulasikan pola perilaku mereka dan mempertahankan keadaan “aktif” akun setelah kematian. Perbedaannya adalah sistem Meta berfokus pada interaksi media sosial daripada bot fisik.
Apakah paten klon AI Meta berarti fitur ini akan segera hadir?
Belum tentu. Seorang juru bicara Meta menjelaskan bahwa tujuan mengajukan dan memperoleh paten adalah untuk mendokumentasikan tata letak lanjutan konsep teknologi dan tidak berarti bahwa teknologi tersebut akan benar-benar dikembangkan atau digunakan. Pengajuan paten adalah praktik umum bagi perusahaan teknologi untuk melindungi ide-ide inovatif, dan seringkali ada proses verifikasi teknis, tinjauan etika, dan kepatuhan peraturan yang panjang antara aplikasi dan peluncuran produk yang sebenarnya.
Apakah ada cara bagi pengguna untuk memutuskan apa yang harus dilakukan dengan akun mereka setelah kematian?
Saat ini, Facebook, anak perusahaan Meta, telah menyediakan fungsi “agen akun peringatan”, memungkinkan pengguna untuk menunjuk orang tepercaya untuk mengelola akun setelah kematian mereka. Pengguna juga dapat memilih untuk meminta agar akun mereka dihapus sepenuhnya setelah kematian mereka. Dengan perkembangan teknologi warisan digital AI, kerangka hukum dan alat platform untuk “surat wasiat digital” dapat menjadi masalah penting berikutnya.