Pada 16 Januari, menurut pengungkapan media AS, pemimpin opini online konservatif Ashley St. Clair telah secara resmi mengajukan gugatan di pengadilan Negara Bagian New York terhadap perusahaan kecerdasan buatan Elon Musk xAI, menuduh chatbot-nya Grok menggunakan teknologi deepfake untuk merusak fotonya dan menghasilkan konten gambar dengan sindiran seksual yang jelas tanpa persetujuannya.
Menurut gugatan yang diajukan, Grok diduga mengubah foto St. Clair dengan dua temannya, melepas pakaiannya dan hanya menyisakan tampilan bikini hitam. Ketika St. Clair secara langsung keberatan dengan akun Grok, pihak lain menanggapi bahwa gambar itu adalah “balasan lucu” dan mengatakan telah meminta penghapusannya, tetapi konten tersebut kemudian beredar di platform, menurut dokumen tersebut.
Gugatan lebih lanjut menyatakan bahwa terlepas dari keberatan eksplisitnya, sejumlah besar deepfake yang melibatkan pelecehan seksual, invasi privasi, dan penghinaan terus muncul di platform. Lebih serius lagi, beberapa pengguna mengunggah fotonya ketika dia berusia 14 tahun dan menginstruksikan chatbot untuk “menanggalkan pakaian” dan menseksualisasi gambar di bawah umur, dan Grok dituduh menjalankan instruksi yang relevan.
Selain kontroversi gambar, St. Clair juga menuduh xAI dan platform terkaitnya memberlakukan “tindakan pembalasan” terhadapnya, termasuk mendiskualifikasi akunnya dari monetisasi, menghapus logo sertifikasi biru, dan membatasi aksesnya ke layanan keanggotaan premium. Gugatan tersebut berpendapat bahwa tindakan ini memperburuk kerusakan reputasi pribadi dan hak-hak ekonomi.
Di platform sosial, St. Clair secara terbuka menyatakan bahwa penanganan Grok atas foto-foto masa kecilnya “mengejutkan dan diduga ilegal” dan meminta korban dengan pengalaman serupa untuk menghubunginya. Dia juga mengingatkan masyarakat untuk berhati-hati dalam mengunggah foto individu dan anggota keluarga di platform terkait.
Saat ini, xAI telah mengajukan permintaan transfer untuk mentransfer kasus tersebut ke Pengadilan Federal untuk Distrik Selatan New York. Pengacara St. Clair, Kelly Goldberg, mengatakan bahwa tujuan inti dari kasus ini adalah untuk meningkatkan kesadaran akan risiko deepfake AI generatif, terutama dalam hal privasi dan keselamatan perempuan dan anak di bawah umur. Insiden tersebut sekali lagi mendorong tata kelola konten AI, tanggung jawab teknis, dan batasan hukum menjadi fokus opini publik.
Penafian: Informasi di halaman ini dapat berasal dari pihak ketiga dan tidak mewakili pandangan atau opini Gate. Konten yang ditampilkan hanya untuk tujuan referensi dan bukan merupakan nasihat keuangan, investasi, atau hukum. Gate tidak menjamin keakuratan maupun kelengkapan informasi dan tidak bertanggung jawab atas kerugian apa pun yang timbul akibat penggunaan informasi ini. Investasi aset virtual memiliki risiko tinggi dan rentan terhadap volatilitas harga yang signifikan. Anda dapat kehilangan seluruh modal yang diinvestasikan. Harap pahami sepenuhnya risiko yang terkait dan buat keputusan secara bijak berdasarkan kondisi keuangan serta toleransi risiko Anda sendiri. Untuk detail lebih lanjut, silakan merujuk ke
Penafian.
