Grok terkait eksploitasi seksual diawasi oleh 9 wilayah utama! Inggris memulai penyelidikan, jika melanggar hukum bisa dikenai denda yang sangat besar
Grok di bawah naungan Elon Musk, karena diduga menghasilkan gambar eksploitasi anak dan remaja, menjadi perhatian dari 9 lembaga pengawas di Inggris, Australia, dan wilayah lainnya. Jika penyelidikan mengonfirmasi pelanggaran, denda maksimal dapat mencapai 18 juta poundsterling, bahkan meminta perintah pengadilan untuk memblokirnya secara paksa.
Inggris menyelidiki keterlibatan Grok dalam eksploitasi anak dan remaja, jika terbukti melanggar hukum, denda bisa sampai 180 juta poundsterling
AI chatbot Grok di bawah naungan Musk, baru-baru ini karena integrasi fitur ubah gambar secara instan di platform X, diumumkan bahwa banyak penyalahgunaan dalam pembuatan gambar palsu (Deepfake) pornografi, termasuk korban anak-anak dan remaja.
Baru-baru ini, Inggris dan Australia secara resmi memulai penyelidikan atau memberikan peringatan terhadap platform X (sebelumnya Twitter). Jika pelanggaran serius, platform X dapat menghadapi denda besar atau penghentian layanan.
Otoritas Komunikasi Inggris (Ofcom) telah memulai penyelidikan terhadap X, fokusnya adalah konten pelecehan seksual anak (CSAM) dan konten Deepfake pornografi tanpa izin.
Jika penyelidikan menemukan bahwa X melanggar hukum, Inggris dapat menjatuhkan denda hingga 1,8 miliar poundsterling atau 10% dari pendapatan global perusahaan tersebut. Jika X menolak mematuhi, Ofcom bahkan dapat mengajukan perintah pengadilan untuk memaksa penyedia layanan internet memblokir platform X di Inggris.
Sumber gambar: Ofcom Otoritas Komunikasi Inggris (Ofcom) telah memulai penyelidikan terhadap X dan Grok, fokusnya adalah konten pelecehan seksual anak (CSAM) dan konten Deepfake pornografi tanpa izin.
Otoritas Keamanan Siber Australia (eSafety) menerima beberapa laporan tentang gambar eksploitasi yang dihasilkan Grok, meskipun jumlahnya kecil, tren meningkat. Mereka telah meminta X untuk memberikan informasi lebih lengkap mengenai langkah-langkah perlindungan terhadap penyalahgunaan.
eSafety memperingatkan bahwa jika melanggar hukum, mereka akan mengeluarkan pemberitahuan penghapusan, dan mulai berlaku peraturan baru pada 9 Maret 2026, yang akan memberlakukan pembatasan lebih ketat terhadap layanan AI agar anak-anak tidak mengakses konten pornografi dan kekerasan.
Sumber gambar: eSafety Otoritas Keamanan Siber Australia (eSafety) meminta X untuk memberikan informasi lebih lengkap mengenai langkah-langkah perlindungan terhadap penyalahgunaan.
Kontroversi eksploitasi seksual Grok menjadi perhatian ketat, pemblokiran dan penyelidikan di berbagai wilayah
Mengacu pada laporan Euro News dan berita sebelumnya, termasuk Inggris dan Australia, saat ini ada 9 negara dan wilayah yang mengambil tindakan terhadap Grok (lihat tabel untuk detailnya):
| Negara dan Wilayah yang Peduli dengan Kontroversi Eksploitasi Grok | |
|---|---|
| Inggris | Memulai penyelidikan, menilai apakah X melanggar hukum, dan merancang denda besar. |
| Australia | Meminta X menjelaskan mekanisme keamanan, atau mengeluarkan pemberitahuan penghapusan konten sesuai hukum. |
| Indonesia | Sementara memblokir Grok, sebagai langkah pencegahan untuk melindungi masyarakat dari konten pornografi yang tidak diinginkan. |
| Malaysia | Sementara memblokir Grok, karena menilai X gagal mengatasi risiko bawaan dari desain platform. |
| Uni Eropa | Meminta X menyimpan semua dokumen terkait Grok hingga akhir tahun ini untuk menilai kesesuaiannya dengan regulasi UE. |
| Perancis | Perluasan penyelidikan terhadap X ke Grok, fokus pada tuduhan pembuatan gambar pornografi anak di platform tersebut. |
| Italia | Mengkritik penggunaan perangkat lunak AI “pakaian terbuka” yang berpotensi melanggar hak asasi manusia secara serius, dan bekerja sama dengan otoritas pengawas di Irlandia, tempat kantor pusat Eropa X berada. |
| Jerman | Tidak dapat menerima pelanggaran besar dan sistematis, sedang merancang proposal hukum terkait kekerasan digital. |
| India | Mengirim surat kepada platform X, menuduh mereka gagal mencegah penyalahgunaan Grok dalam pembuatan dan penyebaran konten pornografi. |
Pembatasan biaya dan penghentian permanen Grok
Menanggapi tekanan regulasi dari berbagai negara, platform X dan xAI juga merespons. Otoritas regulasi Malaysia mengungkapkan bahwa X dalam balasan menyatakan Grok terutama bergantung pada laporan pengguna untuk menangani konten penyalahgunaan. Untuk meredakan kontroversi, X akan mengambil langkah lebih aktif.
Platform X sebelumnya menegaskan bahwa, akan mengambil tindakan terhadap konten ilegal seperti produk pelecehan seksual anak (CSAM), termasuk memblokir akun terkait secara permanen, dan bekerja sama dengan pemerintah serta aparat penegak hukum jika diperlukan.
Sumber gambar: X Platform sebelumnya menegaskan bahwa, akan mengambil tindakan terhadap produk pelecehan seksual anak (CSAM) dan konten ilegal lainnya
Selain itu, platform X baru-baru ini juga membatasi penggunaan fitur ubah gambar Grok, dengan menambahkan syarat menjadi pengguna berlangganan (tanda centang biru) untuk dapat menggunakan fitur tersebut.
Ada kritik dari publik yang mempertanyakan apakah X akan mengenakan biaya kepada pengguna yang menyalahgunakan Grok, mirip dengan Meta yang kemungkinan besar tidak akan menipu dengan tingkat penipuan di bawah 95%, tetapi tetap dicurigai sebagai iklan penipuan yang mengenakan biaya tinggi.; namun ada juga yang berpendapat, meskipun tidak bisa sepenuhnya mencegah penyalahgunaan, memiliki batasan akses lebih baik daripada tanpa batasan sama sekali.