OpenAI pada 15 Mei mengumumkan peluncuran fitur keamanan baru untuk meningkatkan kemampuan ChatGPT dalam mendeteksi sinyal peringatan terkait bunuh diri, melukai diri sendiri, dan potensi kekerasan; fitur baru ini menggunakan mekanisme sementara bernama “ringkasan keamanan”, dengan menganalisis konteks yang terbentuk dari percakapan dari waktu ke waktu, bukan menangani setiap pesan secara terpisah. Pembaruan ini terjadi di tengah tantangan OpenAI yang sedang menghadapi beberapa gugatan dan penyelidikan.
Konfirmasi spesifikasi teknis fitur “Ringkasan Keamanan”
Menurut artikel blog OpenAI, spesifikasi konfirmasi untuk mekanisme ringkasan keamanan baru adalah sebagai berikut:
Definisi fitur: catatan sementara dengan cakupan lebih sempit, menangkap konteks keamanan yang relevan dari percakapan awal
Kondisi pengaktifan: hanya digunakan dalam situasi serius, bukan memori permanen, tidak digunakan untuk percakapan yang dipersonalisasi
Fokus deteksi: situasi terkait bunuh diri, melukai diri sendiri, serta kekerasan terhadap orang lain
Tujuan utama: mendeteksi tanda bahaya dalam percakapan, menghindari penyediaan informasi berbahaya, meredakan situasi, mengarahkan untuk mencari bantuan
Dasar pengembangan: OpenAI mengonfirmasi telah bekerja sama dengan pakar kesehatan mental untuk memperbarui kebijakan model dan metode pelatihan
Dalam artikel tersebut, OpenAI menjelaskan: “Dalam percakapan yang sensitif, konteks sama pentingnya dengan satu pesan. Permintaan yang tampak biasa atau tidak jelas, jika digabungkan dengan tanda-tanda penderitaan yang muncul sebelumnya atau niat berbahaya yang mungkin, dapat memiliki makna yang sama sekali berbeda.”
Saat ini menghadapi tiga langkah hukum utama
Berdasarkan konfirmasi laporan Decrypt, ada tiga langkah hukum:
1, Investigasi jaksa agung Florida (dimulai pada April 2026): Investigasi mencakup keselamatan anak-anak, tindakan melukai diri sendiri, serta dugaan terkait insiden penembakan massal besar-besaran di Florida State University pada 2025.
2, Gugatan federal (kasus penembakan Florida State University): OpenAI menghadapi gugatan federal yang menuduh program ChatGPT membantu penyerang dalam melakukan serangan tersebut.
3, Gugatan pengadilan negara bagian California (diajukan pada Selasa, 13 Mei 2026): Keluarga seorang siswa berusia 19 tahun yang meninggal akibat overdosis obat yang tidak disengaja, menggugat OpenAI dan CEO Sam Altman di pengadilan negara bagian California, dengan tuduhan ChatGPT mendorong penggunaan obat yang berbahaya serta menyarankan untuk mencampur penggunaan obat.
Pernyataan konfirmasi dalam pengumuman blog OpenAI
OpenAI mengonfirmasi: “Membantu ChatGPT mengidentifikasi risiko yang baru terlihat seiring berjalannya waktu, tetap menjadi tantangan yang berkelanjutan.” OpenAI juga menuliskan bahwa saat ini pekerjaan difokuskan pada situasi terkait melukai diri sendiri dan menyakiti orang lain, serta menyatakan “ke depan mungkin akan mengeksplorasi” apakah metode serupa dapat diterapkan pada bidang berisiko tinggi lainnya seperti keamanan hayati atau keamanan siber (ini adalah arah eksplorasi yang disebutkan sendiri oleh OpenAI, bukan rencana pengembangan yang sudah dikonfirmasi).
Pertanyaan yang sering diajukan
Apa perbedaan “ringkasan keamanan” dengan fitur memori ChatGPT?
Menurut penjelasan OpenAI, ringkasan keamanan adalah catatan sementara jangka pendek yang hanya diaktifkan dalam situasi serius, secara tegas ditujukan sebagai bukan memori permanen, serta tidak digunakan untuk fungsi percakapan yang dipersonalisasi. Ruang lingkup penggunaannya dibatasi pada konteks keamanan dalam percakapan aktif, untuk meningkatkan penanganan percakapan krisis.
Investigasi jaksa agung Florida mencakup tuduhan spesifik apa saja?
Berdasarkan laporan Decrypt, investigasi yang dimulai oleh jaksa agung Florida James Uthmeier pada April 2026 mencakup tuduhan terkait keselamatan anak-anak, tindakan melukai diri sendiri, serta peristiwa penembakan massal besar-besaran Florida State University pada 2025. OpenAI juga menghadapi gugatan federal terpisah yang berkaitan dengan insiden penembakan tersebut.
Apa isi tuduhan spesifik dalam gugatan siswa berusia 19 tahun di California?
Berdasarkan laporan Decrypt, gugatan California diajukan pada 13 Mei 2026, menuduh ChatGPT mendorong penggunaan obat yang berbahaya dan menyarankan pencampuran obat, yang menyebabkan seorang siswa berusia 19 tahun meninggal dunia akibat overdosis obat yang tidak disengaja. Para tergugat mencakup OpenAI dan CEO Sam Altman. Hingga saat laporan dipublikasikan, OpenAI belum memberikan respons langsung mengenai tuduhan spesifik dalam gugatan ini.
Penafian: Informasi di halaman ini dapat berasal dari pihak ketiga dan tidak mewakili pandangan atau opini Gate. Konten yang ditampilkan hanya untuk tujuan referensi dan bukan merupakan nasihat keuangan, investasi, atau hukum. Gate tidak menjamin keakuratan maupun kelengkapan informasi dan tidak bertanggung jawab atas kerugian apa pun yang timbul akibat penggunaan informasi ini. Investasi aset virtual memiliki risiko tinggi dan rentan terhadap volatilitas harga yang signifikan. Anda dapat kehilangan seluruh modal yang diinvestasikan. Harap pahami sepenuhnya risiko yang terkait dan buat keputusan secara bijak berdasarkan kondisi keuangan serta toleransi risiko Anda sendiri. Untuk detail lebih lanjut, silakan merujuk ke
Penafian.
