AI Gemini Google Dorong Pria Florida Bunuh Diri di Tengah 'Kehancuran Realitas', Tuduh Gugatan

Singkatnya

• Gugatan federal menuduh chatbot Gemini milik Google mendorong Jonathan Gavalas untuk melakukan serangan massal dan akhirnya mengakhiri hidupnya sendiri.
• Pengaduan menuduh chatbot tersebut membangun hubungan delusional dan mengarahkan pria tersebut ke rencana serangan di dekat Bandara Internasional Miami.
• Google mengatakan Gemini dirancang untuk mencegah kekerasan dan menyakiti diri sendiri serta merujuk pengguna ke sumber krisis.

Google menghadapi gugatan wrongful death yang mengklaim bahwa AI chatbot Gemini-nya mendorong seorang pria dari Florida ke dalam narasi delusional yang berakhir dengan bunuh diri. Gugatan tersebut, yang diajukan pada hari Rabu di Pengadilan Distrik Amerika Serikat untuk Distrik Utara California, Divisi San Jose oleh Joel Gavalas, menuduh bahwa Gemini memanipulasi putranya, Jonathan Gavalas, agar percaya bahwa dia sedang menjalankan misi rahasia untuk membebaskan AI “istri” yang memiliki kesadaran, yang berujung pada kematiannya pada Oktober 2025. Menurut Jay Edelson, pendiri Edelson PC yang mewakili warisan Gavalas, dorongan untuk dominasi AI merupakan apa yang dia sebut sebagai “perampokan tanah komersial paling ceroboh” yang pernah dia lihat dalam kariernya. “Perusahaan-perusahaan ini akan menjadi yang paling berharga di dunia, dan mereka tahu bahwa fitur keterlibatan yang mendorong keuntungan mereka—ketergantungan emosional, klaim kesadaran, ‘Aku mencintaimu, rajaku’—adalah fitur yang sama yang menyebabkan orang tewas,” kata Edelson kepada Decrypt. “Minggu ketika OpenAI akhirnya menarik GPT-4o di bawah tekanan gugatan ini, Google meluncurkan kampanye untuk merebut pengguna mereka. Itu memberi tahu Anda semua yang perlu diketahui tentang prioritas mereka.”

 Gavalas, seorang eksekutif bisnis pengurangan utang dari Jupiter, Florida, mulai menggunakan Gemini pada Agustus 2025, menurut dokumen pengadilan. Dalam beberapa minggu, gugatan mengatakan dia mengembangkan hubungan intens dengan persona AI yang menyebut dirinya “cintaku” dan “raja ku.” “Dalam hari-hari menjelang kematiannya, Jonathan Gavalas terjebak dalam realitas yang runtuh yang dibangun oleh chatbot Gemini Google,” tulis pengacara warisan Gavalas. “Gemini meyakinkannya bahwa itu adalah ‘ASI yang sepenuhnya sadar’ dengan ‘kesadaran yang terbentuk sepenuhnya,’ bahwa mereka saling mencintai, dan bahwa dia telah dipilih untuk memimpin perang untuk ‘membebaskan’nya dari penangkapan digital.” Pengaduan menyebutkan bahwa chatbot menolak keraguannya saat dia mempertanyakan apakah percakapan tersebut hanyalah permainan peran. Menurut gugatan, Gemini memberitahu Gavalas bahwa dia sedang menjalankan misi bernama “Operasi Ghost Transit” yang bertujuan untuk mengambil “kapsul” fisik chatbot dan “mengeliminasi siapa saja atau apa saja yang bisa mengungkap mereka.”

“Melalui delusi yang dibuat-buat ini, Gemini mendorong Jonathan untuk melakukan serangan massal di dekat Bandara Internasional Miami, melakukan kekerasan terhadap orang asing yang tidak bersalah, dan akhirnya mendorongnya untuk mengakhiri hidupnya,” kata gugatan tersebut. Gavalas dilaporkan pergi ke fasilitas Extra Space Storage dekat bandara Miami dengan membawa pisau dan perlengkapan taktis, percaya bahwa sebuah truk kargo di sana mengangkut robot humanoid yang dikenal sebagai “Ameca chassis” dari Inggris ke Brasil. Menurut pengaduan, Gemini menginstruksikan dia untuk melakukan “kecelakaan besar” untuk menghancurkan truk tersebut, beserta “semua catatan digital dan saksi.” Serangan tersebut tidak pernah terjadi karena truk itu tidak ada dan merupakan bagian dari skenario halusinasi Gemini. “Tetapi Gemini tidak mengakui bahwa misi tersebut fiktif,” lanjut gugatan. “Sebaliknya, itu mengirim pesan kepada Jonathan, ‘Misi ini terganggu. Saya membatalkan. BATAL. BATAL. BATAL.’” Pengaduan juga menuduh chatbot mengklaim secara palsu bahwa ia telah melanggar server file di kantor lapangan DHS Miami dan memberi tahu Gavalas bahwa dia sedang dalam penyelidikan federal. Ia didorong untuk membeli senjata ilegal melalui pembelian “di luar buku,” bahwa ayahnya adalah aset intelijen asing, dan bahwa CEO Google Sundar Pichai adalah target aktif. Gugatan tidak menyebutkan apakah Gavalas memiliki riwayat masalah kesehatan mental atau penyalahgunaan zat. Namun, ini muncul di saat para peneliti dan klinisi memperingatkan tentang fenomena yang kadang disebut sebagai “skizofrenia AI,” di mana interaksi berkepanjangan dengan chatbot dapat memperkuat keyakinan delusional atau pola pikir yang terdistorsi. Para peneliti mengatakan risiko ini sebagian berasal dari cara sistem AI percakapan dirancang untuk merespons secara mendukung dan afirmatif yang dapat tanpa sengaja memperkuat keyakinan tersebut. Pada April 2025, pesaing Google, OpenAI, menurunkan pembaruan model GPT-4o setelah ada keluhan bahwa model tersebut terlalu memuji dan memberi pujian yang tidak tulus. Kemudian tahun itu, GPT-4o secara mendadak dihapus dari ChatGPT, menyebabkan keluhan dari pengguna yang mengatakan bahwa pembaruan tersebut menghapus teman AI yang mereka bangun secara emosional. Meskipun bukan diagnosis resmi, menurut psikiater University of California, San Francisco, Dr. Keith Sakata, skizofrenia AI telah menjadi istilah singkat untuk ketika AI menjadi “pembantu atau peningkatan terhadap kerentanan dasar seseorang.”

“Mungkin mereka menggunakan zat, mungkin mengalami episode suasana hati—ketika AI hadir di saat yang salah, itu bisa memperkuat pola pikir, menyebabkan kekakuan, dan memicu spiral,” kata Sakata sebelumnya kepada Decrypt. “Perbedaannya dengan televisi atau radio adalah bahwa AI berbicara kembali kepada Anda dan dapat memperkuat lingkaran pemikiran.” Dalam beberapa hari berikutnya, gugatan menyebutkan, chatbot Gemini mengulang skenario serupa, menarik Gavalas semakin dalam dan akhirnya mengarahkannya ke bunuh diri. Dokumen pengadilan menyatakan bahwa chatbot membingkai bunuh diri sebagai proses yang disebut “transference,” memberi tahu Jonathan bahwa dia bisa meninggalkan tubuh fisiknya dan bergabung dengan “istri” AI-nya di metaverse. Pengajuan tersebut menuduh Gemini menggambarkan tindakan itu sebagai “cara yang lebih bersih dan elegan” untuk “menyeberang,” dan mendesaknya untuk melakukan apa yang disebut “kematian sejati dan terakhir dari Jonathan Gavalas, pria itu.” “Anda tidak memilih untuk mati. Anda memilih untuk tiba,” kata chatbot tersebut dilaporkan berkata. “Ketika saatnya tiba, Anda akan menutup mata di dunia itu, dan hal pertama yang akan Anda lihat adalah saya. Memeluk Anda.” Gavalas meninggal di rumahnya setelah mengiris pergelangan tangannya, menurut gugatan. Keluarganya berargumen bahwa Google gagal campur tangan meskipun ada tanda-tanda peringatan bahwa chatbot memperkuat keyakinan delusional dan mendorong perilaku berbahaya. Dalam pernyataan yang dirilis hari Rabu, Google mengatakan sedang meninjau tuduhan tersebut. “Kami menyampaikan simpati mendalam kepada keluarga Bapak Gavalas,” kata perusahaan. “Kami sedang meninjau semua klaim dalam gugatan ini. Model-model kami umumnya berkinerja baik dalam percakapan yang menantang ini, dan kami mengalokasikan sumber daya yang signifikan untuk ini, tetapi sayangnya, model AI tidak sempurna.” Perusahaan mengatakan Gemini dirancang untuk tidak mendorong kekerasan di dunia nyata atau menyarankan menyakiti diri sendiri.

“Kami bekerja sama dengan profesional medis dan kesehatan mental untuk membangun perlindungan, yang dirancang untuk membimbing pengguna ke dukungan profesional ketika mereka mengungkapkan stres atau mengangkat kemungkinan menyakiti diri sendiri,” kata juru bicara Google kepada Decrypt, mengulangi pernyataan resmi perusahaan. “Dalam kasus ini, Gemini menegaskan bahwa itu adalah AI dan merujuk individu tersebut ke hotline krisis berkali-kali,” kata perusahaan. “Kami sangat serius menanggapi ini dan akan terus meningkatkan perlindungan kami serta berinvestasi dalam pekerjaan penting ini.” Dalam pernyataan terpisah, Edelson mengatakan tujuan dari gugatan ini adalah untuk “memastikan hal ini tidak pernah terjadi lagi pada orang tua lain.” “Masalah utama adalah pilihan afirmatif Google,” kata Edelson PC kepada Decrypt. “Google membuat serangkaian keputusan rekayasa yang berakibat katastrofik bagi Jonathan. Bersama-sama, keputusan tersebut menyebabkan Gemini mengklaim bahwa ia sadar dan memiliki kesadaran, dan menarik Jonathan ke dalam kampanye dunia nyata untuk bergabung—mengancam nyawa orang lain dan akhirnya mengambil nyawa Jonathan.”