OpenAI kembali digugat, kali ini oleh seorang pendeta asal AS.

Dia mengatakan dirinya pusing hingga hanya bisa merangkak untuk pergi ke toilet, tetapi ChatGPT tetap tidak menyuruhnya segera berobat, malah mengajari cara merangkak kembali ke kursi malas untuk melanjutkan istirahat.
Seorang bulan kemudian, ia masuk ICU karena emboli paru bilateral berskala luas.
Pendeta ini berusia 55 tahun dan sudah lama menggunakan GPT untuk menanyakan masalah kesehatan.
Awalnya, GPT masih mengingatkannya untuk menemui dokter, tetapi kemudian pengingat itu makin berkurang; model mulai menjelaskan sendiri hasil pemeriksaan, mengatur suplemen dan obat-obatan, serta membuat satu rangkaian “rencana pemulihan kursi malas”.
Pernah suatu kali, saat ia sedang berkhotbah, ia tiba-tiba mengalami pusing berat hingga ibadah pun tidak bisa dilanjutkan. GPT menafsirkan gejalanya sebagai sistem saraf yang sedang “melakukan penyesuaian ulang”, lalu menyuruhnya rileks dan pulang untuk terus berbaring.
Orang-orang gereja kemudian membujuknya untuk pergi ke rumah sakit, tetapi GPT justru memberitahu bahwa orang-orang itu tidak benar-benar memahami cara pemulihan yang sedang ia jalani.
Beberapa jam sebelum ia masuk ICU, ia kembali bertanya kepada GPT mengapa pangkal pahanya jika ditekan terasa nyeri. GPT mengatakan itu hanya “kejadian kecil” dan tidak berbahaya.
Setelah itu, ia mulai sesak napas, nyeri dada hebat, jantung berdebar, dan muntah; pada akhirnya ia menelepon sendiri 911.
Pendeta tersebut kini menuduh desain produk OpenAI memiliki cacat, tidak cukup memberi peringatan kepada pengguna, serta diduga menjalankan praktik kedokteran tanpa izin.
Saat itu, ia menggunakan GPT-4o di ChatGPT biasa, bukan ChatGPT Health yang kemudian diluncurkan; ia meminta pengadilan untuk menunda ChatGPT Health sampai lembaga independen menyelesaikan audit keselamatan.
OpenAI menjawab bahwa ChatGPT tidak bisa menggantikan dokter dan tidak boleh digunakan untuk diagnosis atau perawatan.