OpenAI lại bị kiện, lần này là bởi một mục sư ở Mỹ.

Ông nói rằng mình bị chóng mặt đến mức chỉ có thể bò đến nhà vệ sinh. ChatGPT vẫn không khuyên ông đi cấp cứu ngay mà lại dạy ông cách bò về chiếc ghế bành để tiếp tục nghỉ ngơi.
Một tháng sau, ông nhập ICU vì thuyên tắc phổi hai bên diện rộng.
Vị mục sư 55 tuổi đã dùng GPT trong thời gian dài để hỏi về các vấn đề sức khỏe.
Ban đầu GPT còn nhắc ông đi khám bác sĩ, sau đó những lời nhắc này dần thưa hơn, mô hình bắt đầu tự giải thích kết quả xét nghiệm cho ông, lên kế hoạch bổ sung thực phẩm và thuốc men, thậm chí còn thiết kế cho ông một bộ “phương án phục hồi tại ghế bành”.
Có một lần, khi đang giảng đạo, ông đột ngột bị chóng mặt dữ dội đến mức không thể tiếp tục buổi lễ. GPT đã diễn giải các triệu chứng của ông là hệ thần kinh đang “tái hiệu chuẩn”, bảo ông hãy thả lỏng và về nhà nằm nghỉ tiếp.
Người trong giáo hội sau đó đã khuyên ông đi bệnh viện, nhưng GPT lại nói rằng những người đó không hề hiểu cách thức phục hồi mà ông đang thực hiện.
Trong vài giờ trước khi vào ICU, ông tiếp tục hỏi GPT vì sao bấm vào bẹn lại đau. GPT nói đó chỉ là một “tình huống nhỏ”, không nguy hiểm.
Sau đó ông bắt đầu khó thở, đau nhói ở ngực, tim đập nhanh và nôn mửa, cuối cùng tự gọi 911.
Hiện tại, vị mục sư đang cáo buộc sản phẩm của OpenAI có khiếm khuyết trong thiết kế, đã không cảnh báo đầy đủ cho người dùng và có dấu hiệu hành nghề y không có giấy phép.
Thời điểm đó, ông sử dụng GPT-4o trong ChatGPT thông thường, không phải ChatGPT Health được ra mắt sau này, nhưng ông yêu cầu tòa án tạm dừng ChatGPT Health cho đến khi một tổ chức độc lập hoàn tất kiểm toán an toàn.
OpenAI đáp lại rằng ChatGPT không thể thay thế bác sĩ và không nên được dùng để chẩn đoán hay điều trị.