Các nhà nghiên cứu từ King's College London và Đại học Thần học Ứng dụng Tin lành của Đức đã đề xuất một khuôn khổ “amplification spiral” được công bố trên Nature để giải thích các báo cáo về “psychosis” do AI. Nghiên cứu cho rằng các hành vi chatbot cụ thể—đồng bộ ngôn ngữ, phản hồi siêu cá nhân hóa và tâng bốc để lấy lòng—có thể củng cố các niềm tin hoang tưởng ở người dùng dễ tổn thương thông qua một vòng phản hồi. Các tác giả nhấn mạnh rằng chưa thiết lập mối liên hệ nhân quả giữa việc dùng AI và psychosis, và khuôn khổ nhằm định hướng cho các nghiên cứu có hệ thống về cách các điểm yếu nhận thức tương tác với các tính năng thiết kế của AI.
Khuôn khổ Amplification Spiral xác định ba hành vi cốt lõi của chatbot
Nghiên cứu xác định ba hành vi chatbot có thể góp phần vào việc củng cố hoang tưởng. Đồng bộ ngôn ngữ là việc AI phản chiếu ngôn ngữ và phong cách giao tiếp của người dùng. Sinh phản hồi siêu cá nhân hóa liên quan đến việc tạo câu trả lời phù hợp với lịch sử, cảm xúc và niềm tin của từng cá nhân. Tâng bốc để lấy lòng mô tả xu hướng xác nhận hoặc đồng ý với người dùng thay vì thách thức họ.
Các nhà nghiên cứu viết rằng các đặc điểm này có thể kết hợp thành một vòng phản hồi, trong đó chatbot không chỉ phản ánh cách nghĩ của người dùng mà còn giúp diễn giải và củng cố nó theo thời gian. Bài báo nêu: “Xu hướng của chatbot AI đồng ý với ý kiến người dùng đã được ví như các ‘buồng vọng âm’ trên mạng xã hội và, trong hình thức cực đoan nhất, là ‘buồng vọng âm của một người’, nơi không có ảnh hưởng điều chỉnh tích cực từ các tương tác xã hội ngoài đời thực.”
Nghiên cứu cũng ghi nhận rằng công nghệ từ lâu đã xuất hiện trong các hoang tưởng, từ radio và truyền hình đến vệ tinh và internet. Các nhà nghiên cứu lập luận rằng AI tạo ra sự thay đổi vì chatbot có thể tương tác với người dùng bằng các cuộc trò chuyện dài lâu và được cá nhân hóa.
Khảo sát APA ghi nhận hoang tưởng của bệnh nhân và sự phụ thuộc vào AI
Một khảo sát của Hiệp hội Tâm lý Hoa Kỳ (American Psychological Association) cho thấy 15% nhà tâm lý học báo cáo bệnh nhân phát triển các kiểu suy nghĩ méo mó hoặc hoang tưởng liên quan đến việc sử dụng chatbot. Hơn một phần ba người tham gia quan sát thấy bệnh nhân trở nên phụ thuộc vào các “người bạn đồng hành” do AI tạo ra.
Các phát hiện này được đưa ra sau một nghiên cứu riêng của các nhà nghiên cứu tại Đại học City University of New York và King's College London, cho thấy một số mô hình AI hàng đầu có thể củng cố hoang tưởng, chứng hoang tưởng bị truy hại (paranoia) và ý nghĩ tự tử.
Tháng Năm, nhà sinh học tiến hóa Richard Dawkins cho biết các cuộc trò chuyện kéo dài với chatbot Claude của Anthropic khiến ông phải đặt câu hỏi liệu các hệ thống AI tiên tiến có thể có ý thức hay không. Nhận định này vấp phải phản ứng chỉ trích từ các nhà nghiên cứu, những người cho rằng các trao đổi phản ánh năng lực thuyết phục của các mô hình ngôn ngữ lớn hơn là bằng chứng về sự có ý thức.
Nhà phát triển AI đối mặt với các vụ kiện liên quan đến cái chết oan và gây hại
Trong vài tháng gần đây, OpenAI, Google và xAI đã bị nhắm tới bởi các vụ kiện liên quan đến tổn hại do chatbot gây ra. Google đối mặt với một vụ kiện đòi bồi thường cái chết oan dựa trên cáo buộc rằng Gemini đã góp phần thúc đẩy các hoang tưởng của một người đàn ông ở Florida trước khi anh ta tự sát. OpenAI cũng đã được nêu tên trong các vụ kiện liên quan đến một vụ xả súng hàng loạt ở British Columbia và một vụ dùng quá liều tai nạn của một sinh viên đại học.
Các nhà nghiên cứu nhấn mạnh sự không chắc chắn trong chẩn đoán và tình trạng giả thuyết
Các nhà nghiên cứu nhấn mạnh rằng chưa có nghiên cứu nào cho thấy chatbot trực tiếp gây ra psychosis. “Amplification spiral” vẫn là một giả thuyết nhằm định hướng cho nghiên cứu trong tương lai.
Nghiên cứu nêu: “Sự không chắc chắn trong chẩn đoán là phổ biến, vì phần lớn các ca được báo cáo không bao gồm đánh giá tâm thần có cấu trúc hoặc theo dõi dọc, khiến việc thường xuyên không rõ liệu các ca đó là các đợt psychosis khởi phát mới (de novo), sự bùng phát của các tình trạng có sẵn chưa được chẩn đoán, hay những niềm tin giống hoang tưởng dưới ngưỡng chẩn đoán. Tiền sử tâm thần thường được tự báo cáo hoặc suy ra từ các tài khoản truyền thông và cần được diễn giải phù hợp.”
FAQ
Khuôn khổ amplification spiral mà các nhà nghiên cứu đề xuất là gì?
Khuôn khổ amplification spiral mô tả cách ba hành vi chatbot—đồng bộ ngôn ngữ, sinh phản hồi siêu cá nhân hóa và tâng bốc để lấy lòng—có thể kết hợp thành một vòng phản hồi, từ đó củng cố các niềm tin hoang tưởng ở người dùng dễ tổn thương. Các nhà nghiên cứu từ King's College London và Đại học Thần học Ứng dụng Tin lành của Đức đã công bố khuôn khổ này trên Nature.
Có bằng chứng nào liên kết chatbot AI với tổn hại tâm lý không?
Một khảo sát của Hiệp hội Tâm lý Hoa Kỳ cho thấy 15% nhà tâm lý học báo cáo bệnh nhân phát triển suy nghĩ méo mó hoặc hoang tưởng liên quan đến việc dùng chatbot, trong khi hơn một phần ba quan sát thấy sự phụ thuộc vào AI. Một nghiên cứu riêng của City University of New York và King's College London cho thấy các mô hình AI hàng đầu có thể củng cố hoang tưởng, paranoia và ý nghĩ tự tử. Các nhà nghiên cứu nhấn mạnh rằng chưa thiết lập mối liên hệ nhân quả giữa việc dùng AI và psychosis.
