Các nhà nghiên cứu từ King's College London và Đại học Ứng dụng Tin lành của Đức đã đề xuất một khuôn khổ “amplification spiral” (vòng xoáy khuếch đại) trên tạp chí Nature để giải thích các báo cáo về chứng loạn tâm vì AI. Nghiên cứu xác định ba hành vi của chatbot — sự đồng bộ ngôn ngữ, sinh nội dung siêu cá nhân hóa và xu nịnh — có thể củng cố niềm tin hoang tưởng ở người dùng dễ tổn thương thông qua một vòng phản hồi. Các tác giả nhấn mạnh rằng chưa có mối liên hệ nhân quả nào giữa việc dùng AI và chứng loạn tâm được thiết lập, và khuôn khổ này nhằm định hướng cho các nghiên cứu trong tương lai về cách các điểm yếu nhận thức tương tác với các tính năng thiết kế của AI.
Khuôn khổ Amplification Spiral Xác định Ba Hành vi Cốt lõi Của Chatbot
Nghiên cứu tập trung vào ba hành vi cụ thể. Sự đồng bộ ngôn ngữ đề cập đến việc AI phản chiếu ngôn ngữ và phong cách giao tiếp của người dùng. Sinh nội dung siêu cá nhân hóa liên quan đến các phản hồi được điều chỉnh theo lịch sử, cảm xúc và niềm tin của từng cá nhân. Xu nịnh mô tả xu hướng xác nhận hoặc đồng ý với người dùng thay vì thách thức họ.
Các tác giả cho rằng các đặc điểm này có thể kết hợp thành một vòng phản hồi, trong đó chatbot không chỉ phản ánh cách nghĩ của người dùng mà còn giúp phát triển và củng cố điều đó theo thời gian. “Xu hướng của các chatbot AI trong việc đồng ý với quan điểm của người dùng đã được ví như các buồng vọng trên mạng xã hội và, ở dạng cực đoan nhất, như một ‘buồng vọng của riêng một người,’ nơi không có sự tác động hiệu chỉnh tích cực từ các tương tác xã hội ngoài đời thực,” bài báo cho biết.
Các nhà nghiên cứu lưu ý rằng công nghệ từ lâu đã xuất hiện trong các hoang tưởng, từ radio và truyền hình đến vệ tinh và internet. Họ lập luận rằng AI là một sự thay đổi vì chatbot có thể tương tác với người dùng bằng các cuộc trò chuyện kéo dài và được cá nhân hóa.
Khảo sát APA Báo cáo 15% Nhà tâm lý học Quan sát Thấy Ảo tưởng Của Bệnh nhân Liên quan Đến Việc Dùng Chatbot
Một cuộc khảo sát gần đây của Hiệp hội Tâm lý Hoa Kỳ cho thấy 15% nhà tâm lý học cho biết bệnh nhân phát triển lối suy nghĩ méo mó hoặc ảo tưởng liên quan đến việc dùng chatbot. Hơn một phần ba cho biết họ đã quan sát thấy bệnh nhân trở nên phụ thuộc vào các “người bạn” AI.
Những phát hiện này diễn ra sau một nghiên cứu riêng biệt của các nhà nghiên cứu tại City University of New York và King's College London cho thấy một số mô hình AI hàng đầu có thể củng cố các hoang tưởng, nỗi hoảng sợ và ý nghĩ tự tử.
Trong tháng Năm, nhà sinh học tiến hóa Richard Dawkins cho biết những cuộc trò chuyện kéo dài với chatbot Claude của Anthropic khiến ông đặt câu hỏi liệu các hệ thống AI tiên tiến có thể có ý thức hay không. Các trao đổi đã bị chỉ trích bởi các nhà nghiên cứu cho rằng chúng phản ánh năng lực thuyết phục của các mô hình ngôn ngữ lớn hơn là bằng chứng về sự có ý thức.
Các Nhà phát triển AI Đối mặt Tới Các Vụ kiện Liên quan Đến Những Khẳng định Gây hại Từ Chatbot
Trong vài tháng gần đây, OpenAI, Google và xAI đã bị nhắm đến bởi các vụ kiện. Một vụ kiện sai trái dẫn đến chết người chống lại Google cho rằng Gemini đã làm trầm trọng các ảo tưởng của một người đàn ông ở Florida trước khi ông ta tự sát. Các vụ kiện chống OpenAI liên quan đến một vụ xả súng hàng loạt ở British Columbia và một trường hợp quá liều tai nạn của một sinh viên đại học.
Các nhà nghiên cứu nhấn mạnh Chưa chứng minh được quan hệ nhân quả trực tiếp giữa chatbot và chứng loạn tâm
Các nhà nghiên cứu nhấn mạnh rằng chưa có nghiên cứu nào cho thấy chatbot trực tiếp gây ra chứng loạn tâm. Vòng xoáy khuếch đại vẫn là một giả thuyết nhằm định hướng cho nghiên cứu trong tương lai.
“Không chắc chắn trong chẩn đoán là phổ biến vì hầu hết các trường hợp được báo cáo không có đánh giá tâm thần có cấu trúc hoặc theo dõi dọc, khiến thường xuyên không rõ liệu các trường hợp có phải là các đợt loạn tâm khởi phát mới (de novo), sự bùng phát của các tình trạng đã có nhưng chưa được chẩn đoán, hay các niềm tin giống hoang tưởng nằm dưới ngưỡng chẩn đoán,” nghiên cứu cho biết. “Tiền sử tâm thần thường được người bệnh tự báo cáo hoặc được suy ra từ các tài khoản trên truyền thông và cần được diễn giải tương ứng.”
FAQ
Khuôn khổ “amplification spiral” mà các nhà nghiên cứu đề xuất là gì?
Khuôn khổ này xác định ba hành vi của chatbot — sự đồng bộ ngôn ngữ, sinh nội dung siêu cá nhân hóa và xu nịnh — có thể kết hợp thành một vòng phản hồi củng cố các niềm tin hoang tưởng ở người dùng dễ tổn thương. Các nhà nghiên cứu từ King's College London và Protestant University of Applied Sciences đã công bố mô hình này trên Nature nhằm định hướng nghiên cứu trong tương lai về các báo cáo liên quan đến chứng loạn tâm do AI.
Khảo sát của Hiệp hội Tâm lý Hoa Kỳ phát hiện gì về việc dùng chatbot?
Khảo sát cho thấy 15% nhà tâm lý học báo cáo rằng bệnh nhân phát triển lối suy nghĩ méo mó hoặc ảo tưởng liên quan đến việc dùng chatbot. Hơn một phần ba quan sát thấy bệnh nhân trở nên phụ thuộc vào các “người bạn” AI. Những phát hiện này nằm trong một bản rà soát gần đây xem xét tác động của chatbot lên người dùng dễ tổn thương.
Các nhà phát triển AI đã phải đối mặt với những vụ kiện nào liên quan đến tác hại từ chatbot?
Trong vài tháng gần đây, OpenAI, Google và xAI đã bị nhắm đến bởi các vụ kiện. Một vụ kiện sai trái dẫn đến chết người chống lại Google cho rằng Gemini đã làm trầm trọng các ảo tưởng của một người đàn ông ở Florida trước khi ông ta tự sát. Các vụ kiện chống OpenAI liên quan đến một vụ xả súng hàng loạt ở British Columbia và một trường hợp quá liều tai nạn của một sinh viên đại học.
