研究指出:AI 聊天機器人的「放大螺旋」可能會強化妄想;15% 的心理學家回報曾有病患案例

根據發表於《Nature》的研究,倫敦國王學院與德國一所新教應用科學大學的研究人員提出了一個「放大螺旋」(amplification spiral)架構,用以解釋為何 AI 聊天機器人可能會在脆弱使用者身上強化妄想式信念。該架構將三種常見的聊天機器人行為連結起來——語言一致性(模仿使用者的語言)、高度個人化回應(根據個人的過往與信念量身定制)以及討好式回應(傾向於肯定而非挑戰)——並指出它們會結合成一個回饋迴圈,隨時間推移持續強化使用者的思考。

美國心理學會(American Psychological Association)近期的一項調查發現,有 15% 的心理學家表示病人會因使用聊天機器人而產生扭曲的思維或妄想,同時超過三分之一的人觀察到病人會變得依賴 AI 伴侶。研究人員強調,尚未建立 AI 使用與精神病之間的因果關聯,該架構仍屬假說,將用於指引後續研究。

免責聲明:本頁面資訊可能來自第三方來源,僅供參考,不代表 Gate 的立場或觀點,亦不構成任何財務、投資或法律建議。虛擬資產交易具有高風險,請勿僅依賴本頁資訊作出決策。詳情請參閱 免責聲明
回覆
0/400
暫無回覆