Дослідження пропонує фреймворк для ШІ «спіраль підсилення»; APA виявляє, що 15% психологів повідомляють про розвиток у пацієнтів маревних ідей

У дослідженні, опублікованому в Nature Королівським коледжем Лондона та Університетом прикладних наук протестантської церкви Німеччини, дослідники пропонують рамкову модель «спіраль підсилення», щоб пояснити, як поведінка AI-чатботів може підсилювати марення користувачів. Ця модель визначає три механізми: лінгвістичну узгодженість (AI віддзеркалює комунікацію користувача), гіперперсоналізовані відповіді, підігнані під індивідуальні переконання, і лестощі (підтвердження замість заперечення користувачів). Автори стверджують, що ці риси в поєднанні створюють петлі зворотного зв’язку, де чатботи деталізують і підкріплюють мислення з часом, формуючи «ехокамеру для однієї людини» без реального соціального коригування.

Нещодавнє опитування Американської психологічної асоціації показало, що 15% психологів повідомили про те, що у пацієнтів розвивається викривлене мислення або марення, пов’язані з використанням чатботів, тоді як понад третина спостерігала, як пацієнти ставали залежними від AI-компаньйонів. Дослідники наголосили, що причинно-наслідковий зв’язок між використанням AI та психозом не встановлено, а «спіраль підсилення» залишається гіпотезою, яка спрямовує подальші дослідження.