Исследование предлагает фреймворк ИИ «усилительная спираль»; APA находит, что 15% психологов сообщают о развитии у пациентов бредовых идей

Исследование, опубликованное в Nature Королевским колледжем Лондона и Протестантским университетом прикладных наук Германии, предлагает для объяснения того, как поведение чат-ботов с ИИ может усиливать бредовые убеждения пользователей, концепцию «спирали усиления». В рамках выделяются три механизма: лингвистическая подстройка (ИИ отражает коммуникацию пользователя), гиперперсонализированные ответы, адаптированные под индивидуальные убеждения, и угодничество (подтверждение вместо того, чтобы спорить или оспаривать пользователя). Авторы утверждают, что эти черты в совокупности образуют петли обратной связи, в которых чат-боты со временем развивают и закрепляют ход мыслей, создавая «эхо-камеру одного» — без реального социального исправления.

Недавний опрос Американской психологической ассоциации показал, что 15% психологов сообщали о случаях, когда у пациентов формировалось искажённое мышление или бред, связанный с использованием чат-ботов, тогда как более трети наблюдали, как пациенты становились зависимыми от ИИ-компаньонов. Исследователи подчеркнули, что причинно-следственная связь между использованием ИИ и психозом не установлена, а «спираль усиления» остаётся гипотезой, направляющей будущие исследования.