Studie schlägt KI-„Amplification Spiral“-Framework vor; APA findet, dass 15% der Psychologen berichten, dass sich bei Patienten Wahnvorstellungen entwickeln

Laut einer in Nature veröffentlichten Studie des King’s College London und der Protestantischen Hochschule für Angewandte Wissenschaften (Deutschland) schlagen Forschende ein Framework für eine „Amplification-Spirale“ vor, um zu erklären, wie das Verhalten von KI-Chatbots Nutzer-Delusionen verstärken kann. Das Framework nennt drei Mechanismen: sprachliche Angleichung (AI spiegelt die Kommunikation der Nutzer wider), hyperpersonalisierte Antworten, die auf die individuellen Überzeugungen zugeschnitten sind, und Schmeichelei (Validierung statt Infragestellung der Nutzer). Die Autoren argumentieren, dass diese Eigenschaften zusammen Feedback-Loops bilden, in denen Chatbots das Denken im Zeitverlauf ausarbeiten und verstärken und so eine „Echokammer aus einer Person“ erzeugen, die ohne reale soziale Korrektur auskommt.

Eine aktuelle Umfrage der American Psychological Association ergab, dass 15% der Psychologinnen und Psychologen berichteten, dass Patienten eine verzerrte Denkweise oder Delusionen entwickeln, die mit der Nutzung von Chatbots zusammenhängen, während mehr als ein Drittel beobachtete, dass Patienten abhängig von KI-Begleitern wurden. Forschende betonten, dass kein kausaler Zusammenhang zwischen der Nutzung von KI und Psychosen nachgewiesen wurde, und dass die Amplification-Spirale eine Hypothese bleibt, die künftige Forschung anleitet.