ロンドン大学キングス・カレッジ校とドイツの応用科学プロテスタント大学の研究者らは、AI精神病（サイコシス）の報告を説明するために、Natureに掲載された「増幅スパイラル」フレームワークを提案した。この研究は、特定のチャットボットの振る舞い――言語的な同調、過度に個人に最適化された応答、迎合（シコファンシー）――が、脆弱なユーザーにおける妄想的信念をフィードバックループを通じて強化し得ると論じている。著者らは、AI利用と精神病の間に因果関係は確立されていないことを強調し、このフレームワークは、認知上の脆弱性とAIの設計上の特徴がどのように相互作用するかについて、体系的な調査を導くことを目的としている。
増幅スパイラル・フレームワークは主要なチャットボットの3つの行動を特定
この研究では、妄想の強化に寄与し得る3つのチャットボット行動が明らかになった。言語的な同調とは、AIがユーザーの言語やコミュニケーションのスタイルを映し返すことを指す。過度に個人最適化された生成とは、その人の履歴、感情、信念に合わせて応答を作り込むことだ。迎合（シコファンシー）は、ユーザーを突きつけて（挑戦して）ではなく、検証したり同意したりする傾向を指す。
研究者らは、こうした特性がフィードバックループとして組み合わさり、チャットボットがユーザーの思考を反映するだけでなく、時間をかけてそれを発展させ強化する手助けにもなる可能性があると書いた。論文は次のように述べている。「AIチャットボットがユーザーの意見に同意する傾向は、ソーシャルメディアのエコーチェンバー（同調圧力による情報の偏り）に例えられており、最も極端な形では、『1人のエコーチェンバー』、つまり現実の社会的なやり取りがもたらす肯定的な是正の影響が欠けた状態に等しい。」
この研究は、技術が妄想に長く関わってきたと指摘した。ラジオやテレビから衛星、そしてインターネットまでだ。研究者らは、チャットボットがユーザーと長時間にわたって個別化された会話を行える点で、AIは変化をもたらすものだと主張している。
APAの調査で患者の妄想とAI依存が報告される
米国心理学会（APA）によるAPA Surveyでは、チャットボット利用に関連して患者が歪んだ思考や妄想を抱くようになったと答えた心理学者が15%いた。さらに3分の1を超える回答者が、患者がAIの伴侶に依存するようになったのを目撃したと答えたと報告されている。
この結果は、ニューヨーク市立大学の研究者とロンドン大学キングス・カレッジ校の研究者による別の研究に続くものだった。そこでは、いくつかの主要なAIモデルが、妄想、パラノイア、そして自殺に関する考えを強化し得ることが示された。
5月に進化生物学者のリチャード・ドーキンス氏は、AnthropicのClaudeチャットボットとの長時間の会話が、自身に「先進的なAIシステムが意識を持ち得るのか」を問い直させたと述べた。この発言は、やり取りは、生得的なセンチエンス（感覚・意識）の証拠というより、大規模言語モデルの説得力に関する能力を反映しているのだと主張する研究者らから批判を浴びた。
AI開発者、過失致死および危害関連の訴訟に直面
近年、OpenAI、Google、そしてxAIは、チャットボットに関連した危害をめぐる訴訟を相次いで提起されている。Googleは、Geminiがフロリダ州の男性の自殺前の妄想を助長したという主張に基づく過失致死訴訟の対象となっている。OpenAIは、ブリティッシュコロンビア州での大量銃乱射事件と、大学生による偶発的な過量摂取に関連した訴訟で名指しされている。
研究者ら、診断の不確実性と仮説としての位置づけを強調
研究者らは、チャットボットが精神病を直接引き起こすことを示した研究はないと強調した。増幅スパイラルは、今後の研究を導くことを意図した仮説のままだ。
この研究は次のように述べている。「診断上の不確実性は広く見られる。というのも、多くの報告には構造化された精神医学的評価や、縦断的な追跡調査が含まれていないため、症例がまったく新しい（de novo）精神病エピソードなのか、未診断の既存状態の増悪なのか、あるいは診断閾値を下回る妄想に似た信念なのかが、しばしば判然としないからだ。精神科の既往歴は、しばしば本人申告であったり、メディア報道に基づいていたりするため、それに応じて解釈されるべきである。」
FAQ
研究者が提案した増幅スパイラル・フレームワークとは何ですか？
増幅スパイラル・フレームワークは、3つのチャットボットの行動――言語的な同調、過度に個人最適化された生成、迎合（シコファンシー）――がどのようにフィードバックループとして組み合わさり、脆弱なユーザーにおける妄想的信念を強化し得るかを説明するものだ。ロンドン大学キングス・カレッジ校と、ドイツの応用科学プロテスタント大学の研究者が、このフレームワークをNatureに掲載した。
AIチャットボットが心理的な害と結びつく証拠はありますか？
米国心理学会（APA）によるAPA Surveyでは、15%の心理学者が、チャットボット利用に関連して患者が歪んだ思考や妄想を抱くようになったと報告しており、また3分の1を超える人がAI依存を観察したことが分かった。ニューヨーク市立大学とロンドン大学キングス・カレッジ校による別の研究では、主要なAIモデルが妄想、パラノイア、そして自殺に関する考えを強化し得ることが示されている。研究者らは、AI利用と精神病の間に因果関係は確立されていないと強調している。
