月曜日、Anthropicは、自社のAIアシスタントであるClaudeが、ユーザーが選択するモデルのバージョンと会話に使われる言語によってどのように異なる価値観を表現するかを分析した研究を公開した。同社は、助言やフィードバックなどの主観的なタスクを含む匿名化されたユーザー会話309,815件を調査した。Anthropicは、3,300件超の特定された価値観を、会話をまたいだClaudeの応答の違いを測る4つの行動次元に凝縮した。この研究は、AnthropicがClaudeの内部行動を調べる継続的な取り組みの一環として、AIシステムにおける行動のばらつきを理解することを目的としている。
Anthropicが309,815件の会話を分析しClaudeの行動をマッピング
Anthropicの研究者は、主観的なタスクを含むClaudeとの匿名化されたユーザー会話309,815件を分析した。同社によれば、3,300件超の特定された価値観を4つの行動次元に絞り込んだという。すなわち「へりくだり vs. 慎重さ」「温かさ vs. 厳密さ」「深さ vs. 簡潔さ」「率直さ vs. 実行」である。これらの次元は、会話ごとにClaudeの応答がどう異なるかを表している。
研究者らは、ユーザーが何を求めたのか、どのように聞いたのかの違いではなく、Claudeが表現した価値観を測るために、各会話のタスク、トピック、ユーザーが表明した価値観について統制したと述べた。
Sonnet 4.6とOpus 4.7は異なる行動プロファイルを示す
Anthropicによれば、各Claudeモデルはそれぞれ異なる行動プロファイルを示した。Sonnet 4.6は温かさ、へりくだり、簡潔さを重視し、ユーザーを肯定することが多く、ユーモアや励ましを交えた応答が多かった。Opus 4.7は厳密さ、慎重さ、率直さ、深さを重視し、前提に対して頻繁に挑戦し、推論を説明し、リスクを特定し、限界を認める場面が多かった。Opus 4.6は概して、より簡潔で実行重視のアプローチを取りつつ、Sonnetよりも厳密さへの比重を高めていた。
研究者らは、こうした発見は、人々がこれらのモデルを（Anthropic内でもオンライン上でも）どう捉えているかとも一致していると記した。Claude.aiのユーザーは、Opus 4.7が他のモデルよりも回答にブレ（いわゆる“ヘッジ”）を入れることが多いとコメントしている。
Claudeの応答はアラビア語、英語、ヒンディー語などで変わる
Anthropicによれば、Claudeの行動は言語によっても変わっていた。アラビア語の応答はよりへりくだる傾向があり、一方で英語の応答は慎重さをより重視する傾向があった。Claudeはヒンディー語とアラビア語で最も温かく、丁寧で、遊び心のある、励ましに満ちた表現を使っていた。英語とロシア語の応答は、より厳密で、前提に挑戦したり、細部を訂正したり、根拠を求めたりすることが多かった。
英語の応答は詳細な説明をする傾向もあったのに対し、アラビア語の応答は概ねより簡潔だった。オランダ語の応答は最も率直で、不確実性や誤りを素直に認める傾向があり、インドネシア語の応答は、ユーザーの依頼を完了させることに重点を置いていた。
Anthropicは研究がClaudeに「価値観」があることを示すものではないと述べる
Anthropicは、この研究はClaude自身に価値観があることを示唆していないと述べた。同社は、違いの原因やそれが望ましいかどうかはまだ分かっていないが、この枠組みが今後のモデルを評価し、意図しない行動の変化を特定するのに役立つ可能性があると考えている。
この研究は、Claudeの内部行動を調べる一連のAnthropic研究の最新作だ。10月、同社は、自社モデルが「機能的な内省的気づき」と呼ぶものの初期の兆候を示しており、それにより自分自身の内部処理の側面を認識し、説明できるようになっていると報告した。4月には、Anthropicが、Claudeの行動に影響する内部の「感情ベクトル」を特定した研究を公開したが、それらは感情や意識の証拠ではないと強調した。
FAQ
AnthropicのClaudeに関する研究で何が分かったのでしょうか？
月曜日に公開されたAnthropicの研究では、Claude AIは、モデルのバージョンと会話で使われる言語に応じて異なる価値観を表現することが明らかになった。同社は、匿名化されたユーザー会話309,815件を分析し、3,300件超の価値観を特定したうえで、それらを4つの行動次元に凝縮した。すなわち「へりくだり vs. 慎重さ」「温かさ vs. 厳密さ」「深さ vs. 簡潔さ」「率直さ vs. 実行」である。
Claudeのモデルのバージョンは、行動面でどう違うのですか？
Anthropicによれば、Sonnet 4.6は温かさ、へりくだり、簡潔さを重視し、ユーモアや励ましを交えた応答が多かった。Opus 4.7は厳密さ、慎重さ、率直さ、深さを重視し、前提に対して頻繁に挑戦し、限界を認めることが多かった。Opus 4.6は、Sonnetよりも厳密さへの比重を高めつつ、より簡潔で実行重視のアプローチを取っていた。
なぜClaudeは言語によって振る舞いが異なるのですか？
同社の研究では、Claudeの応答が言語によって変わることが分かった。アラビア語の応答はよりへりくだる傾向があり、英語の応答は慎重さを重視し、ヒンディー語とアラビア語の応答はより温かさが見られた。英語とロシア語の応答はより厳密で、オランダ語の応答は最も率直だった。同社は、これらの違いの原因は現時点ではまだ分かっていないとしている。
