WhatsApp の Meta AI による無痕チャット。メッセージが自動で消えることが問責制度への懸念を引き起こす

WhatsApp の公式サイトによると5月13日の告知で、同社はソーシャルメッセージングアプリ「Meta AI 無痕対話」（Meta AI Private Processing）機能を提供開始し、6つの中核技術を採用している。中でも信頼できる実行環境であるTEEと、RA-TLSによるエンドツーエンド暗号化を用い、ユーザーのメッセージが安全な環境内で処理されることを確保する。さらに、Meta でさえも対話内容にアクセスできず、メッセージ処理後は自動的に消失する。

Meta AI 無痕対話の6つの確認技術

Metaの技術ホワイトペーパーで確認されている6つの中核技術：

機密演算用ハードウェア：機密演算に対応したAMD CPUとNvidia GPUを採用し、信頼できる実行環境（TEE）を構築する。MetaとホストのOSを含め、いずれも処理中のデータにアクセスできない

認証され暗号化された通信：RA-TLS技術を使用してエンドツーエンド暗号化を提供し、ハードウェア認証により、サーバーが改ざんされていないソフトウェアスタックを実行しているかを検証する

部品の透明性：バイナリファイルやモデルの重みなどの重要な構成要素を、第三者の公開透明性ログに公開し、クライアント側と研究者が実行コードの真正性を検証できるようにする

安全なソフトウェア：多層の防御を通じてアプリケーションをコンテナ化し、攻撃面を限定し、データ漏えいの経路を管理する

匿名ルーティング：匿名の証明書サービスとトラッキングしないHTTP技術を採用し、第三者の中継プロキシサーバー経由でルーティングすることで、Metaに対してユーザーのIPアドレスを隠す

短時間かつステートレスなデータ処理：コーディネータと予測器をステートレスに設計し、リクエストを処理した後はメモリ内の対話データを破棄することで、過去の履歴に対するアクセス権が保持されないことを確保する

Will Cathcart が確認した初期仕様

WhatsApp 責任者の Will Cathcart の説明によると：

初期の制限：Meta AI 無痕対話の初期段階では、テキストのみを処理し、当面は画像に対応しない

安全対策：Meta AI の安全メカニズムは保守的な方針を採用しており、有害または違法と解釈され得る要求には回答を拒否する

技術的位置づけ：無痕モードのプライベート処理技術は、WhatsApp の既存のエンドツーエンド暗号化とは異なるが、同等の有効性を備えている

Alan Woodward の説明責任メカニズムへの懸念

サリー大学のネットワークセキュリティ専門家 Alan Woodward は BBC に対し、無痕モードが導入する第2のシステムが WhatsApp の既存のセキュリティに及ぼすリスクは非常に低いと述べた。だが同時に、消える自動メッセージはユーザーや Meta が取得できないため、仮に誰かのAIによる対話が傷害や死亡につながっても、関連する証拠を見つけられない可能性があると指摘した。Woodward は、OpenAI や Google など複数のAI企業が過去に非正常な死亡に関連する訴訟に直面しており、無痕モードによってこうした事案での説明責任メカニズムの実行がより難しくなると述べた。

よくある質問

Meta AI 無痕対話と WhatsApp の既存のエンドツーエンド暗号化メッセージでは何が違う？

Will Cathcart の説明によれば、Meta AI 無痕対話が採用するプライベート処理技術は、WhatsApp の既存メッセージのエンドツーエンド暗号化とは別の技術だが、両者は同等の有効性を持つ。主な違いは、無痕対話ではメッセージが処理された後に自動的に消え、Meta 自身でさえアクセスできない点であり、通常のメッセージのように受信者が保持するわけではないことにある。

Meta AI 無痕対話は現時点でどんな機能に対応していて、どれはまだ対応していない？

Will Cathcart の確認によると、Meta AI 無痕対話の初期段階ではテキストメッセージのみ対応し、画像はサポートしない。Meta AI の安全防護メカニズムは保守的な方針を採用しており、有害または違法と解釈され得る要求への応答を拒否する。その他の機能を今後いつ開放するかについて、WhatsApp は現時点で計画を公表していない。

なぜ Meta AI は WhatsApp ユーザーにとって現時点で唯一のインタラクティブな AI なの？

WhatsApp は他の AI チャットボットのシステムへのアクセスを遮断している。数十億人の WhatsApp ユーザーが、プラットフォーム上で唯一相互にやり取りできる AI は、Meta 自社の Meta AI だ。WhatsApp は、この方針の具体的な理由について詳細な説明は提供していない。