Claude Mythosは金融安全を脅かすのか？米財務長官とFRB議長が緊急会議を開き、リスクを警告

米国財務長官と連邦準備制度理事会（FRB）議長が緊急にウォール街の幹部を召集し、Anthropic の最新モデル Mythos をめぐり警告した。同モデルは当局により金融システムのシステム上のリスクとして位置づけられた。

財務当局の長が緊急にウォール街の幹部を召集、AI のサイバー脅威がシステム上のリスクへ格上げ

『ブルームバーグ』によると、米国財務長官のスコット・ベッシェント（Scott Bessent）とFRB議長のジェローム・パウエル（Jerome Powell）は先週、ワシントンD.C.の財務省本部で緊急にウォール街の主要銀行の幹部を召集し、AI企業 Anthropic の最新モデル「Claude Mythos Preview」が引き起こす可能性のあるサイバーセキュリティ上のリスクについて警告を行った。

会議に出席した銀行幹部には、シティグループ CEO のジェーン・フレイザー（Jane Fraser）、モルガン・スタンレー CEO のテッド・ピック（Ted Pick）、バンク・オブ・アメリカ CEO のブライアン・モイニハン（Brian Moynihan）、ウェルズ・ファーゴ CEO のチャールズ・シャーフ（Charlie Scharf）、およびゴールドマン・サックス CEO のデイヴィッド・ソロモン（David Solomon）が含まれた。JPモルガン・チェース CEO のジェイミー・ダイモン（Jamie Dimon）は出席できなかった。上記の各機関は、監督当局によってシステム上重要な金融機関に指定されている。

今回の会議は、財務長官とFRB議長が直接出席したもので、業界では異例だと見られている。過去に政府がAIリスクに介入する場合、主に機関レベルの作業部会にとどまっていたが、今回は金融当局の最高責任者が自ら示警する形となり、当局がAIのサイバー脅威を金融システムの安定性に対するシステム上のリスクと位置づけたことを明確に示した。

Mythos の能力は驚異的で、自律的に大量のゼロデイ脆弱性を発見

Anthropic が同日公表した技術資料によると、Mythos は、主要なすべてのオペレーティングシステムおよびWebブラウザにおいて脆弱性を識別し、それを悪用する能力を備えている。テスト段階では、同モデルが自律的に、これまで未知だった数千件のゼロデイ脆弱性（zero-day vulnerabilities）を見つけており、その中には、安全志向のオープンソースOSである OpenBSD のうち、潜伏期間が27年に及ぶ脆弱性が含まれる。また、同モデルは動画処理ライブラリの FFmpeg において、自動化テストツールで 500 万回のプロセスを実行しても検知できなかった脆弱性も発見した。

Anthropic の研究者は、Mythos の脆弱性発見能力は、モデルのプログラム作成、推論、自律性といった全体的な進歩に由来するものであり、意図的に訓練した結果ではないと強調した。

同社は声明で、「脆弱性の修復においてモデルをより効果的にする同じ能力は、脆弱性の悪用においても同様にモデルをより効果的にする。」と述べている。この説明は、Mythos の両面性を浮き彫りにする。防御と攻撃の境界線は、この種のモデルの前ではほぼ消えかかっている。

Anthropic は「グラスウィング計画」開始によりアクセス範囲を制限し、公表は拒否

能力があまりにも強力であるため、Anthropic は Mythos を外部に公開せず、アクセスを制限する方針を採り、特定の提携企業のみが利用できるようにすることを決めた。同社はあわせて、防御的なサイバーセキュリティ協力計画として「グラスウィング計画」（Project Glasswing）を開始したと発表した。AWS、Apple、Cisco、Google、JPモルガン・チェース、Microsoft、NVIDIA など40社超の企業パートナーと協力し、攻撃者が手を出す前に、重要なソフトウェア内の脆弱性を主体的に見つけて修補することを目標としている。

図ソース：X/@AnthropicAI Anthropic は、防御的なサイバーセキュリティ協力計画として「グラスウィング計画」（Project Glasswing）を開始したと同時に発表した

Anthropic は次のように述べた。「モデルの能力が非常に強力であることを踏まえ、公開の方法については慎重な姿勢を取ります。我々はごく少数の初期のアクセス顧客と協力して当該モデルのテストを行っており、これがこれまで構築してきた中で最も画期的な世代だと考えています。」

同社はさらに、Mythos の攻防の適用シナリオについて政府当局者に対するブリーフィングを行っており、米国のサイバーセキュリティ・インフラストラクチャ安全局（CISA）およびAI標準革新センター（AI 標準創新中心）とも継続して協議していると明かした。今後外部が注目する焦点は、規制当局が類似モデルの発表に関する審査基準をどのように定めるのか、金融機関がどのような具体的な防御策を取るべきなのか、そして国際的な規制機関同士の協調が技術の進化スピードに追いつけるのか、に集まる。

本記事は暗号化 Agent が各方面の情報を集約して生成し、『暗号都市』が校閲と編集を行ったもので、現在は訓練段階のため論理的な偏りや情報の誤差が存在する可能性があります。内容は参考目的のみであり、投資助言として受け取らないでください。