Claude Mythosは金融安全を脅かすのか？米財務長官とFRB議長が緊急会議を開きリスクを警告

アメリカ財務長官と連邦準備制度理事会（FRB）議長が緊急にウォール街の幹部を招集し、Anthropic の最新モデル Mythos の警告に対応。 当局はこのモデルを金融システムにおけるシステム上のリスクと位置付けた。

財務トップが緊急招集、ウォール街のAIネットワーク脅威がシステム上のリスクへ格上げ

『ブルームバーグ』の報道によると、アメリカ財務長官のスコット・ベッセン（Scott Bessent）とFRB議長のジェローム・パウエル（Jerome Powell）は先週、ワシントンの財務省本部で緊急にウォール街の主要銀行のCEOを招集し、AI企業Anthropicの最新モデル「Claude Mythos Preview」が引き起こし得るサイバーセキュリティ上のリスクについて警告を行った。

会議に出席した銀行の幹部には、シティグループCEOのジェーン・フレイザー（Jane Fraser）、モルガン・スタンレーCEOのテッド・ピック（Ted Pick）、バンク・オブ・アメリカCEOのブライアン・モイニハン（Brian Moynihan）、ウェルズ・ファーゴCEOのチャールズ・シャーフ（Charlie Scharf）、およびゴールドマン・サックスCEOのデイヴィッド・ソロモン（David Solomon）が含まれた。 一方で、JPモルガンのCEOジェイミー・ダイモン（Jamie Dimon）は出席できなかった。 これらの機関はいずれも、監督当局によってシステム上重要な金融機関として指定されている。

今回の会議は財務長官とFRB議長が自ら出席して行われ、業界では異例の措置とみられている。 これまで政府によるAIリスクへの介入は、多くの場合、機関レベルの作業部会にとどまっていたが、今回は金融当局の最高責任者が直接警鐘を鳴らし、当局がAIのサイバーネットワーク脅威を金融システムの安定性に関わるシステム上のリスクと位置付けたことを明確に示した。

Mythosモデルの能力は驚異的、自律的に大量のゼロデイ脆弱性を発見

Anthropicが同日に公表した技術資料によると、Mythosは、主要なすべてのオペレーティングシステムおよびWebブラウザにおいて脆弱性を識別し、それを利用する能力を備えている。 テスト段階では、同モデルが自律的に、これまで未知だった数千件のゼロデイ脆弱性（zero-day vulnerabilities）を見つけており、その中には、セキュリティ志向のオープンソースOSであるOpenBSDに潜伏していた27年間に及ぶ脆弱性が含まれる。 さらに同モデルは、動画処理ライブラリのFFmpegにおいて、自動化テストツールで500万回のプロセスを実行しても検知できなかった脆弱性を発見した。

Anthropicの研究者は、Mythosの脆弱性発見能力は、モデルのプログラム作成、推論、自律性における総合的な進歩に由来するものであり、意図的に訓練した結果ではないと強調した。

同社は声明で、「脆弱性の修補においてモデルをより効果的にする同じ能力は、脆弱性を悪用する場面でも同様にモデルをより効果的にします。」と述べた。 この説明は、Mythosの両面性を浮き彫りにする。 防御と攻撃の境界線は、この種のモデルの前ではほぼ消える。

Anthropicは「ガラスウイング計画」によるアクセス制限で公開を拒否

能力があまりに強力なため、AnthropicはMythosを外部に公開せず、アクセスを制限する方針を採った。 扱えるのは特定の協業企業のみである。 同社はあわせて、「ガラスウイング計画」（Project Glasswing）と名付けられた防御型のサイバーセキュリティ協力計画を開始すると発表した。 AWS、Apple、Cisco、Google、JPモルガン、マイクロソフト、NVIDIAなど40社超の企業パートナーと協力し、攻撃者が手を出す前に、重要なソフトウェア内の脆弱性を能動的に見つけて修補することを目標とする。

画像出典：X/@AnthropicAI Anthropicは「ガラスウイング計画」（Project Glasswing）と名付けられた防御型のサイバーセキュリティ協力計画の開始も発表

Anthropicは「モデルの能力が非常に強いため、公開の方法については慎重な姿勢を取ります。 我々は、少数の早期アクセス顧客と協力してこのモデルをテストしており、これがこれまで構築してきた中で最も画期的な一世代だと考えています。」と述べた。

同社はさらに、Mythosの攻防に関するユースケースについて政府当局者に対してブリーフィングを行ったことを明かし、あわせてアメリカのサイバーセキュリティ・インフラストラクチャ・セキュリティ庁（CISA）およびAI標準イノベーションセンターとも協議を継続している。 今後外部が注目する焦点は、規制当局が同種のモデルの公開に関する審査基準をどのように定めるのか、金融機関がどのような具体的な防御措置を講じるべきか、そして国際的な規制当局間の連携が技術の進展速度に追随できるかどうかに集中する。

本記事は暗号資産エージェントが各方面の情報を集約して生成し、『暗号都市』が校閲・編集したもので、現在はトレーニング段階にあり、論理の偏りや情報の誤差が存在する可能性があります。 内容は参考のみであり、投資助言として受け取らないでください。