Claude Mythosは金融の安全を脅かすのか？米財務長官と聯準會主席が緊急会合を開き、リスクを警告

米国財務長官と連邦準備制度理事会（FRB）議長が緊急にウォール街の幹部を招集し、Anthropic の最新モデル Mythos に警告を発した。 当局は、このモデルを金融システムのシステミック・リスク（体系的リスク）と位置づけた。

財務首長が緊急でウォール街の幹部を招集、AIのネット脅威がシステミック・リスクへ格上げ

『ブルームバーグ』の報道によると、米国財務長官のスコット・ベッセント（Scott Bessent）とFRB議長のジェローム・パウエル（Jerome Powell）は先週、ワシントンの財務省本部で緊急にウォール街の主要銀行の幹部を招集し、AI企業Anthropicの最新モデル「Claude Mythos Preview」が引き起こし得るサイバーセキュリティ上のリスクについて警告を行った。

会議に出席した銀行の幹部には、シティグループのCEOジェーン・フレイザー（Jane Fraser）、モルガン・スタンレーのCEOテッド・ピック（Ted Pick）、バンク・オブ・アメリカのCEOブライアン・モイニハン（Brian Moynihan）、ウェルズ・ファーゴのCEOチャールズ・シャーフ（Charlie Scharf）、およびゴールドマン・サックスのCEOデイビッド・ソロモン（David Solomon）が含まれる。 一方、JPMorganチェースのCEOジェイミー・ダイモン（Jamie Dimon）は出席できなかった。 これらの機関は、当局によってシステム上重要な金融機関として指定されている。

今回の会議は、財務長官とFRB議長が自ら出席したもので、業界では異例と見られている。 これまで政府のAIリスクへの介入は、主として機関レベルの作業部会にとどまっていたが、今回は金融当局の最高責任者が直接、警告を発した。 当局がAIのネット脅威を金融システムの安定性に関わるシステミック・リスクと明確に位置づけたことを示すものだ。

Mythosモデルの能力は驚異的、自律的に多数のゼロデイの脆弱性を発見

同日にAnthropicが公開した技術資料によると、Mythosは、主要なあらゆるOSおよびウェブブラウザにおいて脆弱性を識別し、それを利用する能力を備えている。 テスト段階では、このモデルは自律的に、これまで未知だった数千のゼロデイ脆弱性（zero-day vulnerabilities）を発見し、その中には、安全指向のオープンソースOSであるOpenBSDに潜伏していた27年にわたる脆弱性が含まれる。 さらに、このモデルは、映像処理ライブラリのFFmpegにおいて、手動および自動化テストツールによる実行500万回の手続きでも検知できなかった脆弱性も見つけた。

Anthropicの研究者は、Mythosの脆弱性発見能力は、モデルのプログラム作成、推論、そして自律性における総合的な進歩に由来するものであり、意図的に訓練した結果ではないと強調した。

同社は声明で「脆弱性の修補に対してモデルをより効果的にする同じ能力は、脆弱性の悪用に対しても同様により効果的にする」と述べている。 この見方は、Mythosの二面性を浮き彫りにする。 防御と攻撃の境界が、この種のモデルの前ではほぼ消え去ってしまうのだ。

Anthropicは「ガラスの翼計画」によりアクセスを制限し公表を拒否

能力があまりにも強力なため、AnthropicはMythosを外部に公開せず、アクセスを制限する戦略を採り、特定の提携企業のみが利用できるようにした。 同社は同時に、防御的なサイバーセキュリティ協力計画として「ガラスの翼計画」（Project Glasswing）を開始したことも発表した。 AWS、Apple、Cisco、Google、JPMorganチェース、Microsoft、NVIDIAなど40社超の企業パートナーと協業し、攻撃者が手を出す前に、重要なソフトウェア内の脆弱性を主体的に見つけて修正することを目標としている。

画像出典：X/@AnthropicAI Anthropicは、防御的なサイバーセキュリティ協力計画として「ガラスの翼計画」（Project Glasswing）の開始も同時に発表した

Anthropicは「モデルの能力が非常に強力であることを踏まえ、公開の方法には慎重な姿勢を取っています。私たちは少数の早期アクセスの顧客と連携してこのモデルのテストを行っており、これはこれまで私たちが構築してきた中で最もブレークスルーとなる世代だと考えています」と述べた。

同社はまた、Mythosの防御・攻撃におけるユースケースについて政府当局者に説明を行っており、米国のサイバーセキュリティおよびインフラストラクチャセキュリティ庁（CISA）ならびにAI標準イノベーションセンターとの協議を継続している。 今後外部が注目する焦点は、規制当局がこの種のモデルの発表審査基準をどのように定めるのか、金融機関がどのような具体的な防御措置を講じるべきなのか、そして国際的な規制当局間の協調が技術の進歩のスピードに追随できるかどうかに集まる。

本記事は、暗号資産のAgentが各所の情報を集約し、『暗号都市』の査読・編集によって生成されたもので、現在もトレーニング段階にあります。ロジックの偏りや情報の誤差が存在する可能性があります。内容は参考情報としてのみ提供され、投資助言としては見なさないでください。