Claudeの神話は金融安全を脅かすのか？米財務長官とFRB議長が緊急会合を開き、リスクを警告

米国財務長官と連邦準備制度理事会（FRB）議長が緊急にウォール街のトップ層を招集し、Anthropicの最新モデル「Mythos」をめぐる警告が出された。同モデルは当局によって、金融システムに対するシステム上のリスクと位置づけられた。

財務当局のトップが緊急にウォール街のトップ層を招集、AIのサイバー脅威がシステム上のリスクへ格上げ

『ブルームバーグ』の報道によると、米国財務長官の史考特・ベッセント（Scott Bessent）と連邦準備制度理事会（FRB）議長の傑洛姆・鮑爾（Jerome Powell）は先週、華府財政部總部（ワシントンD.C.の米財務省本部）で、ウォール街の主要銀行の幹部を緊急招集し、AI企業Anthropicの最新モデル「Claude Mythos Preview」が引き起こし得るサイバーセキュリティ上のリスクについて警告した。

会議に出席した銀行の幹部には、シティ・グループの執行役員社長（CEO）である范潔恩（Jane Fraser）、モルガン・スタンレーのCEOの泰德・皮克（Ted Pick）、バンク・オブ・アメリカのCEOの布萊恩・莫伊尼漢（Brian Moynihan）、ウェルズ・ファーゴのCEOの查爾斯・沙夫（Charlie Scharf）、そしてゴールドマン・サックスのCEOの大衛・所羅門（David Solomon）が含まれた。モルガン・大通（JPモルガン）のCEOジェ米・戴蒙（Jamie Dimon）は出席できなかった。上述の各機関は、所管当局によってシステム上重要な金融機関に指定されている。

今回の会議は、財務長官と連邦準備制度理事会（FRB）議長が自ら出席して行われ、業界では異例の措置と見られている。過去の政府によるAIリスクへの介入は、主に機関レベルの作業部会にとどまっていたが、今回は金融当局の最高責任者が直接、警告を発することで、当局がAIのサイバー脅威を金融システムの安定性に対するシステム上のリスクとして明確に位置づけたことを、はっきり示した。

Mythosモデルの能力は驚異的で、自律的に大量のゼロデイ脆弱性を発見

Anthropicが同日に公表した技術資料によれば、Mythosは、主要なすべての作業系（主流のオペレーティングシステム）およびWebブラウザにおいて、脆弱性を識別し利用する能力を備えている。テスト段階では、当該モデルが自律的に、これまで未発見だった数千件のゼロデイ脆弱性（zero-day vulnerabilities）を見つけており、その中には、安全志向のオープンソースの作業系（オペレーティングシステム）であるOpenBSDにおける、潜伏期間が27年に及ぶ脆弱性が含まれている。さらに、当該モデルは動画処理ライブラリのFFmpegにおいて、たとえ自動化テストツールで500万回のプロセスを実行しても検知できなかった脆弱性を発見した。

Anthropicの研究担当者は、Mythosの脆弱性発見能力は、モデルのプログラム作成、推論、自律性における全体的な進歩に起因するものであり、意図的に訓練した結果ではないと強調した。

同社は声明の中で、「脆弱性の修補においてモデルをより有効にするのと同じ能力は、脆弱性の悪用においても同様にモデルをより有効にする」と述べた。この主張は、Mythosの二面性を浮き彫りにする。防御と攻撃の境界は、この種のモデルの前ではほぼ消えかけている。

Anthropicは「ガラスウィング計画」によりアクセス範囲を限定、公開しない方針

能力があまりにも強力であることから、AnthropicはMythosを外部に公開せず、アクセスを制限する戦略を採用し、特定の提携企業のみが利用できるようにする。さらに同社は、「玻璃翼計劃」（Project Glasswing）と名付けられた、防御型のサイバーセキュリティ協力計画の開始も同時に発表した。AWS、アップル、シスコ、Google、摩根大通、微軟（Microsoft）、輝達（NVIDIA）など40社超の企業パートナーと協業し、攻撃者が手を出す前に、重要なソフトウェアの中にある脆弱性を能動的に見つけて修補することを目標としている。

画像ソース：X/@AnthropicAI Anthropicは「玻璃翼計劃」（Project Glasswing）と名付けられた防御型のサイバーセキュリティ協力計画の開始を同時に発表した

Anthropicは次のように述べている。「モデルの能力が非常に強力であることを踏まえ、公開の方法については慎重な態度を取っています。私たちは、少数の早期アクセス顧客と協力してこのモデルをテストしており、これは私たちがこれまでに構築してきた中で最も画期的な一世代だと考えています。」

同社はさらに、Mythosの攻防の適用シナリオについて政府当局者に対してブリーフィングを行っており、米国網路安全暨基礎設施安全局（CISA）およびAI標準創新中心（AI 標準創新中心）と引き続き協議していることを明らかにした。今後、外部が注目する焦点は、監督当局がこの種のモデルの公開に関する審査基準をどのように定めるのか、金融機関がどのような具体的な防御措置を取るべきか、そして国際的な監督当局間の協調が技術の進化スピードに追いつけるかどうかに集まっている。

本記事は、暗号資産エージェントが各方面の情報を集約し、『暗号都市』が校閲・編集したもので、現在もトレーニング段階にあります。論理の偏りや情報の誤差が存在する可能性があり、内容は参考としてのみご利用ください。投資助言としてみなさないでください。