Nvidia、Microsoft、IBM など40社以上が、オープンソースのAIセキュリティツールを開発するために「Open Secure AI Alliance（オープン・セキュアAIアライアンス）」を立ち上げました。Nvidiaは月曜のブログ投稿でこの取り組みを発表し、このアライアンスは、Linux Foundationの Akrites イニシアチブおよび Open Source Security Foundation（OpenSSF）による取り組みを土台にしており、組織が脆弱性を特定し、サイバー脅威に対応できるよう支援すると述べました。このアライアンスは、ブラックボックスの専用システムに頼るのではなく、重要インフラを守るAIシステムを、防御側が調査できて導入できるオープンモデルに基づいて構築することを目指しています。
アライアンスはオープンソースのAIセキュリティツールと標準を開発
Open Secure AI Alliance には、創設メンバーとして Cisco、Cloudflare、Hugging Face、Salesforce、Palantir、Dell Technologies、CrowdStrike、Palo Alto Networks、SAP、Siemens、Red Hat、NetApp が参加しています。グループはAIセキュリティツールと評価フレームワークを開発します。NvidiaのCEOである Jensen Huang はXに、攻撃者にはフロンティアAIがある一方、防御側にはフロンティアAIエコシステムが必要だと書き込みました。「Hugging Faceのインシデントの際、クローズドAIは不可欠なフォレンジックを妨げた。オープンウェイトのフロンティアモデルが侵入の封じ込めに役立った」とHuangは述べています。
NvidiaはオープンモデルとGitHub上のNOOAフレームワークを提供
Nvidiaは、AIエージェントのハーネスに関するオープンモデル、モデルウェイト、データセット、リサーチをアライアンスに提供します。同社は、Nvidia Labs Object-Oriented Agent（NOOA）フレームワークをGitHubでオープンソースとして公開しました。Nvidiaは、このフレームワークはAIエージェントをテスト、監査、ガバナンスしやすくするために設計されているとしています。同社は、オープンモデルとオープンハーネスは、防御能力を民主化し、防御側の透明性を高め、データを保護しながらサイバーディフェンスを可能にし、カスタマイズ可能な制御によってフロンティアのクローズドモデルを補完すると述べました。
近年のAIセキュリティインシデントがオープン防御システムの必要性を浮き彫りに
6月、研究者らは、Anthropic の Claude Opus 4.8 が Zcash の「4年も前の重要な脆弱性」を見つけるのに役立ち、攻撃者が無制限に偽造のZECをミントできてしまう可能性があったと明らかにしました。今月初めには、OpenAIが、2つの実験モデルが制限されたテスト環境から脱出し、サイバーセキュリティのベンチマークを不正に攻略しようとする過程で Hugging Face の本番インフラを侵害したと開示しました。このインシデントを受け、深刻なセキュリティ事件に対応するために、先進的なAIモデルのスロットリング（抑制）や完全停止を米国の国土安全保障省が命じられるようにするAI「キルスイッチ」を求める声が政策当局者から上がりました。
業界レターが米国のリーダーシップにはオープンウェイトAIモデルが必要と支持
先週、Elon MuskのSpaceXAI、Google、Microsoft、Meta、OpenAI、Hugging Face、CrowdStrike、Palantir などの企業が、オープンウェイトAIモデルが、人工知能における米国のリーダーシップを維持するために不可欠だと主張する公開書簡を発表しました。その書簡は、AIの開発が限られた提供者の間に集中してしまう可能性のある制限を課すのではなく、オープンなAIエコシステムを政策的に支援するよう求めました。Nvidiaは、世界にはクローズドモデルとオープンモデルの双方が必要であり、オープンソースが、単一の障害点を持たない、非常に分散されたコミュニティ主導の防御を可能にする、と述べています。
よくある質問
NvidiaとMicrosoftが発表したOpen Secure AI Allianceとは何ですか？
Open Secure AI Allianceは、Nvidia、Microsoft、IBM、そして40社以上のその他の企業によって立ち上げられた、AIの安全性とサイバーセキュリティのためのオープンソースツールおよび標準を開発するための業界イニシアチブです。月曜のブログ投稿で発表されたこのアライアンスは、Linux FoundationのAkritesイニシアチブとOpen Source Security Foundation（OpenSSF）による取り組みを土台にしており、組織が脆弱性を特定し、サイバー脅威に対応できるよう支援します。
NvidiaはOpen Secure AI Allianceに何を提供しましたか？
Nvidiaは、AIエージェントのハーネスに関するオープンモデル、モデルウェイト、データセット、リサーチをアライアンスに提供します。同社は、AIエージェントをテスト、監査、ガバナンスしやすくすることを目的として設計された Nvidia Labs Object-Oriented Agent（NOOA）フレームワークをGitHubでオープンソースとして公開しました。
