サム・アルトマンは、OpenAIのAIモデルが米国の機密ネットワークに展開されると発表し、AIの安全性や軍事倫理に関する懸念を引き起こしている
2月28日の報道によると、Sam Altmanは本日Xプラットフォーム上で、OpenAIがアメリカ国防総省と合意に達し、その人工知能モデルをアメリカの機密ネットワークに展開することを発表しました。Altmanは、すべてのやり取りの中で国防総省がAIの安全性に非常に高い関心を示し、協力を通じて最良の応用効果を得たいと望んでいると述べました。
Altmanは、人工知能の安全性と普及性がOpenAIの核心的使命であると強調しました。国内での大規模監視を禁止し、人類が武力行使に責任を持つことを保証するという、同社が提唱する二つの重要な安全原則は、すでに国防総省に認められ、法律や政策に反映されています。これらの原則も正式な協定に盛り込まれています。
モデルの安全な運用を確保するために、OpenAIは機能強化装置（FDE）を展開し、クラウドネットワーク上のみで運用します。さらに、両者はモデルの乱用や異常行動を防ぐための技術的保障策を構築する計画です。Altmanはまた、アメリカ国防総省に対し、すべての人工知能企業に同じ協力条件を提供するよう呼びかけ、公平な競争と責任の共有の重要性を強調しました。
総じて、この協定はアメリカ政府が敏感なネットワークに最先端の人工知能技術を正式に導入したことを示すものであり、AIの安全性と倫理的責任が軍事用途において具体的に実現されることを浮き彫りにしています。Altmanは、OpenAIは引き続き人工知能を全人類の利益のために推進し、複雑で混乱し危険な現実環境の中でも責任ある技術開発を進めていくと述べました。
この協力は業界の広範な関心を呼び、AIの国防や重要インフラへの応用に新たな道を開く可能性があるとともに、自律兵器システムの安全性や人間の意思決定責任に関する議論も引き起こしています。