Anthropic 在持續的五角大樓爭議中不會解除 AI 安全措施:CEO

簡要摘要

  • 達里奧·阿莫迪(Dario Amodei)表示,Anthropic 不會移除對大規模國內監控和全自主武器的禁令。
  • 五角大廈已威脅終止合約並可能根據國防生產法採取行動。
  • 此對峙源於有報導稱美軍曾使用 Claude 來捕捉前委內瑞拉總統 Nicolás Maduro。

Anthropic 執行長達里奧·阿莫迪(Dario Amodei)週四表示,該公司將不會移除其 Claude AI 模型的安全措施,這加劇了與美國國防部關於該技術在機密軍事系統中使用方式的爭議。此聲明是在國防部審查與 Anthropic 的合作關係並權衡潛在後果之際發出的,包括取消該公司2億美元的合約以及可能援引國防生產法。

“我們憑良心無法同意他們的要求,”阿莫迪寫道,指的是一月五角大廈要求 AI 承包商允許其系統用於“任何合法用途”。

雖然五角大廈之後已要求 AI 供應商在未來的協議中採用標準的“任何合法用途”措辭,但 Anthropic 仍是唯一抗拒將其 AI 控制權交給軍方的前沿 AI 公司。週三,《Axios》首次報導五角大廈已發出最後通牒,要求 Claude 的軍事用途不受限制。截止期限據稱是本週五。

“部門有權選擇最符合其願景的承包商,”阿莫迪繼續說。“但鑑於 Anthropic 的技術對我們武裝力量的重大價值,我們希望他們重新考慮。”

在聲明中,阿莫迪將公司的立場描述為符合美國的國家安全目標。

“我深信使用 AI 來保衛美國及其他民主國家、擊敗我們的專制對手具有存在的意義,”他說。他補充說,Claude “已在國防部及其他國家安全機構廣泛部署,用於情報分析、建模與模擬、作戰規劃、網絡行動等。”

AI之戰
這場爭議發生在對高階 AI 系統在高風險軍事場景中行為的更廣泛擔憂之中。在倫敦國王學院的一項最新研究中,OpenAI 的 GPT-5.2、Anthropic 的 Claude Sonnet 4 和 Google 的 Gemini 3 Flash 在95%的模擬地緣政治危機中部署核武器。

一月,在德州 SpaceX 的 Starbase 發表演說時,國防部長 Pete Hegseth 表示美軍計劃部署最先進的 AI 模型。同月,有報導稱 Claude 曾在美國一項行動中被用來捕捉前委內瑞拉總統 Nicolás Maduro。阿莫迪駁斥了有關 Anthropic 質疑任何特定軍事行動的說法。

“Anthropic 明白,軍事決策由國防部而非私人公司作出,”他說。“我們從未對特定軍事行動提出異議,也未試圖以臨時方式限制我們技術的使用。”

儘管如此,阿莫迪表示,將這些系統用於大規模國內監控或自主武器,與民主價值觀不符,且存在嚴重風險。

“目前,前沿 AI 系統尚不可靠到足以支援完全自主武器,”他說。“我們不會故意提供可能危及美國戰鬥人員和平民的產品。”

他還談到五角大廈威脅將 Anthropic 列為“供應鏈風險”並可能援引國防生產法。

“這兩個威脅本質上是矛盾的:一個將我們標記為安全風險,另一個則認為 Claude 對國家安全至關重要,”他說。

儘管阿莫迪表示公司不會遵從五角大廈的要求,但同時,Anthropic 已修訂其負責任擴展政策,放棄了在沒有保障措施的情況下停止訓練先進系統的承諾。

公共公民(Public Citizen)聯合主席羅伯特·韋斯曼(Robert Weissman)表示,五角大廈的立場顯示對科技產業的更廣泛壓力。

“五角大廈公開恐嚇 Anthropic,這是有意為之,因為他們想施加壓力,向所有大型科技公司和企業傳遞訊息:我們打算做我們想做的事,不會讓任何人阻擋我們,”韋斯曼對 Decrypt 表示。

韋斯曼形容 Anthropic 的安全措施“適度”,旨在防止“對美國人民的不當監控或促進殺人機器人、AI 支援武器的開發與部署,這些武器可能在沒有人的同意下發動致命攻擊。”

“在這個強大的新技術面前,這些是你能想到的最合理、最謹慎的安全措施。”

關於五角大廈威脅將 Anthropic 列為“供應鏈風險”的說法,韋斯曼認為這是政府可能施加的毀滅性懲罰,並認為這會壓力其他 AI 公司避免設置類似限制。

“個人可能會使用 Claude,但沒有任何 AI 公司,尤其是 Anthropic,的商業模式是基於個人使用;他們追求商業用途,”他說。“這是政府可能施加的毀滅性懲罰。”

儘管五角大廈尚未表示是否會執行終止合約或援引國防生產法的威脅,韋斯曼表示,五角大廈正向 AI 公司傳遞訊息,期待在其技術部署於政府系統後,能獲得不受限制的使用權。

“這是五角大廈的訊息,‘我們不會容忍這樣,我們希望能用這些技術做任何我們想做的事,’”韋斯曼說。

國防部與 Anthropic 尚未立即回應 Decrypt 的置評請求。

免責聲明:本頁面資訊可能來自第三方來源,僅供參考,不代表 Gate 的立場或觀點,亦不構成任何財務、投資或法律建議。虛擬資產交易具有高風險,請勿僅依賴本頁資訊作出決策。詳情請參閱 免責聲明
回覆
0/400
暫無回覆