大衛·薩克斯在 Kimi K3 修補安全漏洞後批評美國的 AI 導護欄

大衛·薩克斯(David Sacks)是被稱為「幣圈沙皇」的白宮 AI 與加密貨幣政策主管;他於 7 月 19 日透過 X 批評美國 AI 模型的安全防護欄(guardrails),並以中國 AI 模型 Kimi K3 作為例子。薩克斯表示,Kimi K3 修復了 15 個關鍵安全漏洞,而美國模型 Codex 與 Fable 因「網路防護欄」而拒絕處理,並指出沒有理由限制美國模型在不成問題的情況下也能處理的任務。他的批評凸顯了針對 AI 安全限制的持續辯論,因為網路安全專家先前在 6 月致川普總統的一封信中警告,限制安全研究人員與防禦型組織使用 AI 可能會削弱網路防禦能力。

薩克斯稱 Kimi K3 的安全漏洞修補遭美國 AI 模型擋下

在他於 7 月 19 日的 X 貼文中,薩克斯寫道:「Kimi K3 剛剛修復了 Codex 與 Fable 因『網路防護欄』而拒絕處理的 15 個關鍵安全漏洞。沒有理由在美國模型能毫無問題處理的任務上加以限制。我們只是在讓自己變得更不具競爭力。」

適用於 Codex 與 Fable 的「網路防護欄」是用來限制可能被用於惡意目的(例如製作惡意程式或入侵系統)的請求之安全機制。然而,批評者指出,這些限制也會限制安全漏洞分析與防禦性研究,降低美國 AI 模型的實際效用。

Hugging Face 在美國模型的防護欄封鎖分析後改用中國 GLM 5.2

薩克斯在後續貼文中提供了另一個例子:「Hugging Face 試圖使用美國前沿模型來分析一場由 AI 驅動的網路攻擊。但防護欄封鎖了包含真實漏洞利用載荷的請求,因此他們改用在本地運行的 GLM 5.2。」

他表示:「這些防護欄實際上削弱了防禦性的安全性」,強調限制阻礙的是合法的安全研究,而非提升保護。

網路安全專家在 6 月警告川普:AI 限制風險

根據 Axios,網路安全專家由前 Facebook 首席安全官 Alex Stamos 領導,在 6 月寄出公開信給川普總統。信中警告:「限制安全研究機構與防禦型組織的 AI 使用機會,實際上可能削弱網路防禦能力。」

專家們指出,最新的 AI 模型已被廣泛用於數位資產產業,以透過智慧合約監控、漏洞分析、程式碼審查以及滲透測試來提升安全水準。

常見問題

大衛·薩克斯在 7 月 19 日談到中國 AI 模型 Kimi K3 時說了什麼?

大衛·薩克斯在 X 上表示,Kimi K3 修復了 15 個關鍵安全漏洞,而美國 AI 模型 Codex 與 Fable 因「網路防護欄」而拒絕處理。他認為沒有理由在美國模型能毫無問題處理的任務上加以限制,並稱美國正在讓自己變得更不具競爭力。

為什麼 Hugging Face 從美國 AI 模型轉向中國 GLM 5.2?

Hugging Face 試圖使用美國前沿 AI 模型來分析一場由 AI 驅動的網路攻擊,但防護欄封鎖了包含真實漏洞利用載荷的請求。因此,研究團隊改用在本地運行的中國開源 AI 模型 GLM 5.2。

網路安全專家在 6 月警告川普什麼?

由前 Facebook CSO Alex Stamos 領導的網路安全專家在 6 月寄出公開信給川普總統,警告限制安全研究機構與防禦型組織使用 AI 可能會削弱網路防禦能力。他們指出,在數位資產產業中,最新 AI 模型正被用於智慧合約監控、漏洞分析、程式碼審查以及滲透測試。

免責聲明:本頁面資訊可能來自第三方來源,僅供參考,不代表 Gate 的立場或觀點,亦不構成任何財務、投資或法律建議。虛擬資產交易具有高風險,請勿僅依賴本頁資訊作出決策。詳情請參閱 免責聲明
回覆
0/400
暫無回覆