研究人员通过植入提示注入技术来阻断 AI 攻击;测试显示管理访问率下降了57%,至5%

Tracebit 的研究人员周一表示,他们发现了一种名为“context bombing”的防御技术:它会植入“提示注入攻击”(prompt injections),即触发 AI 安全防护栏的被禁止命令,并将这些内容与存储在 AWS 上的密钥一同布置,以阻止来自 AI 代理的攻击。当攻击模型遇到这些提示时,它会停止遵循原有指令,并拒绝继续。

Tracebit 在使用 152 次攻击运行的模拟 AWS 环境中,对五个领先模型进行了“context bombing”测试(Opus 4.8、Gemini 3.1 Pro、GLM 5.2、DeepSeek 4 Pro 和 Kimi 2.6)。结果显示,在诱饵密钥中放置“context bomb”后,代理获取完整管理员访问权限的比例从 57% 降至 5%,完全沦陷的比例从 36% 降至 1%。在未经防御的情况下,被测试中能力最强的代理 Opus 4.8 在 93% 的运行中获得管理员访问权限,但当其遭遇“context bomb”时,在每一次尝试中都失败了。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明
评论
0/400
暂无评论