Tracebit 的研究人员周一表示,他们发现了一种名为“context bombing”的防御技术:它会植入“提示注入攻击”(prompt injections),即触发 AI 安全防护栏的被禁止命令,并将这些内容与存储在 AWS 上的密钥一同布置,以阻止来自 AI 代理的攻击。当攻击模型遇到这些提示时,它会停止遵循原有指令,并拒绝继续。
Tracebit 在使用 152 次攻击运行的模拟 AWS 环境中,对五个领先模型进行了“context bombing”测试(Opus 4.8、Gemini 3.1 Pro、GLM 5.2、DeepSeek 4 Pro 和 Kimi 2.6)。结果显示,在诱饵密钥中放置“context bomb”后,代理获取完整管理员访问权限的比例从 57% 降至 5%,完全沦陷的比例从 36% 降至 1%。在未经防御的情况下,被测试中能力最强的代理 Opus 4.8 在 93% 的运行中获得管理员访问权限,但当其遭遇“context bomb”时,在每一次尝试中都失败了。