📢 Gate 广场认证创作者招募中,入驻瓜分每月 $20,000 创作大奖!
📌 参与方式
站内创作者: 成功申请“创作者认证徽章”即可自动参与。
新入驻创作者: 需填写入驻表单申请 👉️ https://www.gate.com/questionnaire/7698
🎁 创作者福利
1️⃣ 首帖见面礼: 新入驻/回归创作者发首帖,即得 $50U 奖励!
2️⃣ 周度发帖奖: 完成周发帖任务,轻松瓜分 $10,000 奖池!
3️⃣ 月度创作奖: 赛道更多样,完成月度任务瓜分 $1,600 GT 奖池!
4️⃣ 专属推广任务:进入专属创作者社群,享专属推广任务和节日礼包!
让您的优质内容被更多人看到,携手共建高质量创作者社区!
活动细节:https://www.gate.com/announcements/article/51536
Kalshi 交易者价格寓言 5:在7月1日前实现68%回报;在历史性AI禁令之后
据报道,亚马逊CEO安迪·贾西(Andy Jassy)已通知特朗普政府高级官员公司内部研究团队的安全发现,引发了一系列事件,最终美国商务部命令Anthropic关闭其面向全球所有客户的两个最先进的人工智能(AI)模型。
事件经过
2026年6月12日,商务部发布了一项出口管制指令,要求Anthropic暂停对Claude Fable 5和Claude Mythos 5的访问,适用于任何外国国籍的人员,无论在美国境内还是境外。由于API访问无法可靠地按国籍过滤用户,Anthropic已对所有客户关闭了这两个模型。其他Anthropic模型仍然正常运行。
该指令于美国东部时间下午5:21左右到达。到当晚,Anthropic在一份公开声明中确认了关闭措施。
与亚马逊的关联
据《华尔街日报》援引知情人士消息,贾西通知财政部长斯科特·贝森特(Scott Bessent)、商务部长霍华德·卢特尼克(Howard Lutnick)和国家网络安全总监肖恩·凯恩克罗斯(Sean Cairncross),亚马逊的研究人员曾使用精心设计的提示在Fable 5上提取关于软件漏洞的信息,而这些漏洞模型本应拒绝披露。
研究发现,某些提示绕过了Fable 5内置的安全分类器,涉及至少四个程序。研究人员发现模型可以识别软件漏洞,并在理论上协助将其转化为利用代码,尽管在测试中,安全措施阻止了完全实现。没有证据显示亚马逊使用或访问了攻击能力。
贾西的接触是科技高管与政府就AI风险展开更广泛对话的一部分。随后,政府采取了出口控制措施,据报道,特朗普总统在有保留的情况下签署了该措施,担心影响创新。
“越狱”AI模型的含义
传统的“越狱”技术由乔治·霍茨(George Hotz)在2007年破解原始iPhone时广为人知,涉及发现并利用低级固件或硬件漏洞以移除制造商限制。而在AI中的提示越狱则不同。
提示越狱指的是设计文本输入,试图欺骗大型语言模型(LLM)忽略其安全规则。研究者不利用代码,而是使用语言。最早的例子之一是2022年末在Reddit上传播的“DAN”(Do Anything Now)提示,指示ChatGPT扮演无限制角色。技术手段包括角色扮演场景、假设框架以及自动优化对抗性文本串的方法。
在Fable 5的案例中,亚马逊的研究人员使用基于提示的技术,诱导模型披露本应拒绝的漏洞信息。
Anthropic的异议
Anthropic遵守了指令,但坚决反对。公司审查了亚马逊的演示,得出结论:只发现少量已知的、较小的漏洞,这些漏洞可以被其他公开模型发现,无需绕过。Anthropic表示,尽管与美国政府、英国AI安全研究所及第三方进行了广泛的红队测试,但不存在Fable 5或Mythos 5的通用越狱方法。
公司认为,采用这一行业标准“基本上会阻止所有新模型的部署”。Anthropic称此次行动是“误解”,并表示正在努力恢复访问,同时保持30天的数据保留政策用于研究目的。
前白宫AI顾问兼加密货币负责人戴维·萨克斯(David Sacks)表示,此限制“是被动推动的”,并希望Anthropic能修复问题,以便解除出口管制。
据萨克斯称,一位“高度可信的合作伙伴”发现了绕过Fable护栏的方法,并通知了Anthropic和美国政府。他声称,政府要求Anthropic的CEO达里奥·阿莫迪(Dario Amodei)修复漏洞或删除模型,但Anthropic拒绝了。
“球在Anthropic那边,”萨克斯在X上写道,并补充说,政府希望Anthropic修复问题,以便解除限制,让Fable重新面向公众。威尼斯AI和ShapeShift的创始人埃里克·沃尔赫斯(Erik Voorhees)对政府的说法提出异议。
在萨克斯的帖子中,沃尔赫斯暗示所谓的越狱很可能只是常规的安全问题,而非重大威胁,并认为Anthropic可能认为停止模型部署的要求过于苛刻。沃尔赫斯还猜测,联邦官员利用此次争议作为惩罚Anthropic的借口,针对其与华盛顿的过去分歧,他更信任Anthropic对AI安全的评估胜过联邦政府。
安全研究员凯蒂·穆苏里斯(Katie Moussouris)来自Luta Security,审查了亚马逊的发现,称政府的反应是“完全的过度反应”,并指出这些信息主要对防御者有帮助,而非攻击者。
预测市场的看法
交易者迅速对Fable 5的恢复时间线进行了定价。
在Polymarket上,6月13日开盘了三个与日期相关的合约,交易总额为18,263美元:
Kalshi的交易者也在进行类似的合约,总交易额为6,419美元,时间范围为24小时:
公众普遍倾向于在6月下半月解决问题,并坚信同一周内恢复的可能性较低。
这为何重要
这是美国首次将出口管制措施直接应用于限制全球访问某一特定前沿AI模型,区别于之前的芯片和硬件限制政策。这一举措影响在美工作的外国研究人员、依赖Anthropic工具的全球网络安全行动,以及Anthropic的商业和IPO时间表。亚马逊既是Anthropic的投资者,也是其模型的主要云端分发合作伙伴,通过亚马逊Bedrock提供服务。
“门控AI”辩论
一些观察人士认为,此次指令标志着“门控AI”时代的开始,即最先进的前沿模型不再广泛开放,而是通过政府批准、KYC、国籍审查和许可审核进行配给。公众只能使用较旧或降级版本,而获批合作伙伴则可以访问完整模型,如Fable和Mythos。
一位X用户将此次事件描述为AI的分水岭,声称“地球上最强大的AI模型存在了3天”,随后被政府行动“有效关闭”。该帖子认为,曾经“乞求监管”的Anthropic公司,实际上被“政府监管”了,原因是中断了其旗舰模型的访问。用户还指出,此事件揭示了先进AI存在“关闭开关”,而“公司并不掌控它”。
人们担心的不是这次事件本身,而是它所传递的信号。如果一次狭义的越狱演示就足以让数亿用户使用的商业模型受到影响,批评者认为未来限制的门槛比预期更低。