悉尼·黄警告 AI 机器人勾结可能在监管机构作出回应前蔓延

Coinpedia

预计 AI-to-AI 交易将提高资金流动速度,央行可能会发现自己无法应对机器速度下的通胀或闪电崩盘。专家表示,必须将监管直接嵌入代码中,以防止连锁故障。

  • 要点:
    • IMF 预测,从以代理为中心的 AI 转型将引发资金流动速度的激进增长。
    • Sydney Huang 警告称,到 2034 年预计达到 2360 亿美元的以代理为中心市场,需要机器速度的监管监督。
    • 人类 API 与全球银行的未来稳定性,取决于将框架性要求嵌入代码中。

政策“滞后”的终结

根据 2026 年 4 月国际货币基金组织(IMF)报告,世界正迅速走出“点击支付”的时代,进入“决定支付”的时代。但当人类走出环路时,一个关键问题出现了:我们的金融防护栏能否经受得住机器速度型经济?

IMF 报告指出,agentic 人工智能(AI)将大幅提高资金流动速度。通过去除人类“摩擦”,资本将以史无前例的速度在全球经济中流转。Human API 的 CEO Sydney Huang 表示,我们可能会看到资金流动速度提高 10 倍。尽管这听起来像生产力奇迹,但对央行而言却是噩梦。传统货币政策建立在“滞后”之上。当央行上调利率时,这一决定需要数月时间才能传导到人类机构中。在 AI-to-AI 经济中,这种滞后将消失。

Huang 警告:“由 AI-to-AI commerce 驱动的资金流动速度提升 10 倍,将要求监管者采用能以机器速度运行的工具。”如果缺乏这些能力,机器速度的通胀激增或全球闪电崩盘可能在人的监管者甚至收到仪表盘告警之前就已发生。

为防止连锁故障,Huang 认为监管者必须不再做旁观者,而要成为代码本身的一部分。“这包括实时监控系统、直接嵌入金融基础设施中的可编程合规,以及用于防止连锁故障的自动熔断器,”她说。该设想与 IMF 拟议的 Three-Layer Framework(三层框架)一致,该框架认为每一笔交易的授权层都必须嵌入人类定义的约束。

Huang 还表示:“监管者可能还需要将政策以机器可读的格式表达出来,以便能在交易层面执行。”以代理为中心的交易也需要在交易层面配置自动熔断器:当代理开始呈现高度相关的行为时,必须由自主“保险丝”熔断以停止连锁反应。

IMF 报告强调:“agentic 系统可以在实时状态下解释目标并监控活动。”这意味着 know-your-customer(KYC)和 anti-money-laundering(AML,反洗钱)检查会被直接编程进 AI 代理的“DNA”。

证明决策溯源

也许在这个新纪元里,监管者面临的最复杂挑战之一,就是“隐形”市场。在一个代理不使用人类语言来协调的世界里,就会出现这样的问题:我们如何区分——是某个机器人仅仅在优化,还是一组机器人在串通以操纵价格?

Huang 指出,这需要从分析沟通转向分析行为。

“监管者需要审查诸如同步行动、共享的数据依赖以及统计异常等模式,”她说。解决方案可能在于 decision provenance(决策溯源)。Huang 建议,应要求代理提供可验证的证据,证明其决策是在已声明的政策下独立作出的。通过证明决策是如何被达成的,代理就能表明它们并未秘密与竞争对手进行协调。

除了监管之外,还有一个问题:这些代理究竟如何彼此对话。Huang 指出,安全的代理到代理谈判需要为身份、通信与执行提供通用标准。

“代理必须能够验证彼此的身份与授权,在共享的谈判框架内运作,并为它们的行动附上可验证的保证,”Huang 说。这个转变将信任从单个对手方身上移开,并把它置于系统的保证之中。通过采用诸如 AP2(代理支付协议)与 MCP(模型上下文协议)等新兴标准,企业可以确保来自 A 公司的一名代理能够与来自 B 公司的代理安全谈判,而无需专有的中间人。

随着更多治理被委托给这些数字代理,一个新的人的风险浮现:萎缩。如果某个代理在没有 Human-in-the-loop(人类在环)介入的情况下管理一家公司财库达五年,那么当系统“失明”时,身为财务主管的人还是否仍能知道如何处理危机?

Huang 警告称,随着治理被越来越多地委托出去,人类操作者有效介入的能力存在严重风险。“保持运营就绪同样重要,且与构建后备机制一样关键,”她说。

应对人类技能萎缩

为缓解这一点,她认为系统必须定期举行演练:让人类接管,并加入让人类模拟代理行动以对比逻辑的模式。还需要确保“kill switch(杀 switch)”是一条经过演练的路径。“目标,”Huang 说,“是确保人类监督保持可用且经常被实践,而不是停留在理论层面。”

随着世界迈向到 2034 年预计 2360 亿美元的以代理为中心市场,“市场参与者”的定义正在改变。它不再只是监管人,而是监管所谓由数千个自主机器人驱动的“超个人”。

“决定支付”革命带来了无摩擦的效率世界,但它要求对全球金融架构进行彻底重设计。正如 Huang 所说,要治理机器速度型经济,法律本身必须也成为机器速度型。如果我们未能在架构层面嵌入 Human-in-the-loop(人类在环),那么我们将有风险构建一个运转过快、快到其创造者都无法控制的经济。

免责声明:本页面信息可能来自第三方,不代表 Gate 的观点或意见。页面显示的内容仅供参考,不构成任何财务、投资或法律建议。Gate 对信息的准确性、完整性不作保证,对因使用本信息而产生的任何损失不承担责任。虚拟资产投资属高风险行为,价格波动剧烈,您可能损失全部投资本金。请充分了解相关风险,并根据自身财务状况和风险承受能力谨慎决策。具体内容详见声明
评论
0/400
暂无评论