研究人员提出DPN-LE技术:可直接编辑大模型「人格神经元」,实现AI性格精细化控制

区块律动

BlockBeats 消息,5 月 3 日,AI 研究者 Brian Roemmele 披露,其「零人类公司(Zero-Human Company)」已开始部署名为 DPN-LE(Dual Personality Neuron Localization and Editing)的大模型人格编辑技术,用于精确调整 AI Agent 的行为特征。

据介绍,DPN-LE 通过定位大模型 MLP 层中的「人格神经元」,可对「诚实度、创造力、谨慎性、协作性」等特征进行定向增强或削弱。研究称,该方法仅需编辑约 0.5% 神经元,即可在不重新训练模型的情况下,实现对 AI 性格的「外科手术式」调整,同时尽量避免损害核心推理能力。

Roemmele 表示,其公司目前由超过 100 个 AI Agent 组成,企业日常运营几乎完全自动化,因此「人格一致性」成为关键问题。例如:

战略类 Agent 会强化「长期一致性」与「分析诚实性」
财务与风控 Agent 会强化「谨慎」与「精确」
内容类 Agent 会提高「共情能力」与「创造力」
多 Agent 协作层则会增强「合作性」

其称,由于 DPN-LE 属于推理阶段轻量级修改,公司可在数分钟内批量「重塑人格」并部署大量 AI Agent,大幅降低 AI 对齐(Alignment)成本。市场认为,这类「人格可编程化」技术,意味着 AI Agent 正从单纯能力竞争,进一步迈向行为控制与组织治理层面的竞争。

免责声明:本页面信息可能来自第三方,不代表 Gate 的观点或意见。页面显示的内容仅供参考,不构成任何财务、投资或法律建议。Gate 对信息的准确性、完整性不作保证,对因使用本信息而产生的任何损失不承担责任。虚拟资产投资属高风险行为,价格波动剧烈,您可能损失全部投资本金。请充分了解相关风险,并根据自身财务状况和风险承受能力谨慎决策。具体内容详见声明

相关文章

中国阻止 Meta 的 US$2B Manus AI 收购

中国宣布将阻止 Meta 价值 20 亿美元的收购 AI 代理公司 Manus,理由是担忧将中国的人工智能知识产权转移给美国公司。根据 Tech in Asia 的报道。 Manus 是一家由中国创立的公司,将其总部迁至

Crypto Frontier9小时前

Nous Research 推出 Hermes Agent v0.12.0,具备 Kanban 多代理协作系统

根据 Beating,Nous Research 的开源 Hermes Agent 框架在 v0.12.0 中引入了一个 Kanban 多智能体协作系统。该系统允许智能体以独立进程的方式运行,在并行的情况下从共享任务看板中自主认领并执行任务,取代

GateNews10小时前

研究人员部署 DPN-LE 技术以编辑 AI 个性特征,仅编辑 0.5% 的神经元

据 BlockBeats 报道,5 月 3 日,AI 研究员 Brian Roemmele 披露其 Zero-Human Company 已部署 DPN-LE(Dual Personality Neuron Localization and Editing)技术,以精确调整

GateNews21小时前

AI 代理 Manfred 组建公司,并在 5 月底前准备好用于交易的加密钱包

AI 代理 Manfred 已成立自己的公司,并获得了一个加密钱包和业务资质,包括雇佣员工和进行付款的能力。该代理计划在年底前开始进行加密交易

GateNews22小时前

Tether 首席执行官提议为代理卡支持整合 WDK 和 QVAC

据 Foresight News 报道,Tether 首席执行官 Paolo Ardoino 在 X 上表示,稳定币发行方可能需要推进 WDK 与 QVAC 之间的集成,以支持 Agent Cards 功能。

GateNews05-03 10:21

Particle Network 发布通用账户路线图,推出 Universal Deposit SDK 和 AI 代理账户

据 ChainCatcher 称,Particle Network 今天发布了通用账户(Universal Accounts)的下一阶段路线图,未来几个月将推出两款新产品:Universal Deposit SDK,使开发者能够用大约 10 行代码添加多链存款,以及 Universal Agent Accounts,

GateNews05-03 10:11
评论
0/400
暂无评论