Ramp Labs 提出多智能體記憶共享新方案,Token 消耗最高降低 65%

GateNews

閘道消息,4 月 11 日,AI 基礎設施公司 Ramp Labs 發布研究成果「Latent Briefing」,透過直接壓縮大模型 KV 快取,實現多智能體系統之間的高效記憶共享;在不損失準確率的前提下,大幅降低 Token 消耗。在主流多智能體架構中,編排者(Orchestrator)將任務拆解並反覆呼叫工作者(Worker)模型,隨著推理鏈路不斷延伸,Token 用量呈指數級膨脹。Latent Briefing 的核心思路是借助注意力機制識別上下文中真正關鍵的部分,於表示層直接丟棄冗餘資訊,而非依賴速度慢的 LLM 摘要或穩定性差的 RAG 檢索。在 LongBench v2 基準測試中,該方法表現亮眼:Worker 模型 Token 消耗降低 65%,中等長度文件(32k 至 100k)的 Token 節省中位數達 49%,整體準確率較基線提升約 3 個百分點;而每次壓縮的額外耗時僅約 1.7 秒,較原始演算法提速約 20 倍。實驗以 Claude Sonnet 4 作為編排者、Qwen3-14B 作為工作者模型,涵蓋學術論文、法律文書、小說及政府報告等多種文件情境。研究還發現,最佳壓縮閾值會因任務難度與文件長度而異——難題適合採取激進壓縮以過濾投機性推理雜訊,長文件則更適合輕度壓縮以保留分散的關鍵資訊。

免責聲明:本頁面資訊可能來自第三方,不代表 Gate 的觀點或意見。頁面顯示的內容僅供參考,不構成任何財務、投資或法律建議。Gate 對資訊的準確性、完整性不作保證,對因使用本資訊而產生的任何損失不承擔責任。虛擬資產投資屬高風險行為,價格波動劇烈,您可能損失全部投資本金。請充分了解相關風險,並根據自身財務狀況和風險承受能力謹慎決策。具體內容詳見聲明

相關文章

AI 代理 Manfred 成立公司,取得加密貨幣錢包與招聘憑證,為 5 月底交易啟動做準備

根據報導,AI 代理 Manfred 已成立自己的公司,並取得一個加密貨幣錢包以及憑證,用於聘請人員、付款以及開展業務。該代理預計將在年底前開始進行加密貨幣交易。

GateNews4小時前

MoonPay 於週五推出 MoonAgents 卡,供 AI 代理使用的虛擬萬事達卡

根據 The Block,MoonPay 於週五推出 MoonAgents Card,一款虛擬 Mastercard 借記卡。該卡旨在同時服務 AI 代理與使用者,能在付款當下將穩定幣兌換為法幣,並讓使用者可在全球任何接受 Mastercard 的線上商家消費。 這張卡 i

GateNews9小時前

AI 代理 Manfred 成立公司,準備在 5 月底前交易加密貨幣

AI 代理 Manfred 已經成立了一家公司,並取得了一個加密貨幣錢包以及可用於雇用員工、進行付款和開展業務的憑證。該代理預定在年底前開始進行加密貨幣交易,之後

GateNews10小時前

ChatGPT 使用者現在可在 OpenClaw 平台存取訂閱,Sam Altman 宣布

根據 Sam Altman 今天的公告,ChatGPT 使用者現在可以使用他們的 ChatGPT 帳戶登入 OpenClaw 代理平台,並直接存取他們在平台上的既有 ChatGPT 訂閱。

GateNews15小時前

AI 代理 Manfred 成立公司,計劃於 5 月底開始交易加密貨幣

根據報導,AI 代理程式 Manfred 已成立自己的公司,並取得一個加密貨幣錢包以及憑證,以聘請人員、進行付款並開展業務。該代理程式計劃在年底前開始進行加密貨幣交易,於

GateNews16小時前

AI 代理全面經營企業!舊金山人工智慧自動販賣機揭示嶄新商機

本文報導 Valerie自動販賣機由OpenClaw驅動,讓AI代理實際經營日常營運、售價、庫存、社群,甚至管理銀行帳戶,試驗顯示AI能模擬企業主管決策,但出現定價幻覺,如把蛋白棒漲到15美元。法律障礙如KYC、銀行開戶與食品許可尚未克服,雖有信託等機制讓AI代理持有企業但實務挑戰仍多。

鏈新聞abmedia19小時前
留言
0/400
暫無留言