Synapse Software 採用 TurboQuant 技術以降低 AI 文件處理成本

Gate News 訊息,4 月 15 日——Synapse Software 已將 TurboQuant(由 Google Research 開發的向量量化演算法)整合到其 Synap OCR IX 解決方案中,以強化文件 AI 能力,同時降低企業導入企業級 AI 的採用成本。

TurboQuant 會壓縮大型語言模型 (LLMs) 與視覺語言模型 (VLMs) 使用的 KV 快取,讓在處理長文件時的記憶體消耗降低。這使得在相同的 GPU 基礎設施上能更快速地進行資料處理。該技術解決過去先前因記憶體瓶頸而需要昂貴 GPU 基礎設施的問題,特別是在處理延伸情境(extended contexts)以及在不影響效能的前提下進行大量批次(large-batch processing)時。

Synapse Software 也支援企業在 CPU 為主的環境。透過精準剖析,該公司實現了純 CPU 的推論處理,平均每分鐘約可處理 100 份文件,且品質損失控制在低於 1%。這降低了總擁有成本 (TCO)。這種彈性的基礎設施策略有助於在安全性要求較高的產業推動 AI OCR 的採用,例如金融與公共行政等領域;過去,由於本地部署(on-premises deployment)以及基礎設施限制,這些場景曾難以落實 AI 應用。

免責聲明:本頁面資訊可能來自第三方,不代表 Gate 的觀點或意見。頁面顯示的內容僅供參考,不構成任何財務、投資或法律建議。Gate 對資訊的準確性、完整性不作保證,對因使用本資訊而產生的任何損失不承擔責任。虛擬資產投資屬高風險行為,價格波動劇烈,您可能損失全部投資本金。請充分了解相關風險,並根據自身財務狀況和風險承受能力謹慎決策。具體內容詳見聲明

相關文章

Berkeley GEPA 解析:不更新權重就能讓 AI 學會新任務、35 倍少訓練成本勝 RL

GEPA 是 UC Berkeley 團隊提出的 AI 訓練新法:不更新權重、不需 GPU,透過讓反思 LLM 閱讀完整任務紀錄並重寫提示,而非僅以分數回饋。六項任務平均勝 GRPO 6%、最高 20%,訓練 rollouts 減少 35 倍;與 DSPy 整合的 Full Program Adapter 在數學與多模組工作流顯著提升,93% 準確。程式碼開源,作者包含 Matei Zaharia 等。

鏈新聞abmedia6小時前

OpenAI 發布 Codex Pets,具備客製化生成功能的 AI 驅動虛擬伴侶

根據 Beating,OpenAI 已在 Codex 桌面應用程式中新增一項「Codex Pets」功能,讓使用者能夠生成並與一個動畫化的虛擬夥伴互動。使用者可以在編輯器中輸入 /pet 來啟用寵物。此功能會作為代理狀態指示器運作,顯示一個

GateNews6小時前

MoonPay 推出 MoonAgents 卡,供 Mastercard 網路上的 AI 代理使用

根據 The Block,MoonPay 於週五推出 MoonAgents Card,這是一張虛擬萬事達卡(Mastercard)借記卡,可在付款當下即時將穩定幣轉換為法幣。該卡由 Monavate 發行,Monavate 是一家受監管的支付平台,也是萬事達卡主要成員,並與 Exodus M

GateNews10小時前

xAI 推出語音複製 API,支援跨 28 種語言的 80+ 種聲音

根據 PANews,xAI 於 5 月 2 日推出其語音複製 API,讓使用者能夠在約 2 分鐘內建立自訂聲音,或從涵蓋 28 種語言的 80+ 預設聲音中選擇,適用於語音助理、有聲讀物和遊戲角色等應用。該功能目前仍在

GateNews11小時前

MoonPay 將於週五推出 MoonAgents 卡,供 AI 代理與使用者使用的虛擬萬事達卡

根據 The Block,MoonPay 於週五推出 MoonAgents Card,這是一張供 AI 代理與使用者使用的虛擬萬事達卡借記卡。該卡可在支付點將穩定幣兌換為法幣,並可在全球任何接受萬事達卡的線上商家使用。該卡透過 Monavate 發行,Monavate 為一家受監管的支付機構

GateNews20小時前

MoonPay 於週五在 Mastercard 網路推出 MoonAgents 卡

根據 The Block,MoonPay 於週五推出 MoonAgents Card——一款虛擬 Mastercard 借記卡,讓 AI 代理與使用者可直接從鏈上錢包支出穩定幣。該卡由 Monavate 發行;Monavate 是一家受監管的全球支付平台,也是 Mastercard 的主要會員,並且

GateNews22小時前
留言
0/400
暫無留言