地面覆蓋，代理型AI追蹤增強…谷歌Vertex AI原生支持

應用程式可觀測性初創公司Groundcover大幅擴展了“AI可觀測性”功能。此次更新強化了對代理型AI系統的追蹤能力，並新增了與谷歌雲托管AI平台“Google Vertex AI”完全兼容的原生支持。

此次擴展的重點在於填補企業在將大語言模型(LLM)快速引入實際服務環境過程中產生的“可見性空白”。現有的可觀測性工具大多以按照既定規則運行的傳統軟體為前提進行設計，在面對提示詞和回應實時變化的AI系統時存在明顯局限。因此，開發團隊和平台運營團隊難以了解哪些輸入導致了哪些結果、回應為何發生變化，以及成本在何處產生、金額多少。

為解決這些問題，Groundcover增強了功能，使其能夠捕捉LLM交互的完整上下文，並追蹤日益複雜的多階段AI系統中結果的生成過程。該公司尤其強調其核心優勢在於，無需在運行環境中進行額外檢測工作，即可快速應用可觀測性。

Groundcover產品副總裁Or Benjamin表示：“客戶一直反映LLM調用處於運營可觀測性團隊的視野之外。他們希望能有系統的方法來理解提示詞、回應和成本。為應對現有可觀測性需求之外的大規模、關鍵業務AI監控需求，我們開發了AI可觀測性。”他解釋道。

代理追蹤可見性

此次更新中最引人注目的變化是“代理追蹤可見性”。通過該功能，不僅可以查看每次模型調用，還能同時查看工具執行過程、參數、執行結果以及期間的推理路徑。對於運營涉及多個步驟的代理型AI工作流程的企業而言，排查問題原因和提升性能將變得更加容易。

成本管理功能強化

成本管理功能也得到了增強。新增的精確成本歸屬功能，通過考慮提示快取，旨在從詳細執行單元層面追蹤令牌成本。該功能區分了普通輸入令牌、快取建立令牌和快取讀取令牌，從而更準確地反映最新LLM API複雜的計費結構。由此，團隊可以更清楚地了解特定代理執行或會話實際產生的成本。

支持Google Vertex AI

此外，新增了對Google Vertex AI的支持。現在，在谷歌雲平台上構建AI服務的企業無需額外檢測即可自動收集相關的可觀測性數據。公司方面表示，其設計確保所有可觀測性數據保留在客戶自身環境內，兼顧了安全性和數據可控性。

Groundcover的AI可觀測性功能目前正以通用方式自動向所有客戶部署。該公司表示，已於4月22日至24日舉行的“Google Cloud Next”活動上演示了這些新功能。

在AI服務快速跨越實驗階段、進入實際運行環境之際，“AI可觀測性”正超越簡單的監控範疇，崛起為品質、成本與可靠性管理的核心領域。此次功能擴展，被視為企業為更穩定地運營代理型AI而拓寬必要基礎的一項舉措。

TP AI注意事項 本文基於TokenPost.ai語言模型進行摘要。正文主要內容可能被省略或與實際有出入。