Gemini Enterprise Agent Platform 的代理觀測功能,可讓您全面掌握已部署代理和 Model Context Protocol (MCP) 伺服器的效能、行為和健康狀態。您可以監控重要指標、追蹤執行路徑,並觀察整個多代理系統,藉此診斷問題、最佳化資源消耗,以及提升代理的可靠性。
本文概述 Gemini Enterprise Agent Platform 提供的觀測工具,包括系統層級拓撲、個別代理監控,以及 MCP 伺服器指標。
遙測設定
如要填入這些觀測能力資訊主頁、拓撲和追蹤記錄,請務必設定代理,以 OpenTelemetry 格式將遙測資料傳送至 Google Cloud Observability 的儲存系統。
請確認代理和 MCP 伺服器環境已正確設定,可發出這類資料。內建的 Cloud de Confiance by S3NS 元件會自動以 OpenTelemetry 格式發出遙測資料。舉例來說,Model Armor 會原生發出標準化遙測資料,讓您直接在追蹤記錄資料中,順暢揭露及監控即時政策攔截,不需任何自訂檢測。
如需代理程式遙測設定操作說明和需求條件,請參閱下列資源:
- 如要檢測使用 ADK 建構的代理,請參閱「使用 OpenTelemetry 檢測 ADK 應用程式」。
- 如要檢測非使用 ADK 建構的 Agent Runtime 代理,請參閱「檢測生成式 AI 應用程式」。
- 如要查看 MCP 伺服器遙測資料,請參閱「使用 Cloud Trace 監控 MCP 工具使用情形」。
- 如要瞭解 Model Armor 遙測,請參閱「設定 Model Armor 記錄」。
觀測能力信號
Gemini Enterprise Agent Platform 透過指標、追蹤記錄和記錄檔提供觀測能力。
從 Registry 選取特定代理時,「觀測能力」分頁會提供一系列專屬資訊主頁,用於監控作業健康狀態、效能和基礎架構使用率。使用「Observability」(觀測能力) 分頁中的左側導覽列,切換下列檢視畫面:
- 總覽:追蹤所選時間範圍內的整體使用情形,包括總工作階段數、每個工作階段的平均對話回合數,以及代理叫用總數。時間序列圖表會顯示詞元用量 (輸入與輸出)、代理整體流量、延遲時間百分位數 (p50、p95、p99) 和錯誤率。
- 評估:顯示線上監控工具,持續評估品質。包括追蹤平均回覆品質、安全性指標、幻覺率和工具使用品質的時間序列小工具。
- 模型:依基礎模型細分成效。您可以監控 P95 延遲時間、總呼叫次數、錯誤率、配額失敗次數,以及特定模型獨立的詞元用量。
- 工具:監控連結至代理的外部工具和服務。這個檢視畫面會詳細列出每項工具的 p95 延遲時間、呼叫次數和錯誤率,以及未呼叫任何工具的互動頻率。
- 用量:提供代理執行階段環境的基礎架構層級指標,包括容器 CPU 分配、容器記憶體分配和權杖用量。
- 記錄:顯示可篩選的原始代理記錄串流,包括嚴重性、時間戳記和執行摘要,方便深入排解問題。詳情請參閱「查看代理記錄」。
除了「觀測能力」分頁中的資訊主頁,您也可以使用代理的「追蹤記錄」分頁,逐步檢查特定工作階段的執行情況,包括時距和輸入/輸出的有向無環圖。詳情請參閱「查看代理追蹤記錄」。您也可以使用「Topology」(拓撲) 分頁標籤,查看該代理程式的特定傳入和傳出依附元件。
如果是 MCP 伺服器,您可以監控要求數量和 p95 要求時間長度,追蹤使用率和回應速度。
稽核代理動作
為支援企業安全性和法規遵循稽核,Gemini Enterprise Agent Platform 會使用雙重歸因記錄,在 Cloud Logging 中記錄代理活動。當代理代表使用者執行動作或呼叫工具 (使用者委派授權) 時,稽核和執行記錄會同時記錄以 SPIFFE 為基礎的代理身分 (稽核記錄中的 principal://...,或執行記錄中的 spiffe://...),以及發起動作的人類使用者身分。當代理依據自身權限自主執行動作時,記錄會直接將動作歸因於專屬代理身分。
稽核人員和安全管理員可以在 Cloud Logging 中,篩選記錄查詢中的 is_agentic=true 旗標,藉此隔離及審查代理啟動的事件。將 is_agentic=true 與代理身分或使用者主體結合,即可追蹤端對端執行路徑,並驗證所有代理互動的政策執行情況。
OpenTelemetry 生成式 AI 慣例
代理追蹤記錄和提示與回覆記錄,主要依賴生成式 AI 系統的 OpenTelemetry 語意慣例,以標準化方式擷取、結構化及回報生成式 AI 遙測資料。
遵循這些慣例對代理追蹤至關重要,因為這能建立通用、不限供應商的格式,用於描述複雜的多步驟代理工作流程,例如工具執行、檢索步驟和權杖消耗。這項標準化作業有助於在 Cloud de Confiance by S3NS內外的不同觀測能力後端和數據分析工具之間,實現流暢的互通性。