監控語意管理政策

每當檢查代理程式要求時，語意控管政策引擎就會自動收集及處理作業指標。您可以使用這些指標觀察受控管的代理程式要求數量、政策產生的判定結果、政策評估耗用的 LLM 推論量，以及強制執行管道的端對端效能。

事前準備

在政策引擎執行的專案中，啟用 Cloud Monitoring API (monitoring.googleapis.com)。詳情請參閱「啟用 API」。

總覽

語意控管政策引擎會自動將指標匯出至 Cloud Monitoring。資料點會在兩個層級發出：

  • 要求層：政策引擎檢查的每個代理要求。回報名稱：semantic_governance/request_*。
  • 評估層：政策引擎對檢查流量執行的每項語意政策評估。單一評估作業可能會在內部考量多個附加政策，但只會計為一次。回報名稱： semantic_governance/evaluation_*。

支援的內建指標

所有指標都與語意控管政策引擎受監控的資源相關聯 aiplatform.googleapis.com/SemanticGovernancePolicyEngine 並由下列資源標籤識別：

  • resource_container：消費者專案編號。
  • location：政策引擎執行的區域，例如 us-central1。
指標 種類 單位 感測項目
aiplatform.googleapis.com/semantic_governance/request_count DELTA INT64 1{request} 政策引擎在該區域檢查的代理要求數量。request_type 標籤可區分 LLM 呼叫、工具呼叫和其他流量。
aiplatform.googleapis.com/semantic_governance/request_latencies DELTA DISTRIBUTION s 政策引擎為每個檢查要求新增的端對端實際延遲時間分布情形。
aiplatform.googleapis.com/semantic_governance/evaluation_count DELTA INT64 1{evaluation} 政策引擎執行的語意政策評估次數。無論考量多少附加政策，每次檢查模型回覆都會計為一次評估。
aiplatform.googleapis.com/semantic_governance/evaluation_latencies DELTA DISTRIBUTION s 每個政策引擎評估的延遲時間分布情形。
aiplatform.googleapis.com/semantic_governance/evaluation_token_count DELTA INT64 1{token} 政策引擎評估作業耗用的 LLM 權杖數量。

每個指標的標籤

每個指標都帶有額外的切片標籤：

指標 標籤 值
request_count method HTTP 方法，例如 "POST"、"GET"。
status_code HTTP 狀態碼，例如 "200"。
status 語意評估結果，例如 "OK"、"MODEL_ERROR"、"EVALUATION_ERROR"、"INTERNAL_ERROR"。
request_type 遭攔截的出站流量類型，例如 "LLM"、"TOOL"、"OTHER"、"UNKNOWN"。
request_latencies method、status、request_type 與 request_count 相同。
evaluation_count final_verdict 引擎傳回的判斷結果："ALLOW" 或 "DENY"。
evaluation_latencies final_verdict 與 evaluation_count 相同。
evaluation_token_count category 使用的權杖類型，例如 "INPUT"、"OUTPUT"、"THINKING"。

每個指標都有通用的資源標籤 (resource_container、location)。

查看指標

您可以在 Cloud de Confiance 控制台使用 Metrics Explorer 查看內建政策引擎指標：

  1. 如要取得在指標探索器中查看指標的權限，請要求管理員授予您專案的「Monitoring 檢視者」角色 (roles/monitoring.viewer)。

  2. 前往 Cloud de Confiance 控制台的「Metrics Explorer」：

    前往「Metrics Explorer」。

  3. 選取 Cloud de Confiance by S3NS 專案。

  4. 按一下「選取指標」開啟搜尋列。

  5. 在搜尋列中輸入「Semantic Governance Policy Engine」，然後點選該資源。

  6. 按一下「semantic_governance」指標類別，然後點選指標，例如「Evaluation Count」。

  7. 視需要依標籤篩選 (例如 final_verdict = DENY)、匯總標籤，以及調整時間範圍。

透過 API 查詢指標

您也可以使用 Cloud Monitoring v3 API 或 Prometheus Query Language (PromQL) 查詢指標。

列出可用的指標定義

gcurl "https://monitoring.googleapis.com/v3/projects/PROJECT_ID/metricDescriptors?filter=metric.type=starts_with(%22aiplatform.googleapis.com/semantic_governance%22)"

回應應包含上表列出的五項指標定義。

查詢特定區域的拒絕率

下列 PromQL 查詢會傳回一個區域中，在 5 分鐘的滾動時間範圍內，評估政策後產生 DENY 的比例：

sum(
  rate(
    aiplatform_googleapis_com:semantic_governance_evaluation_count{
      monitored_resource='aiplatform.googleapis.com/SemanticGovernancePolicyEngine',
      location='REGION',
      final_verdict='DENY'
    }
    [5m]
  )
)
/
sum(
  rate(
    aiplatform_googleapis_com:semantic_governance_evaluation_count{
      monitored_resource='aiplatform.googleapis.com/SemanticGovernancePolicyEngine',
      location='REGION'
    }
    [5m]
  )
)

如要瞭解如何處理沒有流量的視窗，以及其他比率指標最佳做法，請參閱「關於指標比率」。

建立快訊

您可以在警告政策中使用任何這類指標。常見範例：

  • MODEL_ERROR率偏高：如果request_count樣本中status = MODEL_ERROR的比例在一段時間內超過門檻，就會觸發快訊。
  • 延遲 SLO 違規：在指定時間內，第 99 個百分位數的延遲時間超過目標延遲時間時，系統會發出快訊。evaluation_latencies
  • DENY 拒絕率意外飆升：當 DENY 拒絕率 (請參閱上述 PromQL 範例) 超過門檻時發出快訊，表示可能出現政策設定錯誤或流量模式變化。

如需在上述任一指標上建立閾值快訊的逐步導覽，請參閱「設定監控」一文中的快訊範例，瞭解如何使用 Gemini Enterprise Agent Platform 的 Agent Runtime。這些操作說明適用於所有情況； 只要範例使用 Gemini Enterprise Agent Platform 的 Agent Runtime 指標，請一律代換為政策引擎監控資源和上述其中一個指標。

如要瞭解一般 Cloud Monitoring 快訊概念，請參閱「快訊總覽」一文，如要查看更多快訊政策範例，請參閱「JSON 格式的範例政策」。