本文說明如何在 Agent Platform 管理已部署的代理。如要部署新的代理程式,請參閱「部署代理程式」。
列出已部署的代理
列出指定專案和位置的所有已部署代理:
控制台
- 前往 Cloud de Confiance 控制台的「Agent Platform Deployments」(Agent Platform 部署作業) 頁面。
清單中會顯示所選專案中已部署的代理。您可以使用「Filter」(篩選器) 欄位,依指定資料欄篩選清單。
Agent Platform SDK
import agentplatform
client = agentplatform.Client( # For service interactions via client.runtimes
project="PROJECT_ID",
location="LOCATION",
)
for agent in client.runtimes.list():
print(agent)
如要依display_name篩選清單:
for agent in client.runtimes.list(
config={
"filter": 'display_name="DISPLAY_NAME"',
},
):
print(agent)
REST
呼叫 reasoningEngines.list 方法。
使用任何要求資料之前,請先修改下列項目的值:
PROJECT_ID:您的 GCP 專案 IDLOCATION:支援的地區
HTTP 方法和網址:
GET https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines
請展開以下其中一個選項,以傳送要求:
您應該會收到執行成功的狀態碼 (2xx) 和空白回應。
取得已部署的代理
每個部署的代理程式都有專屬的 RESOURCE_ID ID。詳情請參閱「部署代理程式」。
控制台
- 前往 Cloud de Confiance 控制台的「Agent Platform Deployments」(Agent Platform 部署作業) 頁面。
清單中會顯示所選專案中已部署的代理。您可以使用「Filter」(篩選器) 欄位,依指定資料欄篩選清單。
按一下指定代理的名稱。代理的「Metrics」(指標) 頁面隨即開啟。
選用:如要查看代理程式的部署作業詳細資料,請按一下「Deployment details」(部署作業詳細資料)。「Deployment details」(部署作業詳細資料) 窗格隨即開啟。如要關閉窗格,請按一下「Done」(完成)。
選用:如要查看代理的
query和streamQuery網址,請按一下「API URLs」(API 網址),系統會開啟「API URLs」(API 網址) 窗格。如要關閉窗格,請按一下「Done」(完成)。
Agent Platform SDK
下列程式碼可讓您取得特定已部署的代理:
import agentplatform
client = agentplatform.Client( # For service interactions via client.runtimes
project="PROJECT_ID",
location="LOCATION",
)
remote_agent = client.runtimes.get(
name="projects/PROJECT_ID_OR_NUMBER/locations/LOCATION/reasoningEngines/RESOURCE_ID"
)
REST
呼叫 reasoningEngines.get 方法。
使用任何要求資料之前,請先修改下列項目的值:
PROJECT_ID:您的 GCP 專案 IDLOCATION:支援的地區RESOURCE_ID:已部署代理的資源 ID
HTTP 方法和網址:
GET https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID
請展開以下其中一個選項,以傳送要求:
您應該會收到執行成功的狀態碼 (2xx) 和空白回應。
更新已部署的代理
您可以同時更新已部署代理的一或多個欄位,但至少須指定一個要更新的欄位。
您可以更新已部署代理的非版本化或版本化欄位。如果更新版本欄位,就會建立新的修訂版本。如要進一步瞭解版本欄位和管理修訂版本,請參閱「管理修訂版本和流量」。
更新已部署的代理所需的時間,取決於執行的更新作業,但通常需要幾秒到幾分鐘。
控制台
- 前往 Cloud de Confiance 控制台的「Agent Platform Deployments」(Agent Platform 部署作業) 頁面。
在指定代理,按一下「更多動作」選單 ()。
點選「編輯」,代理的「Edit」(編輯) 窗格隨即開啟。
編輯代理的「顯示名稱」或「說明」。
按一下 [儲存]。
Agent Platform SDK
如要將已部署的代理 (對應 RESOURCE_NAME) 更新為新版代理 (對應 UPDATED_AGENT),請按照下列步驟操作:
import agentplatform
client = agentplatform.Client( # For service interactions via client.runtimes
project="PROJECT_ID",
location="LOCATION",
)
client.runtimes.update(
name=RESOURCE_NAME, # Required.
agent=UPDATED_AGENT, # Optional.
config={ # Optional.
"requirements": REQUIREMENTS, # Optional.
"display_name": "DISPLAY_NAME", # Optional.
"description": "DESCRIPTION", # Optional.
"extra_packages": EXTRA_PACKAGES, # Optional.
},
)
引數與部署代理時相同。
REST
呼叫 reasoningEngines.patch 方法,並提供 update_mask 指定要更新的欄位。
使用任何要求資料之前,請先修改下列項目的值:
PROJECT_ID:您的 GCP 專案 IDLOCATION:支援的地區RESOURCE_ID:已部署代理的資源 IDupdate_mask:以半形逗號分隔的清單,列出要更新的欄位
HTTP 方法和網址:
PATCH https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID?update_mask="display_name,description"
JSON 要求主體:
{
"displayName": "DISPLAY_NAME",
"description": "DESCRIPTION"
}
請展開以下其中一個選項,以傳送要求:
您應該會收到執行成功的狀態碼 (2xx) 和空白回應。
為已部署的代理設定遙測
如果在代理開發期間啟用追蹤記錄,可以使用 Cloud de Confiance 控制台,為已部署的代理設定遙測。
為已部署且啟用遙測功能的代理設定遙測:
- 前往 Cloud de Confiance 控制台的 Agent Platform「Deployments」(部署作業) 頁面。
清單中會顯示所選專案中的 Agent Platform 執行個體。您可以使用「Filter」(篩選器) 欄位,依指定資料欄篩選清單。
找出 Agent Platform 執行個體所在的資料列。在「Telemetry configuration」(遙測設定) 欄下方,按一下「Configure」(設定)。「Service configuration」(服務設定) 面板隨即開啟。
您可以進行下列設定:
觀測能力:您可以設定下列項目:
啟用 OpenTelemetry 追蹤記錄和記錄的檢測功能:如要填入代理觀測功能資訊主頁和追蹤記錄頁面,請將切換鈕設為開啟位置。
啟用提示詞輸入內容和回覆輸出內容的記錄功能:如要收集並儲存使用者提示詞和回覆的完整內容,請將切換鈕設為開啟。
如果代理程式已停用遙測收集功能,您必須重新部署代理程式,並將 Vertex AI SDK 版本更新至
>= 1.126.1,才能查看觀測能力的設定選項。容器:設定已部署代理程式的容器設定:
資源調度:輸入執行個體數量下限和執行個體數量上限。
資源:選取各容器的記憶體和 CPU 限制。
容器並行處理:輸入執行個體數量下限,設定各容器和代理伺服器的並行處理。建議值為 (2 * CPU + 1),預設值為 9。
存取權和權限:按一下「Manage Permissions in IAM」(在 IAM 中管理權限),管理相關聯服務帳戶的代理權限。
部署作業詳細資料:查看代理的部署作業詳細資料,包括「Resource name」(資源名稱) 和「Display name」(顯示名稱)。
Agent Platform Memory Bank:查看代理的記憶庫詳細資料,包括記憶生成和記憶搜尋。
按一下「更新」或「關閉」。
查看已部署代理的指標
如要查看已部署代理的指標,請在控制台執行下列操作:
- 前往 Cloud de Confiance 控制台的「Agent Platform Deployments」(Agent Platform 部署作業) 頁面。
清單中會顯示所選專案中已部署的代理。您可以使用「Filter」(篩選器) 欄位,依指定資料欄篩選清單。
按一下代理程式名稱。系統會顯示所選代理的「資訊主頁」。
選取下列其中一個「資訊主頁」分頁標籤:
總覽:查看代理指標的摘要資訊主頁,包括代理延遲時間、代理要求數量和代理錯誤率。
模型:查看代理模型指標的資訊主頁,包括模型呼叫次數、模型錯誤率和模型權杖用量。
工具:查看代理工具的指標資訊主頁,包括工具呼叫次數、工具錯誤率和工具延遲時間。
用量:查看代理用量指標的資訊主頁,包括輸入和輸出的權杖用量、容器 CPU 分配,以及容器記憶體配置。
記錄:如果您已為代理啟用 Cloud Logging,則可查看代理的記錄。

刪除已部署的代理
從 Agent Runtime 代管執行階段刪除已部署的代理。刪除 Agent Runtime 後,Agent Identity 就會失效。任何向該主體授予權限的 IAM 統一存取政策 (UAP),都會在規則中保留已停用的主體。此外,政策繫結仍會保持有效。如要移除失效的主體,請更新 UAP,從規則中移除該主體。如果政策不再包含任何有效主體,請刪除政策繫結。
控制台
- 前往 Cloud de Confiance 控制台的「Agent Platform Deployments」(Agent Platform 部署作業) 頁面。
在指定代理,按一下「更多動作」選單 ()。
點選「刪除」。
按一下「Delete agent」(刪除代理)。
Agent Platform SDK
如果您已部署代理程式執行個體 (remote_agent),可以執行下列指令:
remote_agent.delete(
force=True, # Optional, if the agent has resources (e.g. sessions, memory)
)
或者,您也可以呼叫 runtimes.delete(),按照下列方式刪除與 RESOURCE_NAME 對應的已部署代理:
import agentplatform
client = agentplatform.Client( # For service interactions via client.runtimes
project="PROJECT_ID",
location="LOCATION",
)
client.runtimes.delete(
name=RESOURCE_NAME,
force=True, # Optional, if the agent has resources (e.g. sessions, memory)
)
REST
呼叫 reasoningEngines.delete 方法。
使用任何要求資料之前,請先修改下列項目的值:
PROJECT_ID:您的 GCP 專案 IDLOCATION:支援的地區RESOURCE_ID:已部署代理的資源 ID
HTTP 方法和網址:
DELETE https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID
請展開以下其中一個選項,以傳送要求:
您應該會收到執行成功的狀態碼 (2xx) 和空白回應。