Agent Platform 代理的配額和系統限制

這份文件列出 Gemini Enterprise Agent Platform 適用的配額和系統限制。

• 「配額」有預設值，但通常可以申請調整。
• 「系統限制」是固定值，無法變更。

Cloud de Confiance by S3NS 使用配額來確保公平性，並減少資源使用量和可用性出現劇烈波動的情況。配額會限制 Cloud de Confiance 專案可使用的Cloud de Confiance 資源數量，且適用多種資源類型，包括軟硬體和網路元件。舉例來說，配額可能會限制能向特定服務發出的 API 呼叫次數、專案可同時使用的負載平衡器數量，或是可建立的專案數量。配額機制可防止服務過載，保障Cloud de Confiance 使用者社群的權益，同時也有助於您管理自己的 Cloud de Confiance 資源。

Cloud Quotas 系統具備以下功能：

• 監控 Cloud de Confiance 產品和服務的用量
• 限制這些資源的用量
• 提供申請調整配額值和自動調整配額的管道

如果嘗試使用的資源量超過配額限制，系統通常會阻擋該資源的存取活動，您所執行的工作就會失敗。

配額的計算通常是以 Cloud de Confiance 專案為基準。在某個專案中使用資源，不會影響另一個專案的可用配額。在同一個 Cloud de Confiance 專案內，所有應用程式和 IP 位址會共用配額。

詳情請參閱「Cloud Quotas 總覽」。

配額

下列配額適用於在 Agent Platform 上部署的代理程式，適用於各區域的特定專案：

管理正式環境負載的配額

隨著流量增加，您可能需要申請調高特定 Agent Platform API 配額，以免發生 429 Resource Exhausted 錯誤。您可以主動設定執行階段和提高配額，確保 Agent Runtime 執行個體在生產負載下保持回應能力、擴充性和可靠性。

如要瞭解如何最佳化及擴展 Agent Runtime 效能，請參閱「最佳化及擴展 Agent Runtime 效能」。

請按照下列步驟估算尖峰配額需求：

1. 定義變數：

   • U：尖峰時段的並行使用者人數 (例如 250 人)。

   • X：每位使用者每分鐘的平均要求數 (例如 2)。

   • Y：每個要求產生的平均工作階段事件數 (例如，涉及多個工具呼叫的複雜鏈結為 12)。

2. 計算尖峰負載：

   • 計算每分鐘尖峰查詢次數 (QPM)：U * X

   • 計算每分鐘的尖峰工作階段事件數：尖峰 QPM * Y

3. 申請配額時預留緩衝空間：申請提高配額時，請在計算出的尖峰用量基礎上預留緩衝空間 (例如 50%)，以因應突如其來的用量高峰。

下表顯示 Agent Platform 主要成效相關配額的計算方式，並使用 peak concurrent users=250、average requests per user per minute=2 和 average session events generated per request=12 的範例變數：

配額名稱	配額說明	基本計算 (尖峰)	建議值 (含 50% 緩衝區)
每分鐘查詢 Agent Engine (aiplatform.googleapis.com/reasoning_engine_service_query_requests)	代理每分鐘可接聽的 query 或 stream_query 呼叫總數。	250 users * 2 req/min = 500 QPM	500 * 1.5 = 750
每分鐘附加工作階段事件 (aiplatform.googleapis.com/session_event_append_requests)	所有進行中工作階段中的輪流次數或事件數。 單一查詢可以在鏈結中產生多個工作階段事件，例如： 呼叫 LLM。 LLM 回覆：使用工具。 執行工具。 使用工具回應呼叫 LLM。 LLM 提供最終回覆。	500 QPM * 12 events/req = 6,000	6,000 * 1.5 = 9,000
每分鐘工作階段寫入次數 (aiplatform.googleapis.com/session_write_requests)	建立或更新工作階段資源的比率。這通常會小於或等於查詢率。	通常 <= 最高 QPM (500)	通常 <= 查詢配額 (750)

要求調整配額

如要調整大部分配額，請使用 Cloud de Confiance 控制台。詳情請參閱「要求調整配額」。

Agent Platform 快捷模式配額

Agent Platform 免費方案的快捷模式使用者可免費享有下列 Agent Platform 服務配額。如要進一步瞭解免費方案和快捷模式，請參閱「Agent Platform 快捷模式總覽」。

下列配額適用於在 Agent Platform 上部署的代理程式，以及各區域中指定的快捷模式專案：