Agent Retrieval 配額

Cloud de Confiance by S3NS 使用配額來確保公平性，並減少資源使用量和可用性出現劇烈波動的情況。配額會限制 Cloud de Confiance 專案可使用的Cloud de Confiance 資源數量，且適用多種資源類型，包括軟硬體和網路元件。舉例來說，配額可能會限制能向特定服務發出的 API 呼叫次數、專案可同時使用的負載平衡器數量，或是可建立的專案數量。配額機制可防止服務過載，保障Cloud de Confiance 使用者社群的權益，同時也有助於您管理自己的 Cloud de Confiance 資源。

Cloud Quotas 系統具備以下功能：

如果嘗試使用的資源量超過配額限制，系統通常會阻擋該資源的存取活動，您所執行的工作就會失敗。

配額的計算通常是以 Cloud de Confiance 專案為基準。在某個專案中使用資源，不會影響另一個專案的可用配額。在同一個 Cloud de Confiance 專案內，所有應用程式和 IP 位址會共用配額。

詳情請參閱「Cloud Quotas 總覽」。

在 Agent Retrieval (舊稱 Vector Search 2.0) 中，系統會強制執行配額，以保護服務、確保專案之間能公平分享容量，並提供更可預測的效能和成本。配額會依區域分別追蹤。舉例來說，在 us-central 中使用不會影響 europe-west4 的配額。

指標

所有指標名稱都會加上 vectorsearch.googleapis.com/ 前置字元。

速率配額 (每分鐘要求數和每分鐘位元組數)

資料速率配額的評估單位為「每分鐘」，適用於「每個專案」和「每個區域」 (或「多區域」)，也可選擇適用於「每個集合」。

每接受一次 API 呼叫，計數器就會增加一項要求 (或位元組配額的 N 個位元組)。計數器是以每分鐘為單位，並使用滑動視窗評估 (不會在 :00 進行硬性重設)。

您可以在限制下持續執行，不會看到「補充」效果。

如果計數器超出限制，額外要求會傳回 RESOURCE_EXHAUSTED (HTTP 429)，並在 quota_metric 欄位中顯示 reason="RATE_LIMIT_EXCEEDED" 和確切的指標名稱。

控制層速率配額

特定專案和地區的集合與索引資源生命週期，以及讀取和列出作業，適用下列配額規定。

範圍：每個區域每項專案

單位：1/min

限制：每分鐘要求數。

指標 計數
collection_management_requests collections.create
collections.update
collections.delete
collection_read_requests collections.get
collection_list_requests collections.list
index_management_requests indexes.create
indexes.update
indexes.delete
index_read_requests indexes.get
index_list_requests indexes.list

長時間執行的作業 (LRO) 要求

特定專案和區域的長時間執行讀取、列出、取消和刪除作業適用下列配額規定。

範圍：每個區域每項專案

單位：1/min

限制：每分鐘要求數。

指標 計數
lro_requests operations.get
operations.list
operations.cancel
operations.delete

資料平面速率配額

特定專案、區域和集合的資料物件、查詢和搜尋流量適用下列配額規定。

注意：文字搜尋和語意搜尋會耗用搜尋要求配額 (search_requests)。

範圍：每個專案、每個區域、每個集合

單位：1/min

限制：每分鐘每個集合的要求數

指標 計數
data_object_writes dataObjects.create
dataObjects.update
dataObjects.delete\

batchCreate
batchUpdate
batchDelete
data_object_reads dataObjects.get
query_requests dataObjects.query (僅限中繼資料的篩選查詢)
search_requests dataObjects.search 執行密集或稀疏的 ANN 時。
knn_search_requests dataObjects.search執行詳盡的 KNN 搜尋時。
batch_search_requests dataObjects.batchSearch (無論子搜尋次數，都只算一次要求)

資料平面總處理量配額

特定專案、區域和集合每分鐘寫入的位元組數適用下列配額規定。

範圍：每個專案、每個區域、每個集合

單位：1/min

限制：每分鐘每個集合的要求數

指標 計數
data_object_write_bytes 所有
、create、update、delete、batchCreate、batchUpdate 和
batchDelete 呼叫所寫入的序列化資料和向量位元組總和，適用於集合、資料物件和索引。

批次作業

  • batchCreate, batchUpdate, batchDelete dataObjects：要求中的每個資料物件都會計為一次寫入 data_object_writes，並將序列化大小 (以位元組為單位) 納入 data_object_write_bytes。

  • batchSearch dataObjects：無論組合了多少子搜尋，都只會計為一項要求，並計入batch_search_requests。批次搜尋也會計入子搜尋配額。

分配配額 (目前計數)

分配配額是目前計數。

計數器會即時計算專案擁有的資源或進行中的作業。

資源建立或作業開始時，計數會增加；資源刪除或作業完成時，計數會減少。

達到上限後，下一個建立呼叫會傳回 RESOURCE_EXHAUSTED。刪除現有資源，或等待 LRO 完成，以釋出配額。

控制層分配配額

下列配額適用於專案在特定專案和區域中可保留的資源數量或進行中的作業，包括：

  • 集合
  • 索引
  • 對集合、資料物件和索引執行並行建立、匯入和匯出作業

範圍：每個區域每項專案

單位：1

限制：絕對計數 (精確配額)

指標 計數
collections 專案/區域中的集合數量。
indexes 專案/區域中的索引數量 (所有集合的總和)。
concurrent_index_operations 進行中的索引 LRO (建立/更新/刪除)。
concurrent_collection_operations 飛行中的 Collection LRO (建立/更新/刪除)。
concurrent_data_object_imports 飛行中的 dataObjects.import LRO。
concurrent_data_object_exports 飛行中的 dataObjects.export LRO。

自動嵌入

自動嵌入功能會使用 Vertex AI 中的 Gemini API (aiplatform.googleapis.com)。每項 API 要求都會計入 search_requests 或 data_object_writes 和嵌入呼叫，並計入預測配額。確保兩個 API 都有調整空間。

使用範例

以下各節說明不同使用情境對配額的影響。

持續寫入工作負載

您要將文件 (資料加上 768 維度的密集向量，約 4 KB) 擷取到 us-central1 的單一集合中。系統會同時套用兩項配額：

data_object_writes        (requests per minute, per collection)
data_object_write_bytes   (bytes per minute, per collection)

先達到哪個上限，就以該上限為準。如果是小型物件，通常會受到要求速率配額限制。大型物件會受到位元組配額限制。

請在 Cloud de Confiance 控制台中查看這兩項指標，瞭解哪一項最接近限制。

大量搜尋的工作負載

將 ANN 查詢傳送至單一集合的服務工作負載會消耗 search_requests。如果每秒查詢次數 (QPS) 尖峰值接近每個集合的上限，請申請提高上限，或在同一區域的多個集合之間分配流量。

許多小型集合

如果打算建立的集合數量超過專案的 collections 限制，請先申請提高限制，再開始建立集合。否則，超出上限的建立呼叫會失敗，並顯示 RESOURCE_EXHAUSTED。

包含 10 個子搜尋的 batchSearch 會消耗一個 batch_search_requests，但每個子搜尋仍只會計入外部批次層級的個別子搜尋指標。請據此規劃批次擴散傳遞功能。

查看配額

如要查看配額，請按照下列步驟操作：

  1. 在 Cloud de Confiance 控制台中，開啟「IAM & Admin」(IAM 與管理) >「配額」頁面。
  2. 篩選「Vector Search API」服務。
  3. 使用「維度」(例如位置) 資料欄，依區域和資料平面配額的集合篩選。

每個指標的目前有效限制會顯示在 Cloud de Confiance 控制台 的「配額」頁面，指標名稱旁會依區域和 (如果是資料平面配額) 集合進行篩選。

設定配額快訊

建議您為工作負載所依據的配額設定快訊，在配額使用率達到 80% 時發出通知。詳情請參閱「設定配額快訊」和「在快訊政策中使用配額指標」。

失敗次數

因超出配額而遭拒的要求不會計入配額。

因其他原因而失敗的要求 (INVALID_ARGUMENT, NOT_FOUND 等) 仍會計入頻率配額，因為服務仍須評估這些要求。

vector_schema 驗證失敗次數會計入。系統會在 API 層進行速率配額檢查，檢查後遭到拒絕。

超過配額

如果要求遭到節流，API 會傳回：

gRPC:   RESOURCE_EXHAUSTED (8)
HTTP:   429 Too Many Requests

錯誤訊息會指出超出上限的確切指標。

例如：

Quota exceeded for quota metric 'vectorsearch.googleapis.com/search_requests'
and limit 'SearchRequestsPerMinutePerProjectPerRegionPerCollection' of service
'vectorsearch.googleapis.com' for consumer 'project_number:123456789012'.

發生這種情況時，您可以要求增加配額。

客戶應採取下列動作：

  • 如為暫時性速率限制錯誤，請以指數輪詢和抖動方式重試。從約 1 秒開始，然後最多可回退約 32 秒。
  • 因分配配額而導致的無法重試錯誤 (例如 "too many collections")。請刪除資源或要求增加配額。
  • 如果單一集合的 data_object_writes 或 data_object_write_bytes 配額達到上限，請在集合或區域之間分散寫入作業。
  • 預先暖機。如果知道發布內容會超過目前的限制，請至少提前幾個工作天申請調高限制。

配額提高要求 (QIR)

如要申請提高配額，請按照下列步驟操作：

  1. 在 Cloud de Confiance 控制台中，開啟「IAM & Admin」(IAM 與管理) >「配額」頁面。
  2. 選取要增加的列。
  3. 點選「Edit Quotas」(編輯配額)，輸入新值和簡短的業務理由，然後提交。包含：
    • 指標名稱 (例如 vectorsearch.googleapis.com/search_requests)。
    • 區域和 (適用於資料平面) 集合 ID。
    • 您的 目標處理量和工作負載的簡短說明 (穩定或尖峰、預期尖峰 QPS、預期資料集大小等)。

這項要求會送交代理人檢索團隊審查。如果增加的配額不超過預設值的 2 倍，系統通常會自動核准。如果增加幅度較大，可能需要額外審查。

另請參閱