Cloud de Confiance by S3NS 는 공정성을 보장하고 리소스 사용 및 가용성의 급증을 줄이기 위해 할당량을 사용합니다. 할당량은 Cloud de Confiance 프로젝트에서 사용할 수 있는Cloud de Confiance 리소스 양을 제한합니다. 할당량은 하드웨어, 소프트웨어, 네트워크 구성요소를 포함하여 다양한 리소스 유형에 적용됩니다. 예를 들어 할당량에 따라 서비스에 대한 API 호출 수, 프로젝트에서 동시에 사용하는 부하 분산기 수, 만들 수 있는 프로젝트 수가 제한될 수 있습니다. 할당량은 서비스 과부하를 방지하여Cloud de Confiance 사용자 커뮤니티를 보호합니다. 또한 할당량은 자체 Cloud de Confiance 리소스를 관리하는 데 도움이 됩니다.
Cloud Quotas 시스템은 다음을 수행합니다.
- Cloud de Confiance 제품 및 서비스 소비량 모니터링
- 리소스 소비 제한
- 할당량값 변경을 요청하고 할당량 조정을 자동화하는 방법 제공
대부분의 경우 할당량이 허용하는 것보다 더 많은 리소스를 소비하려고 하면 시스템에서 리소스에 대한 액세스를 차단하고 수행하려는 작업이 실패합니다.
할당량은 일반적으로 Cloud de Confiance 프로젝트 수준에서 적용됩니다. 한 프로젝트의 리소스를 사용해도 다른 프로젝트에서 사용 가능한 할당량에는 영향을 미치지 않습니다. Cloud de Confiance 프로젝트 내에서 할당량은 모든 애플리케이션과 IP 주소에 공유됩니다.
자세한 내용은 Cloud Quotas 개요를 참고하세요.
이전의 Vector Search 2.0인 에이전트 검색에서는 서비스를 보호하고 프로젝트 간에 용량을 공정하게 공유하며 더 예측 가능한 성능과 비용을 제공하기 위해 할당량이 적용됩니다. 할당량은 리전별로 독립적으로 추적됩니다. 예를 들어 us-central의 사용량은 europe-west4의 할당량에 영향을 미치지 않습니다.
측정항목
모든 측정항목 이름은 vectorsearch.googleapis.com/으로 시작합니다.
비율 할당량 (요청/분 및 바이트/분)
데이터 비율 할당량의 경우 할당량은 분당 평가되며 프로젝트별 및 리전별 (또는 멀티 리전)로 적용되고 선택적으로 컬렉션별 로 적용됩니다.
수락된 각 API 호출은 카운터를 요청 하나 (또는 바이트 할당량의 경우 N바이트)만큼 증가시킵니다. 카운터는 달력 분당 이며 슬라이딩 윈도우 평가를 사용합니다(:00에 하드 리셋이 없음).
'리필' 효과 없이 한도에서 계속 실행할 수 있습니다.
카운터가 한도를 초과하면 추가 요청은
RESOURCE_EXHAUSTED (HTTP 429)와 함께 reason="RATE_LIMIT_EXCEEDED" 및 quota_metric 필드에
정확한 측정항목 이름을 반환합니다.
제어 영역 비율 할당량
다음 할당량은 특정 프로젝트 및 리전의 컬렉션 및 색인에 대한 리소스 수명 주기, 읽기, 목록 작업에 적용됩니다.
범위: 프로젝트별, 리전별
단위: 1/min
한도: 분당 요청 수
| 측정항목 | 개수 |
|---|---|
collection_management_requests
|
collections.createcollections.updatecollections.delete |
collection_read_requests |
collections.get |
collection_list_requests |
collections.list |
index_management_requests
|
indexes.createindexes.updateindexes.delete |
index_read_requests |
indexes.get |
index_list_requests |
indexes.list |
장기 실행 작업 (LRO) 요청
다음 할당량은 특정 프로젝트 및 리전의 장기 실행 읽기, 목록, 취소, 삭제 작업에 적용됩니다.
범위: 프로젝트별, 리전별
단위: 1/min
한도: 분당 요청 수
| 측정항목 | 개수 |
|---|---|
lro_requests
|
operations.getoperations.listoperations.canceloperations.delete |
데이터 영역 비율 할당량
다음 할당량은 특정 프로젝트, 리전, 컬렉션의 데이터 객체, 쿼리, 검색 트래픽에 적용됩니다.
참고: 검색 요청 할당량 (search_requests)은
텍스트 검색 및 시맨틱 검색에 사용됩니다.
범위: 프로젝트별, 리전별, 컬렉션별
단위: 1/min
한도: 분당 요청 수, 컬렉션별
| 측정항목 | 개수 |
|---|---|
data_object_writes
|
dataObjects.createdataObjects.updatedataObjects.delete\ 다음에 포함된 각 데이터 객체 batchCreatebatchUpdatebatchDelete |
data_object_reads |
dataObjects.get |
query_requests |
dataObjects.query (메타데이터 전용 필터 쿼리) |
search_requests |
밀집 또는 희소 ANN을 실행할 때 dataObjects.search |
knn_search_requests |
전체 KNN 검색을 실행할 때 dataObjects.search |
batch_search_requests |
dataObjects.batchSearch (하위 검색과 관계없이 요청 하나) |
데이터 영역 처리량 할당량
다음 할당량은 특정 프로젝트, 리전, 컬렉션의 분당 작성된 바이트에 적용됩니다.
범위: 프로젝트별, 리전별, 컬렉션별
단위: 1/min
한도: 분당 요청 수, 컬렉션별
| 측정항목 | 개수 |
|---|---|
data_object_write_bytes
|
모든create, update, delete, batchCreate, batchUpdate, 및batchDelete 컬렉션, 데이터 객체, 색인 호출에서 작성된 직렬화된 데이터 및 벡터 바이트의 합계입니다. |
일괄 작업
batchCreate, batchUpdate, batchDelete dataObjects: 요청의 각 개별 데이터 객체는data_object_writes에 대해 쓰기 하나 로 계산되며 직렬화된 크기(바이트)를data_object_write_bytes에 제공합니다.batchSearch dataObjects: 번들로 묶인 하위 검색 수와 관계없이batch_search_requests에 대해 요청 하나 로 계산됩니다. 일괄 검색을 실행하면 하위 검색 할당량도 계산됩니다.
배정 할당량 (현재 개수)
배정 할당량은 현재 개수 입니다.
카운터는 프로젝트가 소유한 리소스 또는 진행 중인 작업의 실시간 개수입니다.
개수는 리소스 생성 또는 작업 시작 시 증가하고 삭제 또는 작업 완료 시 감소합니다.
한도에 도달하면 다음 만들기 호출은 RESOURCE_EXHAUSTED를 반환합니다.
기존 리소스를 삭제하거나 LRO가 완료될 때까지 기다려 할당량을 확보합니다.
제어 영역 배정 할당량
다음 할당량은 다음을 포함하여 특정 프로젝트 및 리전에 대해 프로젝트가 보유할 수 있는 리소스 또는 진행 중인 작업의 수에 적용됩니다.
- 컬렉션
- 색인
- 컬렉션, 데이터 객체, 색인에 대한 동시 만들기, 가져오기, 내보내기 작업
범위: 프로젝트별, 리전별
단위: 1
한도: 절대 개수 (정확한 할당량)
| 측정항목 | 개수 |
|---|---|
collections |
프로젝트/리전에 있는 컬렉션 수입니다. |
indexes |
프로젝트/리전의 색인 수 (모든 컬렉션에서 합산)입니다. |
concurrent_index_operations |
진행 중인 색인 LRO (만들기/업데이트/삭제)입니다. |
concurrent_collection_operations |
진행 중인 컬렉션 LRO (만들기/업데이트/삭제)입니다. |
concurrent_data_object_imports |
진행 중인 dataObjects.import LRO입니다. |
concurrent_data_object_exports |
진행 중인 dataObjects.export LRO입니다. |
자동 임베딩
자동 임베딩은 Vertex AI
의 Gemini API(aiplatform.googleapis.com)를 사용합니다. 각 API 요청은
search_requests 또는 data_object_writes 에 대해 계산되며 임베딩 호출은
예측 할당량에 대해 계산됩니다. 두 API 모두 여유 공간이 있는지 확인합니다.
사용 예시
다음 섹션에서는 다양한 사용 시나리오가 할당량에 미치는 영향을 설명합니다.
지속적인 쓰기 워크로드
us-central1의 단일 컬렉션에 문서 (데이터와 768차원 밀집 벡터, 약 4KB)를 수집합니다. 두 할당량이 동시에 적용됩니다.
data_object_writes (requests per minute, per collection)
data_object_write_bytes (bytes per minute, per collection)
먼저 도달하는 상한 에 의해 제한됩니다. 작은 객체의 경우 요청 비율 할당량이 일반적으로 바인딩됩니다. 큰 객체의 경우 바이트 할당량이 바인딩됩니다.
콘솔에서 두 측정항목을 모두 확인하여 한도에 가장 가까운 측정항목을 파악합니다. Cloud de Confiance
검색 중심 워크로드
단일 컬렉션에 ANN 쿼리를 전송하는 제공 워크로드는 search_requests를 사용합니다. 초당 최대 쿼리 수 (QPS)가 컬렉션별 한도에 가까워지면 증가를 요청하거나 동일한 리전의 여러 컬렉션에 트래픽을 분산합니다.
작은 컬렉션이 많음
프로젝트의 collections 한도에서 허용하는 것보다 더 많은 컬렉션을 만들 계획이라면 만들기 전에 증가를 요청하세요. 그렇지 않으면 한도를 초과하는 만들기 호출이 RESOURCE_EXHAUSTED로 실패합니다.
일괄 검색
10개의 하위 검색이 포함된 batchSearch는 정확히 하나 의 batch_search_requests를 사용하지만 각 하위 검색은 여전히 외부 일괄 처리 수준에서만 각각의 하위 검색별 측정항목에 대해 계산됩니다.
일괄 팬아웃을 적절히 계획합니다.
할당량 보기
할당량을 보려면 다음 안내를 따르세요.
- 콘솔에서 IAM 및 관리자 > 할당량 페이지 를 엽니다. Cloud de Confiance
Vector Search API서비스를 필터링합니다.- 측정기준 (예: 위치) 열을 사용하여 데이터 영역 할당량의 리전 및 컬렉션별로 필터링합니다.
모든 측정항목의 현재 유효 한도는 Cloud de Confiance 콘솔 할당량 페이지의 측정항목 이름 옆에 표시되며 리전별로 필터링되고 데이터 영역 할당량의 경우 컬렉션별로 필터링됩니다.
할당량 알림 설정
워크로드가 종속된 할당량에 대해 80% 사용률 로 알림을 설정하는 것이 좋습니다. 자세한 내용은 할당량 알림 설정 및 알림 정책에서 할당량 측정항목 사용을 참고하세요.
오류
할당량을 초과하여 거부된 요청은 할당량 자체에 대해 계산되지 않습니다.
다른 이유 (INVALID_ARGUMENT, NOT_FOUND 등)로 실패한 요청은 서비스에서 계속 평가해야 하므로 비율 할당량에 대해 계산됩니다.
vector_schema 유효성 검사 실패는 계산됩니다. 비율 할당량 검사가 완료된 후 API 레이어에서 거부됩니다.
할당량 초과
요청이 제한되면 API는 다음을 반환합니다.
gRPC: RESOURCE_EXHAUSTED (8)
HTTP: 429 Too Many Requests
오류 메시지에는 초과된 정확한 측정항목이 포함됩니다.
예를 들면 다음과 같습니다.
Quota exceeded for quota metric 'vectorsearch.googleapis.com/search_requests'
and limit 'SearchRequestsPerMinutePerProjectPerRegionPerCollection' of service
'vectorsearch.googleapis.com' for consumer 'project_number:123456789012'.
이 경우 할당량 증가를 요청할 수 있습니다.
권장되는 클라이언트 동작
클라이언트는 다음을 수행해야 합니다.
- 일시적인 비율 제한 오류에 대해 지수 백오프 및 지터로 다시 시도 합니다. 약 1초에서 시작하여 최대 약 32초까지 백오프합니다.
- 배정 할당량으로 인해 발생한 오류 (예:
"too many collections")는**다시 시도하지 않습니다**. 대신 리소스를 삭제하거나 증가를 요청합니다. - 단일 컬렉션이
data_object_writes또는data_object_write_bytes할당량을 핫스팟하는 경우 컬렉션 또는 리전에 쓰기를 분산 합니다. - 사전 워밍 합니다. 출시가 현재 한도를 초과할 것으로 예상되면 영업일 기준 며칠 전에 증가를 요청합니다.
할당량 상향 요청 (QIR)
할당량 상향을 요청하려면 다음을 수행합니다.
- 콘솔에서 IAM 및 관리자 > 할당량 페이지 를 엽니다. Cloud de Confiance
- 늘리려는 행을 선택합니다.
- 할당량 수정을 클릭하고 새 값과 간단한 비즈니스 근거를 입력한 후
제출합니다. 다음 항목을 포함합니다.
- 측정항목 이름 (예:
vectorsearch.googleapis.com/search_requests) - 리전 및 데이터 영역의 경우 컬렉션 ID.
- 타겟 처리량 및 워크로드에 대한 간단한 설명(안정적 대 급증, 예상 최대 QPS, 예상 데이터 세트 크기 등)
- 측정항목 이름 (예:
요청은 검토를 위해 에이전트 검색팀으로 라우팅됩니다. 기본값의 최대 2배까지 대부분의 증가는 자동으로 승인됩니다. 더 큰 증가는 추가 검토가 필요할 수 있습니다.