Cloud de Confiance by S3NS usa cuotas para garantizar la equidad y reducir los aumentos repentinos en el uso y la disponibilidad de los recursos. Una cuota restringe la cantidad de un recurso deCloud de Confiance que puede usar tu proyecto de Cloud de Confiance . Las cuotas se aplican a una variedad de tipos de recursos, incluidos los componentes de hardware, software y red. Por ejemplo, las cuotas pueden restringir la cantidad de llamadas a la API para un servicio, la cantidad de balanceadores de cargas que se usan en simultáneo en tu proyecto o la cantidad de proyectos que puedes crear. Las cuotas protegen a la comunidad de usuarios deCloud de Confiance evitando la sobrecarga de los servicios. También te ayudan a administrar tus propios recursos de Cloud de Confiance .
El sistema de cuotas de Cloud lleva a cabo las siguientes acciones:
- Supervisa tu consumo de productos y servicios de Cloud de Confiance
- Restringe el consumo de esos recursos
- Proporciona una forma de solicitar cambios en el valor de la cuota y automatizar los ajustes de la cuota
En la mayoría de los casos, cuando intentas consumir más de lo que permite la cuota de un recurso, el sistema bloquea el acceso al recurso y la tarea que intentas llevar a cabo falla.
Por lo general, las cuotas se aplican a nivel de proyecto de Cloud de Confiance . El uso de un recurso en un proyecto no afecta tu cuota disponible en otro proyecto. En un proyecto de Cloud de Confiance , las cuotas se comparten entre todas las aplicaciones y direcciones IP.
Para obtener más información, consulta la descripción general de cuotas de Cloud.
En Agent Retrieval (antes Vector Search 2.0), se aplican cuotas para proteger el servicio, garantizar el uso compartido justo de la capacidad entre los proyectos y brindarte un rendimiento y un costo más predecibles. Las cuotas se registran de forma independiente por región. Por ejemplo, el uso en us-central no afecta tu cuota en europe-west4.
Métricas
Todos los nombres de las métricas tienen el prefijo vectorsearch.googleapis.com/.
Cuotas de frecuencia (solicitudes/min y bytes/min)
En el caso de las cuotas de frecuencia de datos, las cuotas se evalúan por minuto y se aplican por proyecto y por región (o multirregión) y, de manera opcional, por colección.
Cada llamada a la API aceptada aumenta el contador en una solicitud (o N bytes para las cuotas de bytes). Los contadores son por minuto calendario y usan una evaluación de ventana deslizante (no hay restablecimiento forzado en :00).
Puedes ejecutar el límite de forma continua sin ver un efecto de "recarga".
Cuando un contador supera su límite, las solicitudes adicionales muestran
RESOURCE_EXHAUSTED (HTTP 429) con reason="RATE_LIMIT_EXCEEDED" y el
nombre exacto de la métrica en el quota_metric campo.
Cuotas de frecuencia del plano de control
Las siguientes cuotas se aplican al ciclo de vida de los recursos y a las operaciones de lectura y lista en colecciones e índices para un proyecto y una región determinados.
Alcance: Por proyecto y por región
Unidad: 1/min
Límites: solicitudes por minuto
| Métrica | Recuentos |
|---|---|
collection_management_requests
|
collections.createcollections.updatecollections.delete |
collection_read_requests |
collections.get |
collection_list_requests |
collections.list |
index_management_requests
|
indexes.createindexes.updateindexes.delete |
index_read_requests |
indexes.get |
index_list_requests |
indexes.list |
Solicitudes de operaciones de larga duración (LRO)
Las siguientes cuotas se aplican a las operaciones de lectura, lista, cancelación y eliminación de larga duración para un proyecto y una región determinados.
Alcance: Por proyecto y por región
Unidad: 1/min
Límites: solicitudes por minuto
| Métrica | Recuentos |
|---|---|
lro_requests
|
operations.getoperations.listoperations.canceloperations.delete |
Cuotas de frecuencia del plano de datos
Las siguientes cuotas se aplican a los objetos de datos, las consultas y el tráfico de búsqueda para un proyecto, una región y una colección determinados.
Nota: Las cuotas de solicitudes de búsqueda (search_requests) se consumen para
la búsqueda de texto y la búsqueda semántica.
Alcance: Por proyecto, por región y por colección
Unidad: 1/min
Límites: solicitudes por minuto y por colección
| Métrica | Recuentos |
|---|---|
data_object_writes
|
dataObjects.createdataObjects.updatedataObjects.delete\ Cada objeto de datos incluido en batchCreatebatchUpdatebatchDelete |
data_object_reads |
dataObjects.get |
query_requests |
dataObjects.query (consultas de filtro solo de metadatos) |
search_requests |
dataObjects.search cuando se ejecuta una ANN densa o dispersa |
knn_search_requests |
dataObjects.search cuando se ejecuta una búsqueda exhaustiva de KNN |
batch_search_requests |
dataObjects.batchSearch (una solicitud, independientemente de las búsquedas secundarias) |
Cuotas de capacidad de procesamiento del plano de datos
Las siguientes cuotas se aplican a los bytes escritos por minuto para un proyecto, una región y una colección determinados.
Alcance: Por proyecto, por región y por colección
Unidad: 1/min
Límites: solicitudes por minuto y por colección
| Métrica | Recuentos |
|---|---|
data_object_write_bytes
|
La suma de los datos serializados y los bytes vectoriales escritos por todas las llamadascreate, update, delete, batchCreate, batchUpdate, ybatchDelete para colecciones, objetos de datos e índices |
Operaciones por lotes
batchCreate, batchUpdate, batchDelete dataObjects: Cada objeto de datos individual de la solicitud se considera una escritura endata_object_writesy aporta su tamaño serializado en bytes adata_object_write_bytes.batchSearch dataObjects: Se considera una solicitud enbatch_search_requests, independientemente de la cantidad de búsquedas secundarias agrupadas. La búsqueda por lotes hace que también se cuente la cuota de búsquedas secundarias.
Cuotas de asignación (recuento actual)
Las cuotas de asignación son un recuento actual.
Los contadores son un recuento en vivo de los recursos o las operaciones en tránsito que posee el proyecto.
El recuento aumenta cuando se crea un recurso o se inicia una operación, y disminuye cuando se borra o se completa la operación.
Cuando se alcanza el límite, la siguiente llamada de creación muestra RESOURCE_EXHAUSTED.
Borra un recurso existente o espera a que finalice una LRO para liberar la cuota.
Cuotas de asignación del plano de control
Las siguientes cuotas se aplican a la cantidad de recursos o operaciones en tránsito que un proyecto puede tener para un proyecto y una región determinados, incluidos los siguientes:
- Colecciones
- Índices
- Operaciones simultáneas de creación, importación y exportación en colecciones, objetos de datos e índices
Alcance: Por proyecto y por región
Unidad: 1
Límites: Recuentos absolutos (cuotas precisas)
| Métrica | Recuentos |
|---|---|
collections |
La cantidad de colecciones que existen en el proyecto o la región |
indexes |
La cantidad de índices (sumados en todas las colecciones) en el proyecto o la región |
concurrent_index_operations |
Las LRO de índice en tránsito (crear, actualizar o borrar) |
concurrent_collection_operations |
Las LRO de colección en tránsito (crear, actualizar o borrar) |
concurrent_data_object_imports |
Las LRO de dataObjects.import en tránsito |
concurrent_data_object_exports |
Las LRO de dataObjects.export en tránsito |
Incorporación automática
La incorporación automática usa la API de Gemini en Vertex AI (aiplatform.googleapis.com). Cada solicitud a la API se cuenta en search_requests o data_object_writes y la llamada de incorporación se cuenta en las cuotas de predicción. Asegúrate de que ambas APIs tengan margen.
Ejemplos de uso
En las siguientes secciones, se describe cómo los diferentes casos de uso afectan las cuotas.
Carga de trabajo de escritura sostenida
Estás transfiriendo documentos (datos más un vector denso de 768 dimensiones, aproximadamente 4 KB) a una sola colección en us-central1. Se aplican dos cuotas de forma simultánea:
data_object_writes (requests per minute, per collection)
data_object_write_bytes (bytes per minute, per collection)
Estás limitado por el límite que alcances primero. Con objetos pequeños, suele vincularse la cuota de frecuencia de solicitudes. Con objetos grandes, se vincula la cuota de bytes.
Consulta ambas métricas en la Cloud de Confiance consola de para saber cuál está más cerca de su límite.
Carga de trabajo de búsqueda intensiva
Una carga de trabajo de entrega que envía consultas de ANN a una sola colección consume search_requests. Si tus consultas máximas por segundo (QPS) se acercan al límite por colección, solicita un aumento o distribuye el tráfico en varias colecciones de la misma región.
Muchas colecciones pequeñas
Si planeas crear más colecciones de lo que permite el límite collections de tu proyecto, solicita un aumento antes de comenzar a crear. De lo contrario, la llamada de creación que supere el límite fallará con RESOURCE_EXHAUSTED.
Búsqueda por lotes
Una batchSearch que contiene 10 búsquedas secundarias consume exactamente una
batch_search_requests, pero cada búsqueda secundaria aún se cuenta en su métrica respectiva por búsqueda secundaria solo en el nivel del lote externo.
Planifica el fan-out por lotes en consecuencia.
Visualiza las cuotas
Para ver tus cuotas, sigue estos pasos:
- Abre la página IAM y administración > Cuotas en la Cloud de Confiance consola de.
- Filtra por el servicio
Vector Search API. - Usa la columna Dimensiones (p.ej., ubicación) para filtrar por región y por colección para las cuotas del plano de datos.
El límite efectivo actual para cada métrica se muestra en la Cloud de Confiance página Cuotas de la consola de junto al nombre de la métrica, filtrado por región y, para las cuotas del plano de datos, por colección.
Configura alertas de cuota
Te recomendamos que configures una alerta con una utilización del 80% para las cuotas de las que depende tu carga de trabajo. Para obtener más información, consulta Configura alertas de cuota y Usa métricas de cuota en políticas de alertas.
Errores
Una solicitud que se rechaza porque superó una cuota no se cuenta en la cuota en sí.
Las solicitudes que fallan por otros motivos (INVALID_ARGUMENT, NOT_FOUND, etcétera) se cuentan en la cuota de frecuencia porque el servicio aún debe evaluarlas.
Se cuentan los errores de validación de vector_schema. Se rechazan en la capa de la API después de que se realiza la verificación de la cuota de frecuencia.
Supera las cuotas
Cuando se limita una solicitud, la API muestra lo siguiente:
gRPC: RESOURCE_EXHAUSTED (8)
HTTP: 429 Too Many Requests
El mensaje de error incluye la métrica exacta que se superó.
Por ejemplo:
Quota exceeded for quota metric 'vectorsearch.googleapis.com/search_requests'
and limit 'SearchRequestsPerMinutePerProjectPerRegionPerCollection' of service
'vectorsearch.googleapis.com' for consumer 'project_number:123456789012'.
Cuando esto sucede, puedes solicitar un aumento de la cuota.
Comportamiento recomendado del cliente
Los clientes deben hacer lo siguiente:
- Volver a intentarlo con una retirada exponencial y fluctuación para errores transitorios de límite de frecuencia (comenzar en aproximadamente 1 segundo y retirarse hasta aproximadamente 32 segundos)
- No volver a intentar los errores causados por las cuotas de asignación (por ejemplo,
"too many collections"). En su lugar, borra un recurso o solicita un aumento. - Propagar las escrituras en colecciones o regiones si una sola colección activa sus cuotas
data_object_writesodata_object_write_bytes - Precalentar. Si sabes que un lanzamiento superará tus límites actuales, solicita un aumento con al menos unos días hábiles de anticipación.
Solicitud de aumento de cuota (QIR)
Para solicitar un aumento de cuota, sigue estos pasos:
- Abre la página IAM y administración > Cuotas en la Cloud de Confiance consola de.
- Selecciona las filas que deseas aumentar.
- Haz clic en Editar cuotas, ingresa el valor nuevo y una breve justificación comercial,
y envía la solicitud. Incluye lo siguiente:
- El nombre de la métrica (por ejemplo,
vectorsearch.googleapis.com/search_requests) - La región y (para el plano de datos) el ID de la colección
- Tu capacidad de procesamiento objetivo y una breve descripción de la carga de trabajo (estable o con picos, QPS máximo esperado, tamaño del conjunto de datos esperado, etcétera).
- El nombre de la métrica (por ejemplo,
La solicitud se enruta al equipo de Agent Retrieval para su revisión. La mayoría de los aumentos de hasta 2 veces el valor predeterminado se aprueban automáticamente. Los aumentos más grandes pueden requerir una revisión adicional.