Quotas pour les modèles Anthropic Claude

Cette page explique comment Gemini Enterprise Agent Platform gère les quotas pour les modèles Claude d'Anthropic.

Présentation

Les modèles Anthropic Claude sur Agent Platform utilisent l'un des systèmes de quotas suivants :

• Modèles lancés après le 26 mai 2026 : quotas de lignée partagée.
• Modèles lancés avant le 26 mai 2026 : quotas par modèle.

Quotas de lignage partagés

Les points de terminaison mondiaux et multirégionaux pour les modèles Anthropic Claude lancés après le 26 mai 2026 utilisent des quotas de lignée de modèles partagés. Une seule limite de quota est partagée entre toutes les versions d'un modèle dans une traçabilité de modèle pour un emplacement donné.

Par exemple, si vous appelez Claude Opus 4.8 sur Google Cloud via le point de terminaison global, toutes les requêtes, tous les jetons d'entrée et tous les jetons de sortie sont comptabilisés dans le même bucket de quota anthropic-claude-opus pour le point de terminaison global, quelle que soit la version d'Opus que vous appelez.

Les quotas sur le point de terminaison mondial et sur chaque point de terminaison multirégional sont des buckets indépendants. L'utilisation du point de terminaison mondial ne consomme pas de quota sur un point de terminaison multirégional, et inversement.

Les sections suivantes décrivent le fonctionnement des quotas de traçabilité partagés pour les points de terminaison mondiaux et multirégionaux.

Points de terminaison mondiaux

Le tableau suivant décrit les métriques des points de terminaison globaux :

Points de terminaison multirégionaux

Le tableau suivant décrit les métriques pour les points de terminaison multirégionaux, tels que us et eu :

Implications pour votre application

• L'ajout d'une nouvelle version d'un lineage ne nécessite pas de nouvelle demande de quota. Lorsqu'une nouvelle version d'une lignée de modèles, telle qu'une future version de Sonnet, est lancée sur un point de terminaison public, elle partage le bucket de quota de la lignée de modèles existante. Vous n'avez pas besoin de demander une augmentation de quota distincte pour utiliser la nouvelle version.

• L'utilisation de plusieurs versions consomme le même bucket de quota. Le trafic réparti sur plusieurs versions de la même lignée de modèles est extrait d'un quota partagé. Planifiez la capacité au niveau de la lignée, et non au niveau de la version.

Afficher et gérer vos quotas

Pour afficher vos limites d'utilisation actuelles ou demander une augmentation de quota, accédez à la page Quotas et limites du système dans la consoleCloud de Confiance .

Pour filtrer les quotas, utilisez la valeur lignée du modèle base_model, par exemple anthropic-claude-opus.

Quotas par modèle

Les modèles Claude d'Anthropic lancés avant le 26 mai 2026 disposent de quotas basés sur le type de point de terminaison utilisé : régional, multirégional ou mondial. Le quota est spécifié en requêtes par minute (RPM) et en jetons par minute (TPM). Le nombre de jetons par minute inclut à la fois les jetons d'entrée et de sortie.

Dans l'optique de maintenir les performances globales du service et une utilisation acceptable, les quotas maximaux peuvent varier en fonction du compte et, dans certains cas, l'accès peut être limité. Consultez les quotas de votre projet sur la page Quotas et limites du système de la console Cloud de Confiance . Vous devez également disposer des quotas suivants :

• Requêtes par minute (RPM) :

  • Pour les points de terminaison régionaux : online_prediction_requests_per_base_model
  • Pour le point de terminaison mondial : global_online_prediction_requests_per_base_model
  • Pour le point de terminaison multirégional aux États-Unis : us_multi_region_online_prediction_requests_per_base_model
  • Pour le point de terminaison multirégional de l'UE : eu_multi_region_online_prediction_requests_per_base_model

• Jetons par minute (TPM) :

  • Certains modèles comptent les jetons d'entrée et de sortie ensemble :
    • Champ d'application régional : online_prediction_tokens_per_minute_per_base_model
    • Champ d'application global : global_online_prediction_tokens_per_minute_per_base_model
  • D'autres modèles comptabilisent les jetons d'entrée et de sortie séparément :
    • TPM d'entrée :
      • Régional : online_prediction_input_tokens_per_minute_per_base_model
      • Global : global_online_prediction_input_tokens_per_minute_per_base_model
      • États-Unis (multirégional) : us_multi_region_online_prediction_input_tokens_per_minute_per_base_model
      • UE (multirégional) : eu_multi_region_online_prediction_input_tokens_per_minute_per_base_model
    • TPM de sortie :
      • Régional : online_prediction_output_tokens_per_minute_per_base_model
      • Monde : global_online_prediction_output_tokens_per_minute_per_base_model
      • États-Unis (multirégional) : us_multi_region_online_prediction_output_tokens_per_minute_per_base_model
      • UE (multirégional) : eu_multi_region_online_prediction_output_tokens_per_minute_per_base_model

  Pour savoir quels modèles comptabilisent séparément les jetons d'entrée et de sortie, consultez Quotas par modèle et par région.

Jetons d'entrée

La liste suivante définit les jetons d'entrée qui peuvent être comptabilisés dans votre quota de TPM d'entrée. Les jetons d'entrée comptabilisés par chaque modèle peuvent varier. Pour savoir quels jetons d'entrée un modèle compte, consultez Quotas par modèle et par région.

• Les jetons d'entrée incluent tous les jetons d'entrée, y compris les jetons de lecture et d'écriture du cache.
• La catégorie Jetons d'entrée non mis en cache n'inclut que les jetons d'entrée qui n'ont pas été lus à partir d'un cache (jetons de lecture du cache).
• Les jetons d'écriture du cache incluent les jetons utilisés pour créer ou mettre à jour un cache.

Quotas par modèle et par région

Le tableau suivant présente les quotas par défaut et la longueur de contexte disponible pour chaque modèle dans chaque région.

Si vous souhaitez augmenter vos quotas pour Agent Platform, vous pouvez en faire la demande via la console Cloud de Confiance . Pour en savoir plus sur les quotas, consultez la présentation de Cloud Quotas.