Kontingente für Anthropic Claude-Modelle

Auf dieser Seite wird beschrieben, wie die Gemini Enterprise Agent Platform Kontingente für Anthropic Claude-Modelle verwaltet.

Übersicht

Für Anthropic Claude-Modelle auf der Agent Platform wird eines der folgenden Kontingentsysteme verwendet:

• Modelle, die nach dem 26. Mai 2026 eingeführt wurden:Kontingente für gemeinsame Abstammung.
• Modelle, die vor dem 26. Mai 2026 eingeführt wurden:Kontingente pro Modell.

Kontingente für freigegebene Herkunft

Globale und multiregionale Endpunkte für Anthropic Claude-Modelle, die nach dem 26. Mai 2026 eingeführt wurden, verwenden gemeinsame Kontingente für die Modellabstammung. Ein einzelnes Kontingentlimit wird für alle Modellversionen in einer Modellreihe für einen bestimmten Standort freigegeben.

Wenn Sie beispielsweise Claude Opus 4.8 in Google Cloud über den globalen Endpunkt aufrufen, werden alle Anfragen, Eingabe-Tokens und Ausgabe-Tokens auf dasselbe anthropic-claude-opus-Kontingent-Bucket für den globalen Endpunkt angerechnet, unabhängig von der spezifischen Opus-Version, die Sie aufrufen.

Kontingente für den globalen Endpunkt und jeden multiregionalen Endpunkt sind unabhängige Buckets. Die Nutzung des globalen Endpunkts verbraucht kein Kontingent für einen multiregionalen Endpunkt und umgekehrt.

In den folgenden Abschnitten wird beschrieben, wie Kontingente für gemeinsame Herkunft für globale und multiregionale Endpunkte funktionieren.

Globale Endpunkte

In der folgenden Tabelle werden Messwerte für globale Endpunkte beschrieben:

Multiregionale Endpunkte

In der folgenden Tabelle werden die Messwerte für multiregionale Endpunkte wie us und eu beschrieben:

Auswirkungen auf Ihre Anwendung

• Wenn Sie eine neue Version einer Lineage hinzufügen, ist keine neue Kontingentanfrage erforderlich. Wenn eine neue Version einer Modellreihe, z. B. eine zukünftige Sonnet-Version, an einem öffentlichen Endpunkt eingeführt wird, wird das vorhandene Kontingent für die Modellreihe verwendet. Sie müssen keine separate Kontingenterhöhung beantragen, um die neue Version zu verwenden.

• Wenn Sie verschiedene Versionen verwenden, wird dasselbe Kontingent genutzt. Die Aufteilung des Traffics auf mehrere Versionen derselben Modellreihe wird aus einem gemeinsamen Kontingent gezogen. Planen Sie die Kapazität auf Herkunftsebene, nicht auf Versionsebene.

Kontingente ansehen und verwalten

Wenn Sie Ihre aktuellen Nutzungslimits einsehen oder Kontingenterhöhungen anfordern möchten, rufen Sie in derCloud de Confiance Console die Seite Kontingente und Systemlimits auf.

Wenn Sie Kontingente filtern möchten, verwenden Sie den Modellstammbaum-Wert von base_model, z. B. anthropic-claude-opus.

Kontingente pro Modell

Für Anthropic Claude-Modelle, die vor dem 26. Mai 2026 eingeführt wurden, gelten Kontingente basierend auf dem verwendeten Endpunkttyp: regional, multiregional oder global. Das Kontingent wird in Abfragen pro Minute (Queries per minute, QPM) und Tokens pro Minute (TPM) angegeben. TPM umfasst sowohl Eingabe- als auch Ausgabetokens.

Um die Gesamtleistung des Dienstes und die zulässige Verwendung aufrechtzuerhalten, können die maximalen Kontingente je nach Konto variieren. In einigen Fällen kann der Zugriff eingeschränkt sein. Die Kontingente Ihres Projekts finden Sie in der Cloud de Confiance Console auf der Seite Kontingente und Systemlimits. Außerdem müssen die folgenden Kontingente verfügbar sein:

• Abfragen pro Minute (QPM):

  • Für regionale Endpunkte: online_prediction_requests_per_base_model
  • Für den globalen Endpunkt: global_online_prediction_requests_per_base_model
  • Für den multiregionalen Endpunkt in den USA: us_multi_region_online_prediction_requests_per_base_model
  • Für den multiregionalen Endpunkt in der EU: eu_multi_region_online_prediction_requests_per_base_model

• Tokens pro Minute (TPM):

  • Bei einigen Modellen werden Eingabe- und Ausgabetokens zusammengezählt:
    • Regional: online_prediction_tokens_per_minute_per_base_model
    • Global: global_online_prediction_tokens_per_minute_per_base_model
  • Bei anderen Modellen werden Eingabe- und Ausgabetokens separat gezählt:
    • Eingabe-TPM:
      • Regional: online_prediction_input_tokens_per_minute_per_base_model
      • Global: global_online_prediction_input_tokens_per_minute_per_base_model
      • USA (mehrere Regionen): us_multi_region_online_prediction_input_tokens_per_minute_per_base_model
      • EU (mehrere Regionen): eu_multi_region_online_prediction_input_tokens_per_minute_per_base_model
    • Ausgabe-TPM:
      • Regional: online_prediction_output_tokens_per_minute_per_base_model
      • Global: global_online_prediction_output_tokens_per_minute_per_base_model
      • USA (mehrere Regionen): us_multi_region_online_prediction_output_tokens_per_minute_per_base_model
      • EU (mehrere Regionen): eu_multi_region_online_prediction_output_tokens_per_minute_per_base_model

  Unter Kontingente nach Modell und Region finden Sie Informationen dazu, bei welchen Modellen Eingabe- und Ausgabetokens separat gezählt werden.

Eingabetokens

In der folgenden Liste sind die Eingabe-Tokens definiert, die auf Ihr TPM-Kontingent für Eingaben angerechnet werden können. Die Anzahl der Eingabetokens, die von den einzelnen Modellen gezählt werden, kann variieren. Informationen dazu, welche Eingabetokens ein Modell zählt, finden Sie unter Kontingente nach Modell und Region.

• Eingabetokens umfasst alle Eingabetokens, einschließlich der Tokens, die aus dem Cache gelesen und in den Cache geschrieben wurden.
• Nicht im Cache gespeicherte Eingabetokens umfasst nur die Eingabetokens, die nicht aus einem Cache gelesen wurden (Cache-Lesetokens).
• Cache-Schreibtoken umfasst Token, die zum Erstellen oder Aktualisieren eines Cache verwendet wurden.

Kontingente nach Modell und Region

In der folgenden Tabelle sind die Standardkontingente und die unterstützte Kontextlänge für jedes Modell in jeder Region aufgeführt.

Wenn Sie eines der Kontingente für die Agent Platform erhöhen möchten, können Sie über die Cloud de Confiance Console eine Kontingenterhöhung anfordern. Weitere Informationen zu Kontingenten finden Sie unter Cloud-Kontingente – Übersicht.