Kontingente für Anthropic Claude-Modelle

Auf dieser Seite wird beschrieben, wie die Gemini Enterprise Agent Platform Kontingente für Anthropic Claude-Modelle verwaltet.

Übersicht

Anthropic Claude-Modelle auf der Agent Platform verwenden eines der folgenden Kontingentsysteme:

• Nach dem 26. Mai 2026 eingeführte Modelle: Gemeinsame Herkunftskontingente.
• Modelle, die vor dem 26. Mai 2026 eingeführt wurden: Modellspezifische Kontingente.

Kontingente für freigegebene Herkunft

Globale und multiregionale Endpunkte für Anthropic Claude-Modelle, die nach dem 26. Mai 2026 eingeführt werden, verwenden gemeinsame Kontingente für die Modellherkunft. Ein einzelnes Kontingentlimit wird für einen bestimmten Standort von allen Modellversionen in einer Modellherkunft gemeinsam genutzt.

Wenn Sie beispielsweise Anthropic Claude Opus 4.8 in Google Cloud über den globalen Endpunkt aufrufen, werden alle Anfragen, Eingabetokens und Ausgabetokens auf dasselbe anthropic-claude-opus-Kontingent für den globalen Endpunkt angerechnet, unabhängig von der spezifischen Opus-Version, die Sie aufrufen.

Kontingente für den globalen Endpunkt und jeden multiregionalen Endpunkt sind unabhängige Buckets. Die Nutzung des globalen Endpunkts verbraucht kein Kontingent für einen multiregionalen Endpunkt. Ebenso verbraucht die Nutzung eines multiregionalen Endpunkts kein Kontingent für den globalen Endpunkt.

In den folgenden Abschnitten wird beschrieben, wie Kontingente für die gemeinsame Herkunft für globale Endpunkte und multiregionale Endpunkte funktionieren.

Globale Endpunkte

In der folgenden Tabelle werden Messwerte für globale Endpunkte beschrieben:

Multiregionale Endpunkte

In der folgenden Tabelle werden die Messwerte für multiregionale Endpunkte wie us und eu beschrieben:

Auswirkungen auf Ihre Anwendung

• Wenn Sie eine neue Version einer Herkunft hinzufügen, ist keine neue Kontingentanfrage erforderlich. Wenn eine neue Version einer Modellreihe, z. B. eine zukünftige Sonnet-Version, auf einem öffentlichen Endpunkt veröffentlicht wird, wird das vorhandene Kontingent-Bucket der Modellreihe gemeinsam genutzt. Sie müssen keine separate Kontingenterhöhung beantragen, um die neue Version zu verwenden.

• Wenn Sie Versionen mischen, wird dasselbe Kontingent verwendet. Der Traffic, der auf mehrere Versionen derselben Modellreihe aufgeteilt wird, wird aus einem gemeinsamen Kontingent bezogen. Planen Sie die Kapazität auf Herkunftsebene, nicht auf Versionsebene.

Kontingente ansehen und verwalten

Wenn Sie Ihre aktuellen Nutzungslimits einsehen oder Kontingenterhöhungen anfordern möchten, rufen Sie in derCloud de Confiance Console die Seite Kontingente und Systemlimits auf.

Wenn Sie Kontingente filtern möchten, verwenden Sie den Modellherkunftswert von base_model, z. B. anthropic-claude-opus.

Kontingente pro Modell

Anthropic Claude-Modelle, die vor dem 26. Mai 2026 eingeführt wurden, haben Kontingente, die auf dem verwendeten Endpunkttyp basieren: regional, multiregional oder global. Das Kontingent wird in Abfragen pro Minute (Queries per minute, QPM) und Tokens pro Minute (TPM) angegeben. TPM umfasst sowohl Eingabe- als auch Ausgabetokens.

Um die Gesamtleistung des Dienstes und die zulässige Verwendung aufrechtzuerhalten, können die maximalen Kontingente je nach Konto variieren. In einigen Fällen kann der Zugriff eingeschränkt sein. Die Kontingente Ihres Projekts finden Sie in der Cloud de Confiance Console auf der Seite Kontingente und Systemlimits. Außerdem müssen die folgenden Kontingente verfügbar sein:

• Abfragen pro Minute (QPM):

  • Für regionale Endpunkte: online_prediction_requests_per_base_model
  • Für den globalen Endpunkt: global_online_prediction_requests_per_base_model
  • Für den multiregionalen Endpunkt in den USA: us_multi_region_online_prediction_requests_per_base_model
  • Für den multiregionalen Endpunkt in der EU: eu_multi_region_online_prediction_requests_per_base_model

• Tokens pro Minute (TPM):

  • Bei einigen Modellen werden Eingabe- und Ausgabetokens zusammen gezählt:
    • Regional: online_prediction_tokens_per_minute_per_base_model
    • Global: global_online_prediction_tokens_per_minute_per_base_model
  • Bei anderen Modellen werden Eingabe- und Ausgabetokens separat gezählt:
    • Eingabe-TPM:
      • Regional: online_prediction_input_tokens_per_minute_per_base_model
      • Global: global_online_prediction_input_tokens_per_minute_per_base_model
      • USA (multiregional): us_multi_region_online_prediction_input_tokens_per_minute_per_base_model
      • EU (mehrere Regionen): eu_multi_region_online_prediction_input_tokens_per_minute_per_base_model
    • Ausgabe-TPM:
      • Regional: online_prediction_output_tokens_per_minute_per_base_model
      • Global: global_online_prediction_output_tokens_per_minute_per_base_model
      • USA (multiregional): us_multi_region_online_prediction_output_tokens_per_minute_per_base_model
      • EU (multiregional): eu_multi_region_online_prediction_output_tokens_per_minute_per_base_model

  Welche Modelle Eingabe- und Ausgabetokens separat zählen, erfahren Sie unter Kontingente nach Modell und Region.

Eingabetokens

In der folgenden Liste sind die Eingabe-Tokens definiert, die auf Ihr TPM-Kontingent für Eingaben angerechnet werden können. Die von den einzelnen Modellen gezählten Eingabe-Tokens können variieren. Informationen dazu, welche Eingabetokens von einem Modell gezählt werden, finden Sie unter Kontingente nach Modell und Region.

• Eingabetokens umfasst alle Eingabetokens, einschließlich Cache-Lese- und Cache-Schreibtokens.
• Nicht im Cache gespeicherte Eingabetokens umfasst nur die Eingabetokens, die nicht aus einem Cache gelesen wurden (Cache-Lesetokens).
• Cache-Schreibtokens umfasst Tokens, die zum Erstellen oder Aktualisieren eines Cache verwendet wurden.

Kontingente nach Modell und Region

In der folgenden Tabelle sind die Standardkontingente und die unterstützte Kontextlänge für jedes Modell in jeder Region aufgeführt.

Wenn Sie eines der Kontingente für die Agent Platform erhöhen möchten, können Sie über die Cloud de Confiance Console eine Kontingenterhöhung anfordern. Weitere Informationen zu Kontingenten finden Sie unter Cloud-Kontingente – Übersicht.