Kuota untuk model Claude dari Anthropic

Halaman ini menjelaskan cara Gemini Enterprise Agent Platform mengelola kuota untuk model Anthropic Claude.

Ringkasan

Model Claude Anthropic di Agent Platform menggunakan salah satu sistem kuota berikut:

• Model yang diluncurkan setelah 26 Mei 2026: Kuota silsilah bersama.
• Model yang diluncurkan sebelum 26 Mei 2026: Kuota per model.

Kuota silsilah bersama

Endpoint global dan multi-regional untuk model Claude dari Anthropic yang diluncurkan setelah 26 Mei 2026 menggunakan kuota silsilah model bersama. Satu batas kuota digunakan bersama di semua versi model dalam silsilah model untuk lokasi tertentu.

Misalnya, jika Anda memanggil Claude Opus 4.8 di Google Cloud melalui endpoint global, semua permintaan, token input, dan token output akan dihitung dalam bucket kuota anthropic-claude-opus yang sama untuk endpoint global, terlepas dari versi Opus tertentu yang Anda panggil.

Kuota di endpoint global dan setiap endpoint multi-region adalah bucket yang terpisah. Penggunaan di endpoint global tidak menggunakan kuota di endpoint multi-region, dan demikian pula penggunaan di endpoint multi-region tidak menggunakan kuota di endpoint global.

Bagian berikut menjelaskan cara kerja kuota silsilah bersama untuk endpoint global dan endpoint multi-region.

Endpoint global

Tabel berikut menjelaskan metrik untuk endpoint global:

Endpoint multi-region

Tabel berikut menjelaskan metrik untuk endpoint multi-region, seperti us dan eu:

Implikasi untuk aplikasi Anda

• Menambahkan versi baru silsilah tidak memerlukan permintaan kuota baru. Saat versi baru silsilah model, seperti rilis Sonnet mendatang, diluncurkan di endpoint publik, versi tersebut akan berbagi bucket kuota silsilah model yang ada. Anda tidak perlu mengajukan penambahan kuota terpisah untuk menggunakan versi baru.

• Mencampur versi menggunakan bucket kuota yang sama. Pembagian traffic di beberapa versi silsilah model yang sama diambil dari satu kuota bersama. Rencanakan kapasitas di tingkat silsilah, bukan tingkat versi.

Melihat dan mengelola kuota Anda

Untuk melihat batas penggunaan saat ini atau meminta penambahan kuota, buka halaman Kuota dan batas sistem di konsolCloud de Confiance .

Untuk memfilter kuota, gunakan nilai silsilah model base_model, seperti anthropic-claude-opus.

Kuota per model

Model Anthropic Claude yang diluncurkan sebelum 26 Mei 2026 memiliki kuota berdasarkan jenis endpoint yang digunakan: regional, multi-region, atau global. Kuota ditentukan dalam kueri per menit (QPM) dan token per menit (TPM). TPM mencakup token input dan output.

Untuk mempertahankan performa layanan secara keseluruhan dan penggunaan yang dapat diterima, kuota maksimum dapat bervariasi menurut akun dan, dalam beberapa kasus, akses mungkin dibatasi. Lihat kuota project Anda di halaman Quotas & System Limits di konsol Cloud de Confiance . Anda juga harus memiliki kuota berikut:

• Kueri Per Menit (QPM):

  • Untuk endpoint regional: online_prediction_requests_per_base_model
  • Untuk endpoint global: global_online_prediction_requests_per_base_model
  • Untuk endpoint multi-region Amerika Serikat: us_multi_region_online_prediction_requests_per_base_model
  • Untuk endpoint multi-region Uni Eropa: eu_multi_region_online_prediction_requests_per_base_model

• Token Per Menit (TPM):

  • Beberapa model menghitung token input dan output secara bersamaan:
    • Regional: online_prediction_tokens_per_minute_per_base_model
    • Global: global_online_prediction_tokens_per_minute_per_base_model
  • Model lain menghitung token input dan output secara terpisah:
    • Input TPM:
      • Regional: online_prediction_input_tokens_per_minute_per_base_model
      • Global: global_online_prediction_input_tokens_per_minute_per_base_model
      • Multi-Region AS: us_multi_region_online_prediction_input_tokens_per_minute_per_base_model
      • Multi-Region Uni Eropa: eu_multi_region_online_prediction_input_tokens_per_minute_per_base_model
    • Output TPM:
      • Regional: online_prediction_output_tokens_per_minute_per_base_model
      • Global: global_online_prediction_output_tokens_per_minute_per_base_model
      • Multi-Region AS: us_multi_region_online_prediction_output_tokens_per_minute_per_base_model
      • Multi-Region Uni Eropa: eu_multi_region_online_prediction_output_tokens_per_minute_per_base_model

  Untuk melihat model mana yang menghitung token input dan output secara terpisah, lihat Kuota menurut model dan region.

Token input

Daftar berikut menentukan token input yang dapat diperhitungkan dalam kuota TPM input Anda. Token input yang dihitung setiap model dapat bervariasi. Untuk melihat token input mana yang dihitung model, lihat Kuota menurut model dan region.

• Token input mencakup semua token input, termasuk token baca cache dan tulis cache.
• Token input yang tidak di-cache hanya mencakup token input yang tidak dibaca dari cache (token baca cache).
• Token tulis cache mencakup token yang digunakan untuk membuat atau memperbarui cache.

Kuota menurut model dan wilayah

Tabel berikut menunjukkan kuota default dan panjang konteks yang didukung untuk setiap model di setiap region.

Jika ingin meningkatkan kuota untuk Agent Platform, Anda dapat menggunakan konsol Cloud de Confiance untuk meminta penambahan kuota. Untuk mempelajari lebih lanjut kuota, lihat Ringkasan Kuota Cloud.