Bayar sesuai penggunaan prioritas (Priority PayGo) adalah opsi konsumsi yang memberikan performa lebih konsisten daripada PayGo Standar tanpa komitmen di muka Throughput yang Disediakan.
Saat menggunakan Priority PayGo, Anda akan ditagih per penggunaan token dengan tarif yang lebih tinggi daripada Standard PayGo. Untuk mengetahui informasi tentang harga, lihat halaman harga Gemini Enterprise Agent Platform.
Kapan harus menggunakan Priority PayGo
Priority PayGo ideal untuk workload penting bisnis dengan pola traffic yang berfluktuasi atau tidak dapat diprediksi. Berikut adalah contoh kasus penggunaan:
- Asisten virtual yang ditampilkan kepada pelanggan
- Alur kerja agentic dan interaksi antar-agen
- Simulasi riset
Model dan lokasi yang didukung
Secara umum, Priority PayGo didukung di endpoint global, us,
dan eu. Namun, beberapa model (seperti model Gemini 2.5) mungkin tidak mendukung ketiga endpoint tersebut. Periksa setiap halaman model yang ditautkan dari
model Google untuk melihat endpoint yang didukung
saat menggunakan Priority PayGo.
Model berikut mendukung Priority PayGo:
gemini-4-argongemini-4-argon-cyber-permissivegemini-3.8-flash-cybergemini-3.8-flashgemini-3.7-flashgemini-3.6-flashgemini-3.5-flash-litegemini-3.1-flash-lite-imagegemini-3-pro-imagegemini-nano-banana-2.1gemini-3.1-flash-imagegemini-3.5-flashgemini-3.1-flash-litegemini-3.1-pro-previewgemini-3-flash-previewgemini-2.5-progemini-2.5-flashgemini-2.5-flash-lite
Menggunakan PayGo Prioritas
Untuk mengirim permintaan ke Gemini API menggunakan Priority PayGo,
Anda harus menyertakan header X-Vertex-AI-LLM-Shared-Request-Type dalam
permintaan Anda. Anda dapat menggunakan Priority PayGo dengan dua cara:
Gunakan kuota Throughput yang Disediakan (jika tersedia) dan alihkan ke Priority PayGo.
Hanya menggunakan PayGo Prioritas.
Contoh berikut menggunakan endpoint global. Untuk mengirim permintaan Anda ke
endpoint multi-region, ganti global dengan us atau eu. Untuk permintaan REST, Anda juga harus mengganti nama host aiplatform.googleapis.com dengan aiplatform.us.rep.googleapis.com atau aiplatform.eu.rep.googleapis.com. Untuk
mengetahui informasi selengkapnya, lihat
Endpoint multi-region.
Menggunakan PayGo Prioritas saat menggunakan Throughput yang Disediakan sebagai default
Untuk memanfaatkan kuota Throughput yang Disediakan yang tersedia sebelum menggunakan
Priority PayGo, sertakan header
X-Vertex-AI-LLM-Shared-Request-Type: priority dalam permintaan Anda, seperti yang ditunjukkan dalam
contoh berikut.
Python
Instal
pip install --upgrade google-genai
Untuk mempelajari lebih lanjut, lihat dokumentasi referensi SDK.
Tetapkan variabel lingkungan untuk menggunakan Google Gen AI SDK dengan Vertex AI:
# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values # with appropriate values for your project. export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT export GOOGLE_CLOUD_LOCATION=global export GOOGLE_GENAI_USE_ENTERPRISE=True
Lakukan inisialisasi klien GenAI Anda untuk menggunakan Priority PayGo. Setelah melakukan langkah ini, Anda tidak perlu melakukan penyesuaian lebih lanjut pada kode untuk berinteraksi dengan Gemini API menggunakan Priority PayGo di klien yang sama.
from google import genai from google.genai.types import HttpOptions client = genai.Client( vertexai=True, project='your_project_id', location='global', http_options=HttpOptions( api_version="v1", headers={ "X-Vertex-AI-LLM-Shared-Request-Type": "priority" }, ) )
REST
Setelah menyiapkan lingkungan, Anda dapat menggunakan REST untuk menguji perintah teks. Contoh berikut mengirimkan permintaan ke endpoint model penayang.
Sebelum menggunakan salah satu data permintaan, lakukan penggantian berikut:
PROJECT_ID: Project ID Anda. .MODEL_ID: ID model dari model yang ingin Anda inisialisasi Priority PayGo-nya. Untuk mengetahui daftar model yang mendukung Priority PayGo, lihat Versi model.PROMPT_TEXT: Petunjuk teks yang akan disertakan dalam perintah. JSON.
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
-H "X-Vertex-AI-LLM-Shared-Request-Type: priority" \
"https://aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/global/publishers/google/models/MODEL_ID:generateContent" -d \
$'{
"contents": {
"role": "model",
"parts": { "text": "PROMPT_TEXT" }
}
}'
Anda akan menerima respons JSON yang mirip dengan berikut ini.
{
"candidates": [
{
"content": {
"role": "model",
"parts": [
{
"text": "Response to sample request."
}
]
},
"finishReason": "STOP"
}
],
"usageMetadata": {
"promptTokenCount": 3,
"candidatesTokenCount": 900,
"totalTokenCount": 1957,
"trafficType": "ON_DEMAND_PRIORITY",
"thoughtsTokenCount": 1054
}
}
- Gunakan metode
generateContentuntuk meminta agar respons ditampilkan setelah dibuat sepenuhnya. Untuk mengurangi persepsi latensi bagi audiens manusia, streaming respons saat respons tersebut dibuat menggunakan metodestreamGenerateContent. - ID model multimodal terletak di akhir URL sebelum metode
(misalnya,
gemini-3.5-flash). Contoh ini mungkin juga mendukung model lain.
Hanya menggunakan PayGo Prioritas
Untuk hanya menggunakan Priority PayGo, sertakan header
X-Vertex-AI-LLM-Request-Type: shared dan
X-Vertex-AI-LLM-Shared-Request-Type: priority dalam permintaan Anda, seperti yang ditunjukkan dalam
contoh berikut.
Python
Instal
pip install --upgrade google-genai
Untuk mempelajari lebih lanjut, lihat dokumentasi referensi SDK.
Tetapkan variabel lingkungan untuk menggunakan Google Gen AI SDK dengan Vertex AI:
# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values # with appropriate values for your project. export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT export GOOGLE_CLOUD_LOCATION=global export GOOGLE_GENAI_USE_ENTERPRISE=True
Lakukan inisialisasi klien GenAI Anda untuk menggunakan Priority PayGo. Setelah melakukan langkah ini, Anda tidak perlu melakukan penyesuaian lebih lanjut pada kode untuk berinteraksi dengan Gemini API menggunakan Priority PayGo di klien yang sama.
from google import genai from google.genai.types import HttpOptions client = genai.Client( vertexai=True, project='your_project_id', location='global', http_options=HttpOptions( api_version="v1", headers={ "X-Vertex-AI-LLM-Request-Type": "shared", "X-Vertex-AI-LLM-Shared-Request-Type": "priority" }, ) )
REST
Sebelum menggunakan salah satu data permintaan, lakukan penggantian berikut:
PROJECT_ID: Project ID Anda. .MODEL_ID: ID model dari model yang ingin Anda inisialisasi Priority PayGo-nya. Untuk mengetahui daftar model yang mendukung Priority PayGo, lihat Versi model.PROMPT_TEXT: Petunjuk teks yang akan disertakan dalam perintah. JSON.
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
-H "X-Vertex-AI-LLM-Request-Type: shared" \
-H "X-Vertex-AI-LLM-Shared-Request-Type: priority" \
"https://aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/global/publishers/google/models/MODEL_ID:generateContent" -d \
$'{
"contents": {
"role": "model",
"parts": { "text": "PROMPT_TEXT" }
}
}'
Anda akan menerima respons JSON yang mirip dengan berikut ini.
{
"candidates": [
{
"content": {
"role": "model",
"parts": [
{
"text": "Response to sample request."
}
]
},
"finishReason": "STOP"
}
],
"usageMetadata": {
"promptTokenCount": 3,
"candidatesTokenCount": 900,
"totalTokenCount": 1957,
"trafficType": "ON_DEMAND_PRIORITY",
"thoughtsTokenCount": 1054
}
}
- Gunakan metode
generateContentuntuk meminta agar respons ditampilkan setelah dibuat sepenuhnya. Untuk mengurangi persepsi latensi bagi audiens manusia, streaming respons saat respons tersebut dibuat menggunakan metodestreamGenerateContent. - ID model multimodal terletak di akhir URL sebelum metode
(misalnya,
gemini-3.5-flash). Contoh ini mungkin juga mendukung model lain.
Memverifikasi penggunaan Priority PayGo
Anda dapat memverifikasi apakah permintaan menggunakan Priority PayGo dari jenis traffic dalam respons, seperti yang ditunjukkan dalam contoh berikut.
Python
Anda dapat memverifikasi apakah
Priority PayGo digunakan untuk permintaan dari kolom traffic_type
dalam respons. Jika permintaan Anda diproses menggunakan
Priority PayGo, kolom traffic_type akan ditetapkan ke
ON_DEMAND_PRIORITY.
sdk_http_response=HttpResponse( headers=<dict len=9> ) candidates=[Candidate( avg_logprobs=-0.539712212302468, content=Content( parts=[ Part( text="""Response to sample request. """ ), ], role='model' ), finish_reason=<FinishReason.STOP: 'STOP'> )] create_time=datetime.datetime(2025, 12, 3, 20, 32, 55, 916498, tzinfo=TzInfo(0)) model_version='gemini-2.5-flash' prompt_feedback=None response_id='response_id' usage_metadata=GenerateContentResponseUsageMetadata( candidates_token_count=1408, candidates_tokens_details=[ ModalityTokenCount( modality=<MediaModality.TEXT: 'TEXT'>, token_count=1408 ), ], prompt_token_count=5, prompt_tokens_details=[ ModalityTokenCount( modality=<MediaModality.TEXT: 'TEXT'>, token_count=5 ), ], thoughts_token_count=1356, total_token_count=2769, traffic_type=<TrafficType.ON_DEMAND_PRIORITY: 'ON_DEMAND_PRIORITY'> ) automatic_function_calling_history=[] parsed=None
REST
Anda dapat memverifikasi apakah
Priority PayGo digunakan untuk permintaan dari kolom trafficType
dalam respons. Jika permintaan Anda diproses menggunakan
Priority PayGo, kolom trafficType akan ditetapkan ke
ON_DEMAND_PRIORITY.
{ "candidates": [ { "content": { "role": "model", "parts": [ { "text": "Response to sample request." } ] }, "finishReason": "STOP" } ], "usageMetadata": { "promptTokenCount": 3, "candidatesTokenCount": 900, "totalTokenCount": 1957, "trafficType": "ON_DEMAND_PRIORITY", "thoughtsTokenCount": 1054 } }
Batas throughput
PayGo Prioritas memberikan batas throughput dasar di tingkat organisasi untuk setiap model:
- Model Gemini Pro: 10.000.000 token per menit
- Model Gemini Flash dan Flash-Lite: 50.000.000 token per menit
Batas ini langsung tersedia untuk organisasi Anda. Tidak ada periode peningkatan, dan tidak perlu membangun penggunaan berkelanjutan sebelum Anda dapat menjangkau mereka. Serupa dengan PayGo Standar, batas throughput yang ditampilkan untuk kelompok model berlaku secara independen untuk setiap model dalam kelompok tersebut.
Traffic di atas batas Anda tidak otomatis diturunkan. Jika kapasitas tersedia, Agent Platform akan terus menyalurkan traffic tersebut dengan prioritas, dan ditagih dengan tarif PayGo Prioritas. Permintaan di-downgrade ke PayGo Standar hanya jika tidak ada kapasitas cadangan untuk menayangkannya dengan prioritas, dan permintaan tersebut ditagih dengan tarif PayGo Standar.
Anda dapat memverifikasi apakah permintaan di-downgrade dari respons. Untuk
permintaan yang didowngrade ke PayGo Standar, jenis traffic ditetapkan
ke ON_DEMAND. Untuk mengetahui informasi selengkapnya, lihat
Memverifikasi penggunaan PayGo Prioritas.
Untuk mengurangi kemungkinan downgrade, lancarkan traffic setiap menit, bukan mengirim lonjakan tajam di tingkat detik. Jika workload Anda memerlukan batas yang lebih tinggi, hubungi tim penjualan Anda. Untuk workload yang memerlukan kapasitas khusus dan terjamin, lihat Throughput yang Disediakan.
Langkah berikutnya
- Untuk mempelajari lebih lanjut Throughput yang Disediakan, lihat Throughput yang Disediakan.
- Untuk mempelajari kuota dan batas Agent Platform, lihat Kuota dan batas Gemini Enterprise Agent Platform.
- Untuk mempelajari lebih lanjut Cloud de Confiance by S3NS kuota dan batas sistem, lihat dokumentasi Cloud Quotas.