Le tabelle seguenti mostrano i modelli che supportano il throughput riservato, il throughput per ogni unità di scalabilità dell'AI generativa (GSU) e i tassi di consumo per ogni modello.
Modelli Google
Il throughput riservato supporta solo i modelli che chiami direttamente dal tuo progetto utilizzando l'ID modello specifico e non un alias del modello. Per utilizzare il throughput riservato per effettuare chiamate API a un modello, devi utilizzare l'ID versione del modello specifico (ad esempio gemini-2.0-flash-001) e non un alias della versione del modello.
Sebbene il throughput riservato garantisca la capacità per le richieste del modello, non include né bypassa le quote per altri strumenti che potresti utilizzare, come il grounding. A seconda delle dimensioni del tuo workload, potresti dover richiedere una quota aggiuntiva per questi strumenti separatamente.
Inoltre, il throughput riservato non supporta i modelli chiamati da altri prodotti Gemini Enterprise Agent Platform, come Vertex AI Agents e Agent Search. Ad esempio, se effettui chiamate API a Gemini 3.5 Flash mentre utilizzi la ricerca dell'agente, l'ordine di Provisioned Throughput per Gemini 3.5 Flash non garantirà le chiamate effettuate dalla ricerca dell'agente.
Il Throughput riservato non supporta le chiamate di previsioni in batch.
La tabella seguente mostra il throughput, l'incremento di acquisto e i tassi di burndown per i modelli Google che supportano il throughput riservato. Il throughput al secondo è definito come l'input del prompt e l'output generato in tutte le richieste al secondo.
Per scoprire quanti token richiede il tuo workload, fai riferimento al tokenizzatore SDK o all'API countTokens.
| Modello | Throughput al secondo per GSU | Unità | Incremento minimo di acquisto di GSU | Tassi di burn down |
|---|---|---|---|---|
|
Ultima versione supportata: |
260 | Token | 1 |
1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di video di input = 1 token 1 token audio di input = 1 token 1 token di memorizzazione nella cache del testo di input = 0,05 token 1 token di memorizzazione nella cache delle immagini di input = 0,05 token 1 token di memorizzazione nella cache dei video di input = 0,05 token 1 token di memorizzazione nella cache dell'audio di input = 0,05 token 1 token di testo di risposta/ragionamento di output = 5 token |
|
Gemini 4 Argon Cyber Permissive Ultima versione supportata: |
260 | Token | 1 |
1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di video di input = 1 token 1 token audio di input = 1 token 1 token di memorizzazione nella cache del testo di input = 0,05 token 1 token di memorizzazione nella cache delle immagini di input = 0,05 token 1 token di memorizzazione nella cache dei video di input = 0,05 token 1 token di memorizzazione nella cache dell'audio di input = 0,05 token 1 token di testo di risposta/ragionamento di output = 5 token |
|
Ultima versione supportata: |
1350 | Token | 1 |
1 token di testo di input = 1 token 1 token audio di input = 4 token 1 token di immagine / video di input = 1,4 token 1 token di testo di output = 6 token 1 token audio di output = 16 token 1 token video di output = 1,4 token |
|
Ultima versione supportata: |
675 | Token | 1 |
1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di video di input = 1 token 1 token di audio di input = 1 token 1 token di memorizzazione nella cache del testo di input = 0,1 token 1 token di memorizzazione nella cache dell'immagine di input = 0,1 token 1 token di memorizzazione nella cache del video di input = 0,1 token 1 token di memorizzazione nella cache dell'audio di input = 0,1 token 1 token di risposta di testo di output = 5 token |
|
Ultima versione supportata: |
675 | Token | 1 |
1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di video di input = 1 token 1 token di audio di input = 1 token 1 token di memorizzazione nella cache del testo di input = 0,1 token 1 token di memorizzazione nella cache dell'immagine di input = 0,1 token 1 token di memorizzazione nella cache del video di input = 0,1 token 1 token di memorizzazione nella cache dell'audio di input = 0,1 token 1 token di risposta di testo di output = 5 token |
|
Ultima versione supportata: |
670 | Token | 1 |
1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di video di input = 1 token 1 token di audio di input = 1 token 1 token di testo di output (risposta e ragionamento) = 6 token 1 token di video di output = 12 token |
|
Ultima versione supportata: |
675 | Token | 1 |
1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di video di input = 1 token 1 token di audio di input = 1 token 1 token di memorizzazione nella cache del testo di input = 0,1 token 1 token di memorizzazione nella cache dell'immagine di input = 0,1 token 1 token di memorizzazione nella cache del video di input = 0,1 token 1 token di memorizzazione nella cache dell'audio di input = 0,1 token 1 token di risposta di testo di output = 5 token |
|
Ultima versione supportata: |
675 | Token | 1 |
1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di video di input = 1 token 1 token di audio di input = 1 token 1 token di memorizzazione nella cache del testo di input = 0,1 token 1 token di memorizzazione nella cache dell'immagine di input = 0,1 token 1 token di memorizzazione nella cache del video di input = 0,1 token 1 token di memorizzazione nella cache dell'audio di input = 0,1 token 1 token di risposta di testo di output = 5 token |
|
Ultima versione supportata: |
3360 | Token | 1 |
1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di video di input = 1 token 1 token di audio di input = 1 token 1 token di memorizzazione nella cache del testo di input = 0,1 token 1 token di memorizzazione nella cache dell'immagine di input = 0,1 token 1 token di memorizzazione nella cache del video di input = 0,1 token 1 token di memorizzazione nella cache dell'audio di input = 0,1 token 1 token di risposta di testo di output = 9 token |
|
Gemini 3.1 Flash-Lite Image (Nano Banana 2 Lite) Ultima versione supportata: |
4030 | Token | 1 |
1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di video di input = 1 token 1 token di testo di risposta di output = 6 token 1 token di testo di ragionamento di output = 6 token 1 token di immagine di output = 120 token |
|
Ultima versione supportata: |
500 | Token | 1 |
1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di video di input = 1 token 1 token di testo di risposta di output = 6 token 1 token di testo di ragionamento di output = 6 token 1 token di immagine di output = 60 token |
|
Ultima versione supportata: |
675 | Token | 1 |
1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di video di input = 1 token 1 token di memorizzazione nella cache del testo di input = 0,1 token 1 token di memorizzazione nella cache dell'immagine di input = 0,1 token 1 token di memorizzazione nella cache del video di input = 0,1 token 1 token di testo di risposta di output = 5 token 1 token di testo di ragionamento di output = 5 token 1 token di immagine di output = 20 token |
|
Ultima versione supportata: |
2015 | Token | 1 |
1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di video di input = 1 token 1 token di testo di risposta di output = 6 token 1 token di testo di ragionamento di output = 6 token 1 token di immagine di output = 120 token |
|
Ultima versione supportata: |
675 | Token | 1 |
1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di video di input = 1 token 1 token di audio di input = 1 token 1 token di memorizzazione nella cache del testo di input = 0,1 token 1 token di memorizzazione nella cache dell'immagine di input = 0,1 token 1 token di memorizzazione nella cache del video di input = 0,1 token 1 token di memorizzazione nella cache dell'audio di input = 0,1 token 1 token di testo di output = 6 token |
|
Ultima versione supportata: |
4030 | Token | 1 |
1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di video di input = 1 token 1 token di audio di input = 2 token 1 token di memorizzazione nella cache del testo di input = 0,1 token 1 token di memorizzazione nella cache dell'immagine di input = 0,1 token 1 token di memorizzazione nella cache del video di input = 0,1 token 1 token di memorizzazione nella cache dell'audio di input = 0,2 token 1 token di testo di risposta di output = 6 token 1 token di testo di ragionamento di output = 6 token |
|
Ultima versione supportata: |
500 | Token | 1 |
Meno di o uguale a 200.000 token di input: 1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di video di input = 1 token 1 token di audio di input = 1 token 1 token di cache di input = 0,1 token 1 token di testo di risposta di output = 6 token 1 token di testo di ragionamento di output = 6 token Più di 200.000 token di input: 1 token di testo di input = 2 token 1 token di immagine di input = 2 token 1 token di video di input = 2 token 1 token di audio di input = 2 token 1 token di cache di input = 0,2 token 1 token di testo di risposta di output = 9 token 1 token di testo di ragionamento di output = 9 token |
|
Ultima versione supportata: |
2015 | Token | 1 |
1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di video di input = 1 token 1 token di audio di input = 2 token 1 token di memorizzazione nella cache di testo, immagine e video di input = 0,1 token 1 token di memorizzazione nella cache di audio di input = 0,2 token 1 token di testo di risposta di output = 6 token 1 token di testo di ragionamento di output = 6 token |
|
Ultima versione supportata: |
650 | Token | 1 |
Fino a 200.000 token di input: 1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di video di input = 1 token 1 token di audio di input = 1 token 1 token di testo di risposta di output = 8 token 1 token di testo di ragionamento di output = 8 token Più di 200.000 token di input: 1 token di testo di input = 2 token 1 token di immagine di input = 2 token 1 token di video di input = 2 token 1 token di audio di input = 2 token 1 token di testo di risposta di output = 12 token 1 token di testo di ragionamento di output = 12 token |
|
Ultima versione supportata: |
2690 | Token | 1 |
1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di testo di output = 9 token 1 token di immagine di output = 100 token |
|
Ultima versione supportata: |
2690 | Token | 1 |
1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di video di input = 1 token 1 token di audio di input = 4 token 1 token di testo di risposta di output = 9 token 1 token di testo di ragionamento di output = 9 token |
|
Ultima versione supportata (GA): Ultima versione supportata (anteprima): |
8070 | Token | 1 |
1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di video di input = 1 token 1 token di audio di input = 3 token 1 token di testo di risposta di output = 4 token 1 token di testo di ragionamento di output = 4 token |
|
Gemini 2.5 Flash con audio nativo dell'API Gemini Live Ultima versione supportata: |
1620 | Token | 1 |
1 token di testo di input = 1 token 1 token audio di input = 6 token 1 token video di input = 6 token 1 token di immagine di input = 6 token 1 token di memoria della sessione di input = 1 token 1 token di testo di output = 4 token 1 token audio di output = 24 token |
|
Ultima versione supportata: |
0,02 | Immagini | 1 |
1 immagine al secondo = 0,02 token |
Ultima versione supportata: |
0,0350 | Secondi di video (720p) | 1 | 1 secondo di video di output (720p) = 1 secondo di video di output |
| Secondi di video + audio (720p) | 1 | 1 secondo di video e audio di output (720p) = 1,75 secondi di video di output | ||
| Secondi di video (1080p) | 1 | 1 secondo di video di output (1080p) = 1,75 secondi di video di output (720p) | ||
| Secondi di video e audio (1080p) | 1 | 1 secondo di video e audio di output (1080p) = 2,33 secondi di video di output (720p) | ||
Ultima versione supportata: |
0,0040 | Secondi di video | 1 | 1 secondo di video di output = 1 secondo di video di output |
| Secondi di video + audio | 1 | 1 secondo di video + audio di output = 2 secondi di video di output | ||
Ultima versione supportata: |
0,01 | Secondi di video (720p) | 1 | 1 secondo di video di output (720p) = 1 secondo di video di output |
| Secondi di video + audio (720p) | 1 | 1 secondo di video + audio di output (720p) = 1,30 secondi di video di output | ||
| Secondi di video (1080p) | 1 | 1 secondo di video di output (1080p) = 1,30 secondi di video di output (720p) | ||
| Secondi di video e audio (1080p) | 1 | 1 secondo di video + audio di output (1080p) = 1,60 secondi di video di output (720p) | ||
| Secondi di video (4K) | 1 | 1 secondo di video di output (4K) = 3,40 secondi di video di output (720p) | ||
| Secondi di video e audio (4K) | 1 | 1 secondo di video e audio di output (4K) = 4 secondi di video di output (720p) |
Per informazioni sulle funzionalità di un modello e sui limiti di input o output, consulta la documentazione del modello.
Puoi eseguire l'upgrade ai nuovi modelli non appena sono disponibili. Per informazioni sulla disponibilità dei modelli e sulle date di ritiro, consulta Modelli Google.
Per saperne di più sulle località supportate, consulta Località disponibili.
Modelli di partner
La tabella seguente mostra il throughput, l'incremento di acquisto e i tassi di burndown per i modelli partner che supportano il throughput riservato. I modelli Claude vengono misurati in token al secondo, ovvero il totale dei token di input e output di tutte le richieste al secondo.
| Modello | Throughput per GSU (token/sec) | Acquisto minimo di GSU | Incremento dell'acquisto di GSU | Tassi di burn down |
|---|---|---|---|---|
| Claude Haiku 5.5 di Anthropic su Google Cloud | 10.417 | 1 | 1 | Fino a 100.000 token di input: 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura nella cache di 5 m = 1,25 token 1 token di scrittura nella cache di 1 h = 2 token 1 token di successo della cache = 0,1 token Più di 100.000 token di input: 1 token di input = 5 token 1 token di output = 25 token 1 token di scrittura nella cache di 5 m = 6,25 token 1 token di scrittura nella cache di 1 h = 10 token 1 token di successo della cache = 0,5 token |
| Claude Sonnet 5.5 di Anthropic su Google Cloud | 525 | 1 | 1 | 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura nella cache di 5 m = 1,25 token 1 token di scrittura nella cache di 1 h = 2 token 1 token di successo della cache = 0,05 token |
| Claude Opus 5.5 di Anthropic su Google Cloud | 261 | 1 | 1 | 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura nella cache di 5 m = 1,25 token 1 token di scrittura nella cache di 1 h = 2 token 1 token di successo della cache = 0,05 token |
| Claude Fable 5.1 di Anthropic su Google Cloud | 105 | 1 | 1 | 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura nella cache di 5 m = 1,25 token 1 token di scrittura nella cache di 1 h = 2 token 1 token di successo della cache = 0,025 token |
| Claude Opus 5 di Anthropic su Google Cloud | 210 | 1 | 1 | 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura della cache di 5 m = 1,25 token 1 token di scrittura della cache di 1 h = 2 token 1 token di successo della cache = 0,1 token |
| Claude Sonnet 5 di Anthropic su Google Cloud | 350 | 25 | 1 | 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura nella cache di 5 m = 1,25 token 1 token di scrittura nella cache di 1 h = 2 token 1 successo della cache token = 0,1 token |
| Claude Fable 5 di Anthropic su Google Cloud | 105 | 1 | 1 | 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura nella cache di 5 m = 1,25 token 1 token di scrittura nella cache di 1 h = 2 token 1 successo della cache token = 0,1 token |
| Claude Opus 4.8 di Anthropic su Google Cloud | 210 | 35 | 1 | 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura nella cache di 5 m = 1,25 token 1 token di scrittura nella cache di 1 h = 2 token 1 successo della cache token = 0,1 token |
| Claude Opus 4.7 di Anthropic su Google Cloud | 210 | 35 | 1 | 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura nella cache di 5 m = 1,25 token 1 token di scrittura nella cache di 1 h = 2 token 1 successo della cache token = 0,1 token |
| Claude Sonnet 4.6 di Anthropic su Google Cloud | 350 | 25 | 1 | 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura nella cache di 5 m = 1,25 token 1 token di scrittura nella cache di 1 h = 2 token 1 successo della cache token = 0,1 token |
| Claude Opus 4.6 di Anthropic su Google Cloud | 210 | 35 | 1 | 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura nella cache di 5 m = 1,25 token 1 token di scrittura nella cache di 1 h = 2 token 1 successo della cache token = 0,1 token |
| Claude Opus 4.5 di Anthropic su Google Cloud | 210 | 35 | 1 | 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura nella cache di 5 m = 1,25 token 1 token di scrittura nella cache di 1 h = 2 token 1 successo della cache token = 0,1 token |
| Claude Sonnet 4.5 di Anthropic su Google Cloud | 350 | 25 | 1 | Meno di 200.000 token di input: 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura nella cache 5m = 1,25 token 1 token di scrittura nella cache 1h = 2 token 1 token di successo della cache = 0,1 token Maggiore o uguale a 200.000 token di input: 1 token di input = 2 token 1 token di output = 7,5 token 1 token di scrittura nella cache 5m = 2,5 token 1 token di scrittura nella cache 1h = 4 token 1 token di successo della cache = 0,2 token |
| Claude Haiku 4.5 di Anthropic su Google Cloud | 1050 | 8 | 1 | Meno di 200.000 token di input: 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura nella cache di 5 m = 1,25 token 1 token di scrittura nella cache di 1 h = 2 token 1 successo della cache = 0,1 token |
| Claude 3.7 Sonnet di Anthropic su Google Cloud (deprecato) | 350 | 25 | 1 | 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura della cache da 5 m = 1,25 token 1 token di successo della cache = 0,1 token |
| Claude 3.5 Sonnet v2 di Anthropic su Google Cloud (deprecato) | 350 | 25 | 1 | 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura della cache da 5 m = 1,25 token 1 token di successo della cache = 0,1 token |
| Claude 3.5 Haiku di Anthropic su Google Cloud (deprecato) | 2000 | 10 | 1 | 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura nella cache di 5 m = 1,25 token 1 token di scrittura nella cache di 1 h = 2 token 1 successo della cache token = 0,1 token |
| Claude 3 Opus di Anthropic su Google Cloud | 70 | 35 | 1 | 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura della cache da 5 m = 1,25 token 1 token di successo della cache = 0,1 token |
| Claude 3 Haiku di Anthropic su Google Cloud (deprecato) | 4200 | 5 | 1 | 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura nella cache di 5 m = 1,25 token 1 token di scrittura nella cache di 1 h = 2 token 1 successo della cache token = 0,1 token |
| Claude 3.5 Sonnet di Anthropic su Google Cloud (deprecato) | 350 | 25 | 1 | 1 token di input = 1 token 1 token di output = 5 token 1 token di scrittura della cache da 5 m = 1,25 token 1 token di successo della cache = 0,1 token |
Per informazioni sulle località supportate, consulta Disponibilità delle regioni di Anthropic Claude. Per ordinare il throughput riservato per i modelli Anthropic, contatta il tuo rappresentante dell'accountCloud de Confiance by S3NS .
Modelli aperti
La tabella seguente mostra il throughput, l'incremento di acquisto e i tassi di burndown per i modelli aperti che supportano il throughput riservato.
| Modello | Throughput per GSU (token/sec) | Acquisto minimo di GSU | Incremento dell'acquisto di GSU | Tassi di burn down |
|---|---|---|---|---|
|
Ultima versione supportata: |
3360 | 1 | 1 | 1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di testo di output = 4 token |
|
Ultima versione supportata: |
1680 | 1 | 1 | 1 token di testo di input = 1 token 1 token di testo di output = 4 token |
|
Ultima versione supportata: Il supporto del throughput riservato per questo modello viene fatturato con gli stessi SKU dei modelli Google, ma è soggetto alle funzionalità dei modelli aperti. |
6725 | 1 | 1 | 1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di testo di output = 4 token |
|
Ultima versione supportata: |
1680 | 1 | 1 | 1 token di testo di input = 1 token 1 token di testo di output = 4 token |
|
Ultima versione supportata: |
1400 | 1 | 1 | 1 token di testo di input = 1 token 1 token di testo di output = 1 token |
|
Ultima versione supportata: |
2800 | 1 | 1 | 1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di testo di output = 4 token |
|
Ultima versione supportata: |
4035 | 1 | 1 | 1 token di testo di input = 1 token 1 token di immagine di input = 1 token 1 token di testo di output = 3 token |
|
Ultima versione supportata: |
3360 | 1 | 1 | 1 token di testo di input = 1 token 1 token di testo di output = 4 token |
|
Ultima versione supportata: |
11.205 | 1 | 1 | 1 token di testo di input = 1 token 1 token di testo di output = 4 token |
|
Ultima versione supportata: |
14.405 | 1 | 1 | 1 token di testo di input = 1 token 1 token di testo di output = 4 token |
|
Ultima versione supportata: |
4035 | 1 | 1 | 1 token di testo di input = 1 token 1 token di testo di output = 4 token |
|
Ultima versione supportata: |
1010 | 1 | 1 | 1 token di testo di input = 1 token 1 token di testo di output = 4 token |
|
Ultima versione supportata: |
6725 | 1 | 1 | 1 token di testo di input = 1 token 1 token di testo di output = 8 token |
|
Ultima versione supportata: |
6725 | 1 | 1 | 1 token di testo di input = 1 token 1 token di testo di output = 8 token |
|
Ultima versione supportata: |
1685 | 1 | 1 | 1 token di testo di input = 1 token 1 token di testo di output = 4 token |
|
Ultima versione supportata: |
1010 | 1 | 1 | 1 token di testo di input = 1 token 1 token di testo di output = 3 token |
Funzionalità disponibili per i modelli Google e open source
La tabella seguente elenca le funzionalità disponibili con il throughput riservato per i modelli Google e i modelli open source:
| Capacità | Modelli Google | Modelli aperti (anteprima) |
|---|---|---|
| Ordina tramite la console Cloud de Confiance | Sì | Sì |
| Supporta gli endpoint globali | Consulta Supporto dei modelli di endpoint globali. | Consulta Supporto dei modelli di endpoint globali. |
| Supporta i modelli con fine-tuning supervisionato | Sì | No |
| Supporta l'utilizzo delle chiavi API | Sì | No |
| Integrazione con la memorizzazione nella cache del contesto implicito | Sì | Non applicabile |
| Integrazione con la memorizzazione nella cache del contesto esplicito | Sì | Non applicabile |
| elaborazione ML | Disponibile in regioni specifiche. Per maggiori dettagli, consulta Throughput riservato a zona singola. | Non applicabile |
| Termini dell'ordine disponibili | 1 settimana, 1 mese, 3 mesi e 1 anno | 1 settimana, 1 mese, 3 mesi e 1 anno |
| Modifica l'ordine dalla console | Sì | No |
| Stati dell'ordine: in attesa di revisione, approvato, attivo, scaduto | Sì | Sì |
| Per impostazione predefinita, le eccedenze vengono trasferite al pagamento a consumo | Sì | Sì |
| Controllo dell'intestazione dell'API: utilizza "dedicated" per utilizzare solo il throughput riservato o "shared" per utilizzare solo il pagamento a consumo | Sì | Sì |
| Monitoring: metriche, dashboard e avvisi | Sì | Sì |
Supporto dei modelli di endpoint globali
Il throughput riservato supporta l'endpoint globale per i modelli Google e i modelli aperti.
Il traffico che supera la quota di throughput riservato utilizza l'endpoint globale per impostazione predefinita.
Per assegnare il throughput riservato all'endpoint globale di un modello,
seleziona global come regione quando effettui un ordine di throughput riservato.
Modelli Google con supporto degli endpoint globali
La tabella seguente elenca i modelli Google per i quali il throughput riservato supporta l'endpoint globale:
| Modello | Ultima versione del modello supportata |
|---|---|
| Gemini 4 Argon | gemini-4-argon |
| Gemini 4 Argon Cyber Permissive | gemini-4-argon-cyber-permissive |
| Gemini 3.8 Flash Cyber | gemini-3.8-flash-cyber |
| Gemini 3.8 Flash | gemini-3.8-flash |
| Gemini Omni 1.1 Flash anteprima | gemini-omni-1.1-flash-preview |
| Gemini 3.7 Flash | gemini-3.7-flash |
| Gemini 3.6 Flash | gemini-3.6-flash |
| Gemini 3.5 Flash-Lite | gemini-3.5-flash-lite |
| Gemini 3.1 Flash-Lite Image (Nano Banana 2 Lite) | gemini-3.1-flash-lite-image |
| Gemini 3 Pro Image | gemini-3-pro-image |
| Gemini Nano Banana 2.1 | gemini-nano-banana-2.1 |
| Gemini 3.1 Flash Image | gemini-3.1-flash-image |
| Gemini 3.5 Flash | gemini-3.5-flash |
| Gemini 3.1 Flash-Lite | gemini-3.1-flash-lite |
| Gemini 3.1 Pro anteprima | gemini-3.1-pro-preview |
| Gemini 3 Flash (anteprima) | gemini-3-flash-preview |
| Gemini 2.5 Pro | gemini-2.5-pro |
| Gemini 2.5 Flash Image | gemini-2.5-flash-image |
| Gemini 2.5 Flash | gemini-2.5-flash |
| Gemini 2.5 Flash-Lite | gemini-2.5-flash-lite |
Modelli aperti con supporto degli endpoint globali
La tabella seguente elenca i modelli aperti per i quali il throughput riservato supporta l'endpoint globale:
| Modello | Ultima versione del modello supportata |
|---|---|
| DeepSeek-OCR | deepseek-ocr-maas |
| DeepSeek-V3.2 | deepseek-v3.2-maas |
| Kimi K2 Thinking | kimi-k2-thinking-maas |
| MiniMax M2 | minimax-m2-maas |
| OpenAI gpt-oss 120B | gpt-oss-120b-maas |
| Qwen3-Next-80B Instruct | qwen3-next-80b-a3b-instruct-maas |
| Qwen3-Next-80B Thinking | qwen3-next-80b-a3b-thinking-maas |
| GLM 4.7 | glm-4.7-maas |
| GLM 5 | glm-5-maas |
Supporto dei modelli con fine-tuning supervisionato
Quanto segue è supportato per i modelli Google che supportano il fine-tuning supervisionato:
Il throughput riservato può essere applicato sia ai modelli di base sia alle versioni con fine-tuning supervisionato di questi modelli di base.
Gli endpoint dei modelli con fine-tuning supervisionato e il corrispondente modello di base vengono conteggiati ai fini della stessa quota di throughput riservato.
Ad esempio, il throughput riservato acquistato per
gemini-3.1-flash-liteper un progetto specifico dà la priorità alle richieste effettuate dalle versioni con fine-tuning supervisionato digemini-3.1-flash-litecreate all'interno di quel progetto. Utilizza l'intestazione appropriata per controllare il comportamento del traffico.
A partire da Gemini 3, i tassi di consumo per l'inferenza dei modelli ottimizzati sono più elevati rispetto all'inferenza dei modelli di base. Questo premium è proporzionale al premium per l'inferenza ottimizzata per il modello. Ad esempio, se l'inferenza ottimizzata costa il 50% in più rispetto all'inferenza del modello di base, il tasso di consumo per l'inferenza ottimizzata sarà superiore del 50%. In questo caso, se l'inferenza del modello di base di 1 token di testo di input era 1 token, l'inferenza del modello ottimizzato di 1 token di testo di input sarebbe 1,5 token.
Prima di Gemini 3, gli endpoint dei modelli con fine-tuning supervisionato e il modello di base corrispondente vengono conteggiati ai fini della stessa quota di throughput riservato con gli stessi tassi di consumo.