Nesta seção, explicamos os conceitos de unidade de escala de IA generativa (GSU) e taxas de burndown. A capacidade de processamento provisionada é calculada e precificada usando unidades de escala de IA generativa (GSUs) e taxas de burndown.
GSU e taxa de burndown
Uma unidade de escala de IA generativa (GSU, na sigla em inglês) é uma medida de capacidade de processamento para comandos e respostas. Esse valor especifica a capacidade de provisionamento de um modelo.
Uma taxa de burndown é uma proporção que converte as unidades de entrada e saída (como tokens, caracteres ou imagens) em tokens de entrada por segundo, caracteres de entrada por segundo ou imagens de entrada por segundo, respectivamente. Essa proporção representa a capacidade de processamento e é usada para produzir uma unidade padrão em todos os modelos.
Modelos diferentes usam quantidades diferentes de capacidade de processamento. Para informações sobre o valor mínimo de compra e os incrementos de GSU para cada modelo, consulte Modelos e taxas de burndown compatíveis neste documento.
Esta equação demonstra como a capacidade de processamento é calculada:
inputs_per_query = inputs_across_modalities_converted_using_burndown_rates
outputs_per_query = outputs_across_modalities_converted_using_burndown_rates
throughput_per_second = (inputs_per_query + outputs_per_query) * queries_per_second
A capacidade de processamento calculada por segundo determina quantas GSUs você precisa para seu caso de uso.
Considerações importantes
Para ajudar a planejar suas necessidades de capacidade de processamento provisionada, analise as seguintes considerações importantes:
As solicitações são priorizadas.
Os clientes da Capacidade de Processamento Provisionada são priorizados e atendidos antes das solicitações sob demanda.
A capacidade de processamento não se acumula.
A capacidade de processamento não utilizada não se acumula nem é transferida para o mês seguinte.
A capacidade de processamento provisionada é medida em tokens, caracteres ou imagens por segundo.
A capacidade de processamento provisionada não é medida apenas com base em consultas por minuto (QPM). Ela é medida com base no tamanho da consulta para seu caso de uso, no tamanho da resposta e no QPM.
A Capacidade de Processamento Provisionada é específica para um projeto, região, modelo e versão.
A capacidade de processamento provisionada é atribuída a uma combinação específica de projeto, região, modelo e versão. O mesmo modelo chamado de uma região diferente não será contabilizado na cota de Capacidade de Processamento Provisionada e não será priorizado em relação às solicitações on demand.
O armazenamento em cache de contexto
A Capacidade de Processamento Provisionada é compatível com armazenamento em cache implícito e armazenamento em cache explícito. Para informações sobre modelos e limites compatíveis, consulte Armazenamento em cache de contexto.
O armazenamento em cache implícito é ativado em todos os projetos do Cloud de Confiance by S3NS por padrão. O armazenamento em cache implícito reduz o custo e a latência durante as ocorrências em cache. Os tokens em cache são cobrados com um desconto em relação aos tokens de entrada padrão quando ocorre uma ocorrência em cache. O armazenamento em cache explícito oferece mais controle e garante um desconto quando os caches explícitos são referenciados. Para saber como criar um cache de contexto para armazenamento em cache explícito, consulte Criar um cache de contexto. Para conferir os descontos específicos do modelo, consulte Visão geral do armazenamento em cache de contexto. Para a capacidade de processamento provisionada, o desconto é aplicado por uma taxa de burndown reduzida.
Por exemplo, o Gemini 2.5 Pro tem as seguintes taxas de consumo para tokens de texto de entrada e tokens em cache:
1 token de texto de entrada = 1 token
1 token de texto em cache de entrada = 0,1 token
O envio de 1.000 tokens de entrada para esse modelo resulta em um burndown da sua Capacidade de Processamento Provisionada de 1.000 tokens de entrada por segundo. No entanto, se você enviar 1.000 tokens armazenados em cache para o Gemini 2.5 Pro, isso vai resultar em uma redução da sua Capacidade de Processamento Provisionada em 100 tokens por segundo.
Isso pode levar a uma maior capacidade de processamento para consultas semelhantes em que os tokens não são armazenados em cache e o desconto de cache não é aplicado.
Para conferir as taxas de burndown dos modelos compatíveis com a Capacidade de Processamento Provisionada, consulte Modelos compatíveis e taxas de burndown.
Entender o burndown da API Gemini Live
A Capacidade de Processamento Provisionada é compatível com o Gemini 2.5 Flash com a API Gemini Live. Para entender como calcular o burndown ao usar a API Gemini Live, consulte Como estimar os requisitos de GSU.
Para mais informações sobre como usar a capacidade de processamento provisionada para o Gemini 2.5 Flash com a API Gemini Live, consulte Capacidade de processamento provisionada para a API Gemini Live.
Exemplo de estimativa das suas necessidades de capacidade de processamento provisionada
Para estimar suas necessidades de capacidade de processamento provisionada, use a ferramenta de estimativa no console do Cloud de Confiance . O exemplo a seguir ilustra o processo de estimativa da quantidade de capacidade de processamento provisionada para o modelo. A região não é considerada nos cálculos de estimativa.
Esta tabela mostra as taxas de consumo do Gemini 3.6 Flash que você pode usar para seguir o exemplo.
| Modelo | Capacidade de processamento por GSU | Unidades | Incremento mínimo de compra de GSU | Taxas de burndown |
|---|---|---|---|---|
| Gemini 3.6 Flash | 675 | Tokens | 1 |
1 token de texto de entrada = 1 token 1 token de imagem de entrada = 1 token 1 token de vídeo de entrada = 1 token 1 token de áudio de entrada = 1 token 1 token de armazenamento em cache de texto de entrada = 0,1 token 1 token de armazenamento em cache de imagem de entrada = 0,1 token 1 token de armazenamento em cache de vídeo de entrada = 0,1 token 1 token de armazenamento em cache de áudio de entrada = 0,1 token 1 token de resposta de texto de saída = 5 tokens |
Reúna os requisitos. Neste exemplo, seu requisito é verificar se é possível oferecer suporte a 10 consultas por segundo (QPS) de uma consulta com uma entrada de 1.000 tokens de texto e 500 tokens de áudio para receber uma saída de 300 tokens de resposta de texto usando
gemini-3.6-flash.Para calcular a capacidade de processamento do seu caso de uso específico, use as taxas de burndown do modelo selecionado.
Calcule sua capacidade de processamento. Multiplique as entradas pelas taxas de burndown para chegar ao total de tokens de entrada:
$\text{1.000} \times (\text{1 token por token de texto de entrada}) + \text{500} \times (\text{1 token por token de áudio de entrada}) = \text{1.500}$ tokens de entrada ajustados por burndown por consulta.
Multiplique as saídas pelas taxas de burndown para chegar ao total de tokens de saída:
$\text{300} \times (\text{5 tokens por token de resposta de texto de saída}) = \text{1.500}$ tokens de saída ajustados por burndown por consulta.
Some os totais:
$\text{1.500 tokens de entrada ajustados para burndown} + \text{1.500 tokens de saída ajustados para burndown} = \text{3.000}$ tokens totais por consulta.
Multiplique o número total de tokens pelo QPS para chegar à capacidade total por segundo:
$\text{3.000 tokens no total por consulta} \times \text{10 QPS} = \text{30.000}$ tokens no total por segundo.
Calcule as GSUs necessárias. As GSUs são o total de tokens por segundo dividido pela capacidade de processamento por segundo por GSU da tabela de burndown:
$\text{30.000 tokens totais por segundo} \div \text{675 de capacidade de processamento por segundo por GSU} = \text{44,44}$ GSUs.
O incremento mínimo de compra de GSU para
gemini-3.6-flashé 1. Portanto, você vai precisar de 45 GSUs para garantir sua carga de trabalho.