計算佈建輸送量需求

本節說明生成式 AI 擴充單元 (GSU) 和消耗率的概念。佈建輸送量的計算和定價方式，是依據生成式 AI 擴充單元 (GSU) 和消耗率。

GSU 和消耗率

生成式 AI 擴充單元 (GSU) 是提示和回覆的處理量測量單位。這個數量會指定要為模型佈建多少處理量。

消耗率是將輸入和輸出單位 (例如詞元、字元或圖片) 分別轉換為每秒輸入詞元數、每秒輸入字元數或每秒輸入圖片數的比率。這個比率代表處理量，用於產生各模型的標準單位。

不同模型使用的處理量不同。如要瞭解各模型的最低 GSU 購買金額和增量，請參閱本文的「支援的模型和消耗率」一節。

以下公式說明如何計算處理量：

inputs_per_query = inputs_across_modalities_converted_using_burndown_rates
outputs_per_query = outputs_across_modalities_converted_using_burndown_rates

throughput_per_second = (inputs_per_query + outputs_per_query) * queries_per_second

計算出的每秒處理量會決定您的用途需要多少 GSU。

重要事項

為協助您規劃佈建輸送量需求，請詳閱下列重要事項：

要求會依優先順序處理。

佈建輸送量客戶會優先獲得服務，然後才處理隨選要求。
處理量無法累計。

未使用的處理量不會累積或轉移到下個月。
佈建輸送量的測量單位為每秒詞元數、每秒字元數或每秒圖片數。

佈建輸送量並非僅以每分鐘查詢數 (QPM) 衡量，這項指標的計算依據包括用途的查詢大小、回覆大小和 QPM。
佈建輸送量專屬於特定專案、區域、模型和版本。

佈建輸送量會指派給特定的專案-區域-模型-版本組合。從其他區域呼叫相同模型時，不會計入佈建輸送量配額，也不會優先於隨選要求。

脈絡快取

佈建輸送量支援隱含快取和明確快取。如要瞭解支援的模型和限制，請參閱「脈絡快取」。

根據預設，所有 Cloud de Confiance by S3NS 專案都會啟用隱含快取。隱含快取可降低快取命中時的成本和延遲時間。發生快取命中時，快取詞元的費用會比標準輸入內容詞元便宜。明確快取可提供更多控制權，並確保在參照明確快取時享有折扣。如要瞭解如何建立脈絡快取，以便明確快取，請參閱「建立脈絡快取」。如要查看特定模型的折扣，請參閱「脈絡快取總覽」。如果是佈建輸送量，折扣會透過降低消耗率的方式套用。

舉例來說，Gemini 2.5 Pro 的輸入文字詞元和快取詞元消耗率如下：

1 個輸入文字詞元 = 1 個詞元
1 個輸入快取文字詞元 = 0.1 個詞元

如果將 1,000 個輸入詞元傳送至這個模型，佈建輸送量會以每秒 1,000 個輸入詞元的速度消耗。不過，如果將 1,000 個快取詞元傳送至 Gemini 2.5 Pro，佈建輸送量會以每秒 100 個詞元的速度消耗。

請注意，如果類似查詢未快取詞元，且未套用快取折扣，則可能導致處理量提高。

如要查看佈建輸送量支援模型的消耗率，請參閱「支援的模型和消耗率」。

瞭解 Gemini Live API 的消耗情形

佈建輸送量支援 Gemini 2.5 Flash 搭配 Gemini Live API。如要瞭解如何計算使用 Gemini Live API 時的消耗量，請參閱「估算 GSU 需求」。

如要進一步瞭解如何透過 Gemini Live API，使用 Gemini 2.5 Flash 的佈建輸送量，請參閱「Gemini Live API 的佈建輸送量」。

估算佈建輸送量需求的範例

如要估算佈建輸送量需求，請使用 Cloud de Confiance 控制台中的估算工具。以下範例說明如何預估模型的佈建輸送量。計算預估值時不會考量區域。

下表提供 Gemini 3.6 Flash 的消耗率，可供您參考。

型號	每個 GSU 的處理量	單位	GSU 最低購買增量	消耗率
Gemini 3.6 Flash	675	權杖	1	1 個輸入文字詞元 = 1 個詞元 1 個輸入圖片詞元 = 1 個詞元 1 個輸入影片詞元 = 1 個詞元 1 個輸入音訊詞元 = 1 個詞元 1 個輸入文字快取詞元 = 0.1 個詞元 1 個輸入圖片快取詞元 = 0.1 個詞元 1 個輸入影片快取詞元 = 0.1 個詞元 1 個輸入音訊快取詞元 = 0.1 個詞元 1 個輸出文字回覆詞元 = 5 個詞元

匯集相關規定。在這個範例中，您的需求是驗證能否支援每秒 10 次查詢 (QPS)，查詢輸入內容為 1,000 個文字權杖和 500 個音訊權杖，並使用 gemini-3.6-flash 接收 300 個文字回覆權杖的輸出內容。

如要計算特定用途的處理量，請使用所選模型的消耗率。
計算處理量。將輸入內容乘以消耗率，即可得出輸入詞元總數：

$\text{1,000} \times (\text{1 個詞元/輸入文字詞元}) + \text{500} \times (\text{1 個詞元/輸入音訊詞元}) = \text{1,500}$ 個依消耗率調整的輸入詞元/查詢。

將輸出內容乘以消耗率，即可得出輸出內容總詞元數：

$\text{300} \times (\text{5 個詞元/輸出文字回覆詞元}) = \text{1,500}$ 個調整後的輸出詞元/查詢。

將總和相加：

$\text{1,500 個經 burndown 調整的輸入詞元} + \text{1,500 個經 burndown 調整的輸出詞元} = \text{3,000}$ 個查詢總詞元。

將權杖總數乘以 QPS，即可得出每秒總處理量：

$\text{3,000 total tokens per query} \times \text{10 QPS} = \text{30,000}$ total tokens per second.
計算所需的 GSU。GSU 的計算方式為每秒總詞元數除以每 GSU 的每秒處理量 (取自消耗表)：

$\text{每秒總計 30,000 個詞元} \div \text{每個 GSU 每秒 675 個詞元的處理量} = \text{44.44}$ 個 GSU。

gemini-3.6-flash 的 GSU 最低購買增量為 1，因此您需要 45 個 GSU 才能確保工作負載。

後續步驟

購買佈建輸送量。