Gemini Enterprise Agent Platform 提供多種管理生成式 AI 模型輸送量的方式,協助您在成本和效能之間取得平衡。本文將說明可用的選項:彈性的即付即用模式,以及可預測處理量的預留容量。
受管理模型配額
Agent Platform 提供兩種方式,可管理 Gemini Enterprise Agent Platform 上代管生成式 AI 模型的輸送量,讓您在成本、彈性和效能之間取得平衡。您可以選擇用多少付多少的模式,或是以固定價格預留特定量的輸送量。
即付即用
在預設的即付即用模式中,Agent Platform 會使用標準即付即用 (標準 PayGo)。PayGo 方案可讓您只為耗用的資源付費,無須預付任何費用。此外,還有其他隨用隨付選項,費用和效能各不相同。詳情請參閱「優先 PayGo」或「彈性 PayGo」。
預留容量
對於需要穩定效能和可預測成本的重要正式環境應用程式,您可以使用佈建輸送量。「已佈建的處理量」是固定費用的訂閱方案,可為所選位置的模型保留特定量的處理量。
生成式 AI 服務的配額
Gemini Enterprise Agent Platform 提供一系列生成式 AI 服務,例如模型微調、模型評估、批次預測、嵌入和檢索增強生成。如要進一步瞭解這些服務的配額,請參閱「Agent Platform 上的生成式 AI 配額和系統限制」。
後續步驟
- 進一步瞭解標準即付即用。
- 進一步瞭解佈建輸送量。
- 進一步瞭解生成式 AI 配額和系統限制。
- 進一步瞭解 Google Cloud 配額。