處理量配額

Gemini Enterprise Agent Platform 提供多種管理生成式 AI 模型輸送量的方式,協助您在成本和效能之間取得平衡。本文將說明可用的選項:彈性的即付即用模式,以及可預測處理量的預留容量。

受管理模型配額

Agent Platform 提供兩種方式,可管理 Gemini Enterprise Agent Platform 上代管生成式 AI 模型的輸送量,讓您在成本、彈性和效能之間取得平衡。您可以選擇用多少付多少的模式,或是以固定價格預留特定量的輸送量。

即付即用

在預設的即付即用模式中,Agent Platform 會使用標準即付即用 (標準 PayGo)。PayGo 方案可讓您只為耗用的資源付費,無須預付任何費用。此外,還有其他隨用隨付選項,費用和效能各不相同。詳情請參閱「優先 PayGo」或「彈性 PayGo」。

預留容量

對於需要穩定效能和可預測成本的重要正式環境應用程式,您可以使用佈建輸送量。「已佈建的處理量」是固定費用的訂閱方案,可為所選位置的模型保留特定量的處理量。

生成式 AI 服務的配額

Gemini Enterprise Agent Platform 提供一系列生成式 AI 服務,例如模型微調、模型評估、批次預測、嵌入和檢索增強生成。如要進一步瞭解這些服務的配額,請參閱「Agent Platform 上的生成式 AI 配額和系統限制」。

後續步驟