全代管的 Llama 模型


您可以在 Gemini Enterprise Agent Platform 使用 Llama 模型，包括受管理 API 和自行部署的模型。您可以串流傳送回覆內容，減少使用者對延遲的感受。串流回應會使用伺服器傳送事件 (SSE)，逐步串流回應。

代管 Llama 模型

Llama 模型提供全代管無伺服器模型做為 API。如要在 Agent Platform 上使用 Llama 模型，請直接將要求傳送至 Agent Platform API 端點。以受管理 API 形式使用 Llama 模型時，不必佈建或管理基礎架構。

您可以在 Gemini Enterprise Agent Platform 使用下列 Llama 模型。如要存取 Llama 模型，請前往 Model Garden 的模型資訊卡。

Llama 4 Maverick 17B-128E 功能最強大的 Llama 4 多模態模型 (MoE 170 億個現用參數 / 4,000 億個總參數)，專為程式設計、深入推論、進階對話和高精確度圖像解讀而設計。
Llama 4 Scout 17B-16E 高效率 MoE 模型 (17B 個有效參數 / 109B 個總參數)，可為長文脈絡檢索、文件摘要和大型程式碼庫的推理作業提供最先進的結果。
Llama 3.3 70B 純文字 70B 指令微調模型，相較於 Llama 3.1 70B 和 Llama 3.2 90B，可為純文字應用程式提供更強大的效能。

使用 Llama 模型

如為代管模型，您可以使用 curl 指令，透過下列模型名稱將要求傳送至 Gemini Enterprise Agent Platform 端點。如要瞭解如何對 Llama 模型發出串流和非串流呼叫，請參閱「呼叫開放模型 API」。

如要使用自行部署的 Gemini Enterprise Agent Platform 模型，請按照下列步驟操作：

  1. 前往 Model Garden 控制台。
  2. 找出相關的 Gemini Enterprise Agent Platform 模型。
  3. 按一下「啟用」並填寫表單，取得必要的商業用途授權。

如要進一步瞭解如何部署及使用合作夥伴模型，請參閱「部署合作夥伴模型並提出預測要求」。

後續步驟

瞭解如何使用 Llama 模型。