xAI Grok 模型

xAI Grok 模型可在 Gemini Enterprise Agent Platform,做為代管 API 使用。您可以串流回覆,縮短使用者感受到的延遲時間。串流回應會使用伺服器傳送事件 (SSE),逐步串流回應。

代管 xAI 模型

您可以在 Gemini Enterprise Agent Platform 中使用 xAI 的下列模型。如要存取 xAI 模型,請前往其 Model Garden 模型卡。

Grok 4.7 xAI 的高能力模型,專為程式設計和知識工作而打造。它會花更多時間處理困難工作,並檢查自己的成果。
Grok 4.6 xAI 的高效能模型,專為程式設計、代理工作和知識工作打造。
Grok 4.3 xAI 的高效能模型。
Grok 4.20 (Reasoning) xAI 的高效能模型,幻覺率低。擅長解讀文件,以及長期呼叫代理程式工具。
Grok 4.20 (非推論) xAI 的高效能非思考型模型,幻覺率低。適合用於客戶服務和分類等需要高度即時反應的用途。

使用 xAI 模型

如要瞭解如何對 xAI 模型發出串流和非串流呼叫,請參閱「呼叫開放原始碼模型 API」。

如要使用代管模型,可以透過下列模型名稱,使用 curl 指令將要求傳送至 Gemini Enterprise Agent Platform 端點:

  • 如果是 Grok 4.7,請使用 grok-4.7
  • 如果是 Grok 4.6,請使用 grok-4.6
  • 如果是 Grok 4.3,請使用 grok-4.3
  • 如要使用 Grok 4.20 (Reasoning),請輸入 grok-4.20-reasoning
  • 如要使用 Grok 4.20 (非推論),請使用 grok-4.20-non-reasoning

Grok 配額

Grok 模型採用單一全域配額,適用於各個基礎模型,而非各個端點:傳送至全域端點和美國多區域端點的要求,會共用相同的基礎限制。配額以每分鐘查詢數 (QPM) 和每分鐘詞元數 (TPM) 指定,其中 TPM 包含輸入和輸出詞元。

為維持整體服務效能和可接受的使用情形,配額上限可能會因帳戶而異,有時存取權可能會受到限制。如要查看 專案配額,請前往 Cloud de Confiance 控制台的「Quotas & System Limits」(配額與系統限制)頁面 。您也必須具備下列配額:

  • global_generate_content_requests_per_minute_per_project_per_base_model 定義 QPM 配額。

  • TPM 有兩個配額值,適用於特定模型:global_generate_content_input_tokens_per_minute_per_base_model 定義輸入 TPM 配額,global_generate_content_output_tokens_per_minute_per_base_model 則定義輸出 TPM 配額。

如要瞭解哪些模型會分別計算輸入和輸出詞元,請參閱特定模型頁面。

後續步驟