xAI Grok 模型可在 Gemini Enterprise Agent Platform,做為代管 API 使用。您可以串流回覆,縮短使用者感受到的延遲時間。串流回應會使用伺服器傳送事件 (SSE),逐步串流回應。
代管 xAI 模型
您可以在 Gemini Enterprise Agent Platform 中使用 xAI 的下列模型。如要存取 xAI 模型,請前往其 Model Garden 模型卡。
使用 xAI 模型
如要瞭解如何對 xAI 模型發出串流和非串流呼叫,請參閱「呼叫開放原始碼模型 API」。
如要使用代管模型,可以透過下列模型名稱,使用 curl 指令將要求傳送至 Gemini Enterprise Agent Platform 端點:
- 如果是 Grok 4.7,請使用
grok-4.7 - 如果是 Grok 4.6,請使用
grok-4.6 - 如果是 Grok 4.3,請使用
grok-4.3 - 如要使用 Grok 4.20 (Reasoning),請輸入
grok-4.20-reasoning - 如要使用 Grok 4.20 (非推論),請使用
grok-4.20-non-reasoning
Grok 配額
Grok 模型採用單一全域配額,適用於各個基礎模型,而非各個端點:傳送至全域端點和美國多區域端點的要求,會共用相同的基礎限制。配額以每分鐘查詢數 (QPM) 和每分鐘詞元數 (TPM) 指定,其中 TPM 包含輸入和輸出詞元。
為維持整體服務效能和可接受的使用情形,配額上限可能會因帳戶而異,有時存取權可能會受到限制。如要查看 專案配額,請前往 Cloud de Confiance 控制台的「Quotas & System Limits」(配額與系統限制)頁面 。您也必須具備下列配額:
global_generate_content_requests_per_minute_per_project_per_base_model定義 QPM 配額。TPM 有兩個配額值,適用於特定模型:
global_generate_content_input_tokens_per_minute_per_base_model定義輸入 TPM 配額,global_generate_content_output_tokens_per_minute_per_base_model則定義輸出 TPM 配額。
如要瞭解哪些模型會分別計算輸入和輸出詞元,請參閱特定模型頁面。
後續步驟
- 瞭解如何呼叫開放原始碼模型 API。
- 瞭解如何呼叫 Responses API。