您可以在 Gemini Enterprise Agent Platform 上使用 OpenAI 模型,包括代管 API 和自行部署的模型。您可以串流傳送回覆內容,減少使用者對延遲的感受。串流回應會使用伺服器傳送事件 (SSE),逐步串流回應。
gpt-oss 120B
OpenAI gpt-oss 120B 是依據 Apache 2.0 授權發布的 120B 開放權重語言模型。非常適合用於推理和函式呼叫用途。這個模型經過最佳化,可部署在消費型硬體上。
120B 模型在核心推理基準上的表現與 OpenAI o4-mini 幾乎相同,但只需要單一 80GB GPU 即可運作。
前往 gpt-oss 120B 模型資訊卡gpt-oss 20B
OpenAI gpt-oss 20B 是依據 Apache 2.0 授權發布的 200 億開放權重語言模型。非常適合用於推理和函式呼叫用途。這個模型經過最佳化,可部署在消費型硬體上。
20B 模型在常見基準上的結果與 OpenAI o3-mini 相似,且可在記憶體為 16 GB 的邊緣裝置上執行,因此非常適合用於裝置端情境、本機推論或快速疊代,不必使用昂貴的基礎架構。
前往 gpt-oss 20B 模型資訊卡使用 OpenAI 模型
如要使用代管模型,可以透過下列模型名稱,使用 curl 指令將要求傳送至 Gemini Enterprise Agent Platform 端點:
- 如要使用 gpt-oss 120B,請使用
gpt-oss-120b-maas - 如要使用 gpt-oss 20B,請使用
gpt-oss-20b-maas
如要瞭解如何對 OpenAI 模型發出串流和非串流呼叫,請參閱「呼叫開放模型 API」。
如要使用自行部署的 Gemini Enterprise Agent Platform 模型,請按照下列步驟操作:
- 前往 Model Garden 控制台。
- 找出相關的 Gemini Enterprise Agent Platform 模型。
- 按一下「啟用」並填寫表單,取得必要的商業用途授權。
如要進一步瞭解如何部署及使用合作夥伴模型,請參閱「 部署合作夥伴模型並提出預測要求 」。
OpenAI 模型適用區域
OpenAI 模型適用於下列區域:
| 型號 | 區域 |
|---|---|
| gpt-oss 120B |
|
| gpt-oss 20B |
|
後續步驟
瞭解如何呼叫開放模型 API。