關於 Gemini 模型的監督式微調

如果您的任務明確,且可提供已加上標籤的資料,就很適合使用監督式微調功能。在特定領域的應用實例中,如果大型模型的語言或生成內容,與最初的訓練資料大相徑庭,則這項工具的成效將格外顯著。您可以調整文字、圖片、音訊、影片和文件資料類型。您也可以建立 Gemini 應用程式和代理,與即時資訊和服務互動,例如資料庫、客戶關係管理系統和文件存放區。

監督式微調功能會運用加上標籤的資料集,調整模型運作方式。這項程序會調整模型權重,盡可能減少預測結果和實際標籤間的差異。舉例來說,這樣當執行下列類型的任務時,便可提升模型效能:

  • 分類
  • 摘要
  • 擷取問題答案
  • 即時通訊

如要瞭解熱門調整用途,請參閱網誌文章「Hundreds of organizations are fine-tuning Gemini models. 以下是他們最喜歡的用途。

詳情請參閱「何時應對 Gemini 執行監督式微調」。

支援的模型

下列 Gemini 模型支援監督式微調:

按一下即可展開支援的模型

限制

監督式微調不屬於「涵蓋服務」,不適用任何服務水準協議的服務水準目標。

下表列出監督式微調資料集的限制:

Gemini 3.5 Flash
Gemini 3.5 Flash-Lite

規格 值
每個訓練樣本的輸入和輸出詞元數量上限 131,072
輸入和輸出內容的詞元數量上限 與基礎 Gemini 模型相同
驗證資料集中的樣本數量上限 5,000 個樣本,或訓練樣本數的 30% (如果驗證樣本數超過 1,000 個)
訓練資料集檔案大小上限 JSONL:1 GB
訓練資料集大小上限 1,000 萬個純文字樣本或 30 萬個多模態樣本
轉接器大小 支援的值為 1、2、4、8 和 16
支援的模型調整端點 僅限 us 和 eu 多區域端點
支援提供調整後模型的端點 僅限 us 和 eu 多區域端點
UI 支援

Gemini 3.1 Flash-Lite

規格 值
每個訓練樣本的輸入和輸出詞元數量上限 131,072
輸入和輸出內容的詞元數量上限 與基礎 Gemini 模型相同
驗證資料集中的樣本數量上限 5,000 個樣本,或訓練樣本數的 30% (如果驗證樣本數超過 1,000 個)
訓練資料集檔案大小上限 JSONL:1 GB
訓練資料集大小上限 1,000 萬個純文字樣本或 30 萬個多模態樣本
轉接器大小 支援的值為 1、2、4、8 和 16
支援的模型調整端點 僅限 us 和 eu 多區域端點
支援提供調整後模型的端點 僅限 us 和 eu 多區域端點
UI 支援

Gemini 2.5 Flash
Gemini 2.5 Flash-Lite

規格 值
每個訓練樣本的輸入和輸出詞元數量上限 131,072
輸入和輸出內容的詞元數量上限 與基礎 Gemini 模型相同
驗證資料集中的樣本數量上限 5,000 個樣本,或訓練樣本數的 30% (如果驗證樣本數超過 1,000 個)
訓練資料集檔案大小上限 JSONL:1 GB
訓練資料集大小上限 1,000 萬個純文字樣本或 30 萬個多模態樣本
轉接器大小 支援的值為 1、2、4、8 和 16

Gemini 2.5 Pro

規格 值
輸入和輸出訓練詞元數量上限 131,072
輸入和輸出內容的詞元數量上限 與基礎 Gemini 模型相同
驗證資料集大小上限 5,000 個樣本,或訓練樣本數的 30% (如果驗證樣本數超過 1,000 個)
訓練資料集檔案大小上限 JSONL:1 GB
訓練資料集大小上限 1,000 萬個純文字樣本或 30 萬個多模態樣本
轉接器大小 支援的值為 1、2、4 和 8

已知問題

  • 向調整後的 Gemini 模型提交推論要求時,如果套用控制生成內容,可能會因為調整和推論期間的資料不一致,導致模型品質下降。調整期間不會套用控制生成內容功能,因此調整後的模型在推論時,無法妥善處理控制生成內容。監督式微調可有效自訂模型,生成結構化輸出內容。因此,對調整後的模型提出推論要求時,不需套用控制生成內容功能。

使用監督式微調的用途

如果預期輸出內容或工作可在提示中清楚簡潔地定義,且提示能持續產生預期輸出內容,基礎模型就能發揮良好效果。如果您希望模型學習與一般模式偏離的特定領域或特定知識,可以考慮微調模型。舉例來說,您可以使用模型調整功能,教導模型以下內容:

  • 生成輸出內容時,應採用的特定結構或格式。
  • 特定行為,例如何時提供簡潔或詳細的輸出內容。
  • 針對特定類型的輸入內容,提供特定的自訂輸出內容。

以下範例是僅使用提示指令難以達成的用途:

  • 分類:預期的回應是特定字詞或詞組。

    調整模型可避免模型生成冗長的回覆。

  • 摘要:摘要會以特定格式顯示。例如,您可能需要移除對話摘要中的個人識別資訊 (PII)。

    這種將說話者姓名替換為 #Person1 和 #Person2 的格式並不容易描述,基礎模型可能無法自然產生這類回應。

  • 擷取問題解答:問題與內容相關,答案是內容的子字串。

    「Last Glacial Maximum」回應是內容中的特定詞組。

  • Chat:您需要自訂模型回覆,以遵循角色、身分或人物。

您也可以在下列情況下調整模型:

  • 提示無法穩定產生預期結果。
  • 工作太複雜,無法在提示中定義。舉例來說,您希望模型複製難以在提示中清楚說明的行為。
  • 您對某項工作有複雜的直覺,難以在提示中正式表達。
  • 您想移除少量樣本範例,縮短脈絡長度。

設定微調工作區域

使用者資料 (例如轉換後的資料集和調整後的模型) 會儲存在調整工作區域。調整期間,運算作業可能會卸載至其他 US 或 EU 區域,以便使用可用的加速器。使用者不會察覺到卸載作業。

  • 如果使用 Vertex AI SDK,可以在初始化時指定區域。例如:

    import vertexai
    vertexai.init(project='myproject', location='us-central1')
    
  • 如果您使用 tuningJobs.create 方法傳送 POST 要求,藉此建立監督式微調工作,則須透過網址指定微調工作的執行區域。舉例來說,在下列網址中,您要指定區域,方法是將兩個 TUNING_JOB_REGION 執行個體替換為工作執行的區域。

    Gemini 3 以上版本

    https://aiplatform.TUNING_JOB_REGION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs
    

    Gemini 2.5 和更早版本

    https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs
    
  • 如果使用 Cloud de Confiance 控制台,可以在「Model details」(模型詳細資料) 頁面的「Region」(區域) 下拉式欄位中選取區域名稱。您可以在這個頁面選取基礎模型和調整後的模型名稱。

評估調整後的模型

您可以透過下列方式評估調整後的模型:

  • 調整和驗證指標:調整工作完成後,使用調整和驗證指標評估調整後的模型。

  • 整合 Gen AI Evaluation Service 評估功能 (預先發布版):設定微調工作,在微調期間使用 Gen AI Evaluation Service 自動執行評估。Gen AI Evaluation Service 支援下列介面、模型和區域,可整合調整功能:

    • 支援的介面:Google Gen AI SDK 和 REST API。

    • 支援的模型:gemini-2.5-pro、gemini-2.5-flash 和 gemini-2.5-flash-lite。

    • 支援的地區:如需支援的地區清單,請參閱「支援的地區」。

配額

並行調整工作數量設有配額。每項專案都有預設配額,至少可執行一項調整工作。這是全域配額,由所有可用區域和支援的模型共用。如要同時執行更多工作,請申請提高 Global concurrent tuning jobs 的配額。

如果您將 Gen AI Evaluation Service 設為在調整期間自動執行評估,請參閱「Gen AI Evaluation Service 配額」。

定價

如要查看 Gemini 監督式微調的定價,請前往 Gemini Enterprise Agent Platform 定價。

訓練詞元數量是訓練資料集中的詞元數量乘以訓練週期數。調整後,調整後的模型仍會產生推論 (預測要求) 費用。Gemini 每個穩定版本的推論定價都相同。詳情請參閱「可用的 Gemini 穩定模型版本」。

如果將 Gen AI Evaluation Service 設為在調整期間自動執行,評估作業會以批次預測工作的形式計費。詳情請參閱「定價」。

後續步驟