Agent Platform 訓練總覽

生成式 AI 通常會使用大規模機器學習 (ML) 模型,並以大量資料預先訓練。這些模型稱為基礎模型,可做為各種工作的基礎。您可以使用 Agent Platform,透過多種方式自訂基礎模型:

  • 調整:調整是指為模型提供訓練資料集,其中包含與所選下游工作相關的特定範例。

    • 監督式調整: 這項技術會使用有標籤的範例微調模型。每個範例都會呈現出模型在推論期間,針對指定輸入字詞應輸出的結果。監督式調整適用於預期輸出結果不會過於複雜,且可明確定義的工作,例如分類、情緒分析、實體擷取、較簡單內容的摘要,以及產生特定領域的查詢。您可以使用監督式學習調整文字、圖片、音訊和文件資料類型。
    • 人類回饋增強學習 (RLHF) 調整:如果選取的模型輸出內容較為複雜,就適合使用這種方法。對於難以透過監督式微調區分的目標,例如回答問題、重點摘要複雜內容,以及生成創意內容,RLHF 微調效果良好。
  • 蒸餾:蒸餾通常會訓練較小的「學生」模型,模仿功能更強大的「老師」模型。

  • 轉接器模型訓練:這項作業會訓練較小的轉接器模型 (或層),與基礎模型搭配運作,提升專業工作的效能。原始基礎模型的參數通常會保持凍結,訓練期間只會更新轉接程式的權重。

  • 建立基準:這不是訓練方法,但對於確保生成式 AI 輸出內容的可靠性至關重要。建立基準是指將模型輸出內容連結至可驗證的資訊來源,降低捏造內容的可能性。通常是在推論期間,為模型提供特定資料來源的存取權。

後續步驟