微調 Gemini 模型的脈絡快取功能

針對微調的 Gemini 模型，您可以使用內容快取功能提升效能，並減少包含大量內容的提示費用。快取常用脈絡資訊，可避免每次向微調模型傳送要求時，都傳送大量資料。

調整後 Gemini 模型的內容快取管理作業 (Read、Update、Delete) 與基礎模型一致。只有快取內容建立和推論需要進行特定調整，詳情請參閱下列章節。

必要條件

微調 Gemini 模型：您需要根據支援的基礎模型部署微調的 Gemini 模型 (請參閱脈絡快取總覽)。如要瞭解如何微調 Gemini 模型，請參閱「微調 Gemini 模型」。如要取得已部署的微調模型端點，請參閱「部署微調模型」。

請確認您已備妥下列資訊：

  • 經過微調的 Gemini 模型 ID 和版本
  • 已部署微調模型的端點資源名稱

支援的版本

微調後的 Gemini 模型支援特定版本的隱式快取功能。如需支援的型號及其功能清單，請參閱「Google 模型」。

微調模型不支援明確快取。