ファインチューニングされた Gemini モデルのコンテキストのキャッシュ保存

ファインチューニングされた Gemini モデルでコンテキスト キャッシュ保存を使用すると、大量のコンテキストを含むプロンプトのパフォーマンスの向上と費用の削減を実現できます。よく使用されるコンテキストをキャッシュに保存することで、ファインチューニングされたモデルへのリクエストが発生するたびに大量データを再送信することを回避できます。

チューニングされた Gemini モデルのコンテキスト キャッシュの管理オペレーション（Read、Update、Delete）は、ベースモデルと一貫しています。キャッシュに保存されたコンテンツの作成と推論のみに特定の調整が必要になります。詳しくは、以下のセクションをご覧ください。

前提条件

Gemini モデルのファインチューニング: サポートされているベースモデルに基づく、デプロイされたファインチューニング済み Gemini モデルが必要です（コンテキスト キャッシュ保存の概要をご覧ください）。Gemini モデルをファインチューニングする方法の詳細については、Gemini モデルをファインチューニングするをご覧ください。デプロイされたチューニング済みモデルのエンドポイントを取得するには、チューニング済みモデルをデプロイするをご覧ください。

次の情報をご用意ください。

  • チューニング済み Gemini モデルの ID とバージョン
  • デプロイされたファインチューニング済みモデルのエンドポイント リソース名

サポート対象のバージョン

ファインチューニングされた Gemini モデルは、特定のバージョンの暗黙的なキャッシュ保存をサポートしています。サポートされているモデルとその機能の一覧については、Google モデルをご覧ください。

ファインチューニングされたモデルでは、明示的なキャッシュ保存はサポートされていません。