Informazioni sul fine-tuning supervisionato per i modelli Gemini

Il fine-tuning supervisionato è una validissima opzione se hai un'attività ben definita con dati etichettati disponibili. È particolarmente efficace per le applicazioni specifiche di un settore, dove il linguaggio o i contenuti si discostano notevolmente dai dati su cui il modello più grande è stato originariamente addestrato. Puoi ottimizzare i tipi di dati testo, immagine, audio, video e documento. Puoi anche creare applicazioni e agenti basati su Gemini che possono interagire con informazioni e servizi in tempo reale come database, sistemi di gestione dei rapporti con i clienti e repository di documenti.

Il fine-tuning supervisionato adatta il comportamento del modello con un set di dati etichettato. Questo processo regola i pesi del modello per ridurre al minimo la discrepanza tra le sue previsioni e le etichette reali. Ad esempio, può migliorare le prestazioni del modello per i seguenti tipi di attività:

• Classificazione
• Riassunto
• Question answering estrattivo
• Chat

Per una discussione sui principali casi d'uso dell'ottimizzazione, consulta il blog post Hundreds of organizations are fine-tuning Gemini models. Ecco i loro casi d'uso preferiti.

Per saperne di più, consulta Quando utilizzare il fine-tuning supervisionato per Gemini.

Modelli supportati

I seguenti modelli Gemini supportano il fine-tuning supervisionato:

Limitazioni

Il fine-tuning supervisionato non è un Servizio coperto ed è escluso dallo SLO di qualsiasi Accordo sul livello del servizio.

La tabella seguente mostra le limitazioni dei set di dati di fine-tuning supervisionato:

Problemi noti

• L'applicazione della generazione controllata durante l'invio di richieste di inferenza ai modelli Gemini ottimizzati può comportare una riduzione della qualità del modello a causa del disallineamento dei dati durante l'ottimizzazione e l'inferenza. Durante l'ottimizzazione, la generazione controllata non viene applicata, pertanto il modello ottimizzato non è in grado di gestirla correttamente al momento dell'inferenza. Il fine-tuning supervisionato personalizza efficacemente il modello per generare un output strutturato. Pertanto, non è necessario applicare la generazione controllata quando si effettuano richieste di inferenza sui modelli ottimizzati.

Casi d'uso per l'utilizzo del fine-tuning supervisionato

I foundation model funzionano bene quando l'output o l'attività previsti possono essere definiti in modo chiaro e conciso in un prompt e il prompt produce costantemente l'output previsto. Se vuoi che un modello apprenda qualcosa di poco noto o specifico che si discosta dai pattern generali, potresti prendere in considerazione l'ottimizzazione del modello. Ad esempio, puoi utilizzare l'ottimizzazione del modello per insegnare al modello quanto segue:

• Strutture o formati specifici per la generazione dell'output.
• Comportamenti specifici, ad esempio quando fornire un output conciso o dettagliato.
• Output personalizzati specifici per tipi di input specifici.

I seguenti esempi sono casi d'uso difficili da acquisire solo con le istruzioni del prompt:

• Classificazione: la risposta prevista è una parola o una frase specifica.

  Prompt: Classifica il seguente testo in una delle seguenti classi: [business, intrattenimento]. Testo: Diversifica il tuo portafoglio di investimenti Risposta: business

  L'ottimizzazione del modello può aiutare a evitare che il modello generi risposte prolisse.

• Riassunto: il riassunto segue un formato specifico. Ad esempio, potresti dover rimuovere le informazioni che consentono l'identificazione personale (PII) in un riepilogo della chat.

  Prompt: Riassumi: Jessica: Ottima idea! Ci vediamo a Times Square! Alessandro: Ci vediamo alle 10! Risposta: #Person1 e #Person2 concordano di incontrarsi a Times Square alle 10:00.

  La formattazione che sostituisce i nomi dei relatori con #Person1 e #Person2 è difficile da descrivere e il modello di base potrebbe non produrre una risposta naturale di questo tipo.

• Question answering estrattivo: la domanda riguarda un contesto e la risposta è una sottostringa del contesto.

  Prompt: Contesto: esistono prove di cambiamenti significativi nella vegetazione della foresta pluviale amazzonica negli ultimi 21.000 anni,durante l'ultimo massimo glaciale (LGM) e la successiva deglaciazione. Domanda: cosa significa LGM? Risposta: Last Glacial Maximum

  La risposta "Last Glacial Maximum" è una frase specifica del contesto.

• Chat: devi personalizzare la risposta del modello in modo che segua una persona, un ruolo o un personaggio.

  Prompt: Utente: Che tempo fa oggi? Risposta: Assistente: In qualità di negoziante virtuale di Example Organization, posso aiutarti solo con gli acquisti e la spedizione.

Puoi anche ottimizzare un modello nelle seguenti situazioni:

• I prompt non producono i risultati previsti con sufficiente coerenza.
• L'attività è troppo complicata per essere definita in un prompt. Ad esempio, vuoi che il modello esegua la clonazione del comportamento per un comportamento difficile da esprimere in un prompt.
• Hai intuizioni complesse su un'attività che sono difficili da formalizzare in un prompt.
• Vuoi ridurre la finestra contestuale rimuovendo gli esempi few-shot.

Configura una regione per il job di ottimizzazione

I dati utente, come il set di dati trasformato e il modello ottimizzato, vengono archiviati nella regione del job di ottimizzazione. Durante l'ottimizzazione, il calcolo potrebbe essere trasferito ad altre regioni US o EU per gli acceleratori disponibili. L'offloading è trasparente per gli utenti.

• Se utilizzi l'SDK Vertex AI, puoi specificare la regione durante l'inizializzazione. Ad esempio:

  import vertexai
  vertexai.init(project='myproject', location='us-central1')
  

• Se crei un job di fine-tuning supervisionato inviando una richiesta POST utilizzando il metodo tuningJobs.create, utilizza l'URL per specificare la regione in cui viene eseguito il job di ottimizzazione. Ad esempio, nel seguente URL, specifichi una regione sostituendo entrambe le istanze di TUNING_JOB_REGION con la regione in cui viene eseguito il job.

  Gemini 3 e versioni successive

  https://aiplatform.TUNING_JOB_REGION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs
  

  Gemini 2.5 e versioni precedenti

  https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs
  

• Se utilizzi la consoleCloud de Confiance , puoi selezionare il nome della regione nel campo a discesa Regione nella pagina Dettagli modello. Questa è la stessa pagina in cui selezioni il modello di base e un nome per il modello ottimizzato.

Valutazione dei modelli ottimizzati

Puoi valutare i modelli ottimizzati nei seguenti modi:

• Metriche di ottimizzazione e convalida: valuta il modello ottimizzato utilizzando le metriche di ottimizzazione e convalida al termine del job di ottimizzazione.

• Valutazione integrata con Gen AI evaluation service (anteprima): configura i job di ottimizzazione per eseguire automaticamente le valutazioni utilizzando Gen AI evaluation service durante l'ottimizzazione. Le seguenti interfacce, modelli e regioni sono supportati per l'integrazione dell'ottimizzazione con il servizio di valutazione di AI generativa:

  • Interfacce supportate: SDK Google Gen AI e API REST.

  • Modelli supportati: gemini-2.5-pro, gemini-2.5-flash e gemini-2.5-flash-lite.

  • Regioni supportate: per un elenco delle regioni supportate, consulta Regioni supportate.

Quota

La quota viene applicata al numero di job di ottimizzazione simultanei. Ogni progetto include una quota predefinita per eseguire almeno un job di ottimizzazione. Si tratta di una quota globale, condivisa tra tutte le regioni disponibili e i modelli supportati. Se vuoi eseguire più job contemporaneamente, devi richiedere una quota aggiuntiva per Global concurrent tuning jobs.

Se configuri il Gen AI evaluation service per eseguire le valutazioni automaticamente durante l'ottimizzazione, consulta le quote del Gen AI evaluation service.

Prezzi

I prezzi per il fine-tuning supervisionato di Gemini sono disponibili qui: Prezzi di Gemini Enterprise Agent Platform.

Il numero di token di addestramento viene calcolato moltiplicando il numero di token nel set di dati di addestramento per il numero di epoche. Dopo l'ottimizzazione, i costi di inferenza (richiesta di previsione) per il modello ottimizzato continuano a essere applicati. I prezzi per l'inferenza sono gli stessi per ogni versione stabile di Gemini. Per saperne di più, consulta Versioni dei modelli Gemini stabili disponibili.

Se configuri il servizio di valutazione dell'AI generativa in modo che venga eseguito automaticamente durante l'ottimizzazione, le valutazioni vengono addebitate come job di previsione batch. Per ulteriori informazioni, vedi Prezzi.

Passaggi successivi

• Scopri di più sul fine-tuning supervisionato.
• Scopri di più sul deployment di un modello Gemini ottimizzato.