Confrontare i prompt

La funzionalità Confronta ti consente di vedere in che modo un prompt, un modello o un'impostazione dei parametri diversi modificano l'output del modello. Puoi visualizzare ogni prompt e le relative risposte affiancate per confrontarle e analizzarle nei seguenti modi:

  • Con un nuovo prompt.
  • Con un altro prompt salvato.
  • Con dati empirici reali.

Prima di iniziare

Per accedere alla funzionalità Confronta:

  1. Nella Cloud de Confiance console, vai alla pagina Crea prompt.

    Vai a Crea prompt

  2. Seleziona Confronta. Viene visualizzata la pagina Confronta.

Creare un prompt nella funzionalità Confronta

Nella pagina Confronta, puoi creare un prompt prima di selezionarne un altro per confrontare i risultati.

Per creare un prompt:

  1. Nel campo Nuovo prompt, inserisci il prompt.

  2. Fai clic su Invia prompt. La risposta del modello viene visualizzata sotto il testo del prompt che hai inserito.

  3. Fai clic su Salva come nuovo. Viene visualizzata la finestra di dialogo Salva prompt.

  4. Inserisci il nome del nuovo prompt nel campo Nome prompt.

  5. Seleziona la regione nel campo Regione o lasciala come regione predefinita.

  6. Se si applica una chiave di crittografia gestita dal cliente (CMEK):

    1. Seleziona la casella di controllo Chiave di crittografia gestita dal cliente (CMEK).
    2. Seleziona una chiave dal campo Seleziona una chiave Cloud KMS.

  7. Fai clic su Salva per salvare il prompt nell'elenco dei prompt da utilizzare nella pagina Confronta il prompt salvato.

  8. Fai clic su Invia prompt per confrontare i prompt e le relative risposte.

Puoi aggiornare i prompt e salvare le versioni aggiornate come nuovi prompt.

Confrontare con un nuovo prompt

Per confrontare il prompt salvato con un nuovo prompt:

  1. Fai clic su Confronta il nuovo prompt. Viene visualizzato il riquadro Confronta.
  2. (Facoltativo) Fai clic su Cambia modello per utilizzare un modello diverso da quello predefinito.
  3. (Facoltativo) Espandi Output.
    4. Output:
    1. (Facoltativo) Se vuoi che il modello generi output in un formato specifico, ad esempio JSON, fai clic sul pulsante di attivazione/disattivazione Output strutturato. Dopo aver selezionato Output strutturato, le opzioni di grounding vengono disattivate perché il grounding non è supportato con l'output strutturato.
    2. (Facoltativo) Modifica il Budget di pensiero in una delle seguenti opzioni:
      • Auto: il modello pensa solo quando è necessario. Il modello regola la quantità di tempo che dedica a pensare o analizzare una situazione in base a ciò che è necessario in quel momento.
      • Manuale: puoi regolare i token del budget di pensiero.
      • Off: non vengono utilizzati né il pensiero né i budget.
  1. (Facoltativo) Espandi Strumenti.
    2. Strumenti:
    1. Seleziona una delle seguenti opzioni:
      • Grounding: Google: grounding con la Ricerca Google o Google Maps.
      • Grounding: i tuoi dati: grounding con RAG Engine su Gemini Enterprise Agent Platform, Agent Search o Elasticsearch.
        1. Se selezioni Grounding: i tuoi dati, seleziona l' origine dati che vuoi utilizzare.
  1. (Facoltativo) Espandi Avanzato:
    2. Avanzato:
    1. Seleziona Regione.
    2. Seleziona Impostazioni filtro di sicurezza. Viene visualizzata una finestra di dialogo. Mantieni il valore predefinito Off oppure puoi specificare Blocca alcuni, Blocca alcuni o Blocca la maggior parte per ognuna delle seguenti opzioni:
      • Discorsi che incitano all'odio: commenti negativi o dannosi rivolti all' identità o agli attributi protetti.
      • Contenuti pericolosi: promuovono o consentono l'accesso a beni, servizi e attività dannosi.
      • Contenuti sessualmente espliciti: contengono riferimenti ad atti sessuali o ad altri contenuti osceni.
      • Contenuti che costituiscono molestie: commenti dannosi, intimidatori, prepotenti, o illeciti rivolti a un altro individuo.
    3. Fai clic su Salva per salvare le impostazioni e chiudere la finestra di dialogo.
    4. Seleziona la temperatura dal campo Temperatura. La temperatura controlla il grado di casualità nella selezione dei token. Una temperatura più bassa va bene quando ci si aspetta una risposta vera o corretta. Una temperatura più alta può portare a risultati eterogenei o imprevisti.
    5. Seleziona il limite di token di output dal campo Limite di token di output. Il limite di token di output determina la quantità massima di output di testo da un prompt. Un token equivale a circa quattro caratteri.
    6. Seleziona il numero massimo di risposte dal campo Risposte massime. Il numero massimo di risposte del modello generate per prompt. Le risposte possono essere ancora bloccate a causa di filtri di sicurezza o di altre policy.
    7. Seleziona un valore dal campo Top-P. Top-p cambia il modo in cui il modello seleziona i token per l'output.
    8. Fai clic sul pulsante di attivazione/disattivazione nel campo Risposte del modello in streaming. Se selezionate, le risposte vengono stampate man mano che vengono generate.
    9. Inserisci una sequenza di interruzioni nel campo Aggiungi sequenza di interruzioni. Premi Invio dopo ogni sequenza.
  1. Fai clic su Salva per salvare le modifiche alle impostazioni.
  2. Fai clic su Applica.
  3. Fai clic su Invia prompt per confrontare i prompt e le relative risposte.

Per ulteriori informazioni sui limiti di token per ogni modello, consulta Controllare il budget di pensiero.

Confrontare con un altro prompt salvato

Per confrontare il prompt salvato con un altro prompt salvato:

  1. Fai clic su Confronta il prompt salvato. Viene visualizzato il riquadro Prompt esistente.

  2. Scegli fino a due prompt esistenti da confrontare.

    1. Seleziona un Nome prompt. Se nell'elenco sono presenti molti prompt, fai clic sul campo Filtro e seleziona la proprietà in base alla quale vuoi filtrare. Inserisci un valore e premi Invio.
    2. Fai clic su Applica. La pagina Confronta mostra il prompt selezionato insieme ad altri prompt che hai creato o selezionato per il confronto.

  3. Fai clic su Invia prompt per confrontare i prompt e le relative risposte.

Confrontare con dati empirici reali

La risposta basata su dati di fatto è la risposta preferita al prompt. Tutte le altre risposte del modello vengono valutate rispetto alla risposta basata su dati di fatto.

Per confrontare il prompt salvato con dati empirici reali:

  1. Fai clic su Dati empirici reali. Viene visualizzato il riquadro Dati empirici reali.
  2. Inserisci i dati empirici reali per generare altre metriche di valutazione.
  3. Fai clic su Salva per salvare i dati empirici reali.
  4. Fai clic su Invia prompt per confrontare i prompt e le relative risposte.

Le metriche di valutazione generate quando confronti un prompt con dati empirici reali non sono influenzate dalla regione selezionata.

Passaggi successivi