Sertakan contoh few-shot

Anda dapat menyertakan contoh dalam perintah yang menunjukkan kepada model seperti apa respons baik itu. Model mencoba mengidentifikasi pola dan hubungan dari contoh dan menerapkannya saat membuat respons. Perintah yang berisi contoh disebut perintah few-shot, sedangkan perintah yang tidak memberikan contoh disebut perintah zero-shot. Perintah few-shot sering digunakan untuk mengatur pemformatan output, frasa, cakupan, atau pola umum respons model. Gunakan contoh yang spesifik dan beragam untuk membantu model mempersempit fokusnya dan menghasilkan hasil yang lebih akurat.

Menyertakan contoh few-shot dalam perintah akan membantu membuatnya lebih andal dan efektif. Namun, Anda harus selalu menyertakan contoh few-shot dengan petunjuk yang jelas. Tanpa petunjuk yang jelas, model mungkin akan mengambil pola atau hubungan yang tidak diinginkan dari contoh, yang dapat menyebabkan hasil yang buruk.

Poin-poin utama untuk strategi ini adalah sebagai berikut:

  • Menyertakan contoh perintah-respons dalam perintah akan membantu model mempelajari cara merespons.
  • Gunakan markup seperti XML untuk menandai contoh.
  • Lakukan eksperimen dengan sejumlah perintah yang akan disertakan. Bergantung pada modelnya, terlalu sedikit contoh tidak efektif untuk mengubah perilaku model. Terlalu banyak contoh dapat menyebabkan model kelebihan beban.
  • Gunakan pemformatan yang konsisten di seluruh contoh

Perintah zero-shot versus few-shot

Perintah zero-shot berikut meminta model untuk mengekstrak spesifikasi teknis dari teks dan menampilkannya dalam format JSON:

Extract the technical specifications from the text below in JSON format.

Google Pixel 7, 5G network, 8GB RAM, Tensor G2 processor, 128GB of storage, Lemongrass
  
    {
      "Network": "5G",
      "RAM": "8GB",
      "Processor": "Tensor G2",
      "Storage": "128GB",
      "Color": "Lemongrass"
    }
  

Misalkan kasus penggunaan Anda memerlukan pemformatan tertentu, seperti menggunakan nama kunci huruf kecil. Anda dapat menyertakan contoh dalam perintah yang menunjukkan kepada model cara memformat JSON. Perintah few-shot berikut menunjukkan format output dengan kunci JSON huruf kecil:

Extract the technical specifications from the text below in a JSON format.

<EXAMPLE>
  INPUT: Google Nest Wifi, network speed up to 1200Mpbs, 2.4GHz and 5GHz frequencies, WP3 protocol

  OUTPUT:
  {
    "product":"Google Nest Wifi",
    "speed":"1200Mpbs",
    "frequencies": ["2.4GHz", "5GHz"],
    "protocol":"WP3"
  }
</EXAMPLE>

  Google Pixel 7, 5G network, 8GB RAM, Tensor G2 processor, 128GB of storage, Lemongrass
  
    {
      "product": "Google Pixel 7",
      "network": "5G",
      "ram": "8GB",
      "processor": "Tensor G2",
      "storage": "128GB",
      "color": "Lemongrass"
    }
  

Perhatikan bahwa contoh ini menggunakan pemformatan seperti XML untuk memisahkan komponen perintah. Untuk mempelajari lebih lanjut cara memformat perintah few-shot secara optimal menggunakan pemformatan seperti XML, lihat Struktur perintah.

Temukan jumlah contoh yang optimal

Anda dapat bereksperimen dengan jumlah contoh yang akan diberikan dalam perintah untuk mendapatkan hasil yang paling diinginkan. Model seperti Gemini sering kali dapat memahami pola menggunakan beberapa contoh, meskipun Anda mungkin perlu bereksperimen dengan jumlah contoh yang memberikan hasil yang diinginkan. Pada saat yang sama, jika Anda menyertakan terlalu banyak contoh, model mungkin akan mulai melebihi respons terhadap contoh.