מידע על כוונון מפוקח (SFT) של מודלים של Gemini

כוונון מפוקח הוא אפשרות טובה כשיש לכם משימה מוגדרת היטב עם נתונים מתויגים זמינים. היא יעילה במיוחד לאפליקציות ספציפיות לדומיין, שבהן השפה או התוכן שונים באופן משמעותי מהנתונים שהמודל הגדול אומן עליהם במקור. אפשר לכוונן סוגי נתונים של טקסט, תמונה, אודיו, וידאו ומסמך. אתם יכולים גם ליצור אפליקציות וסוכנים שמבוססים על Gemini ויכולים לקיים אינטראקציה עם מידע ושירותים בזמן אמת, כמו מסדי נתונים, מערכות לניהול קשרי לקוחות ומאגרי מסמכים.

כוונון מפוקח (SFT) מתאים את התנהגות המודל באמצעות מערך נתונים מתויג. בתהליך הזה, המערכת משנה את המשקלים של המודל כדי לצמצם את ההבדל בין התחזיות שלו לבין התוויות בפועל. לדוגמה, היא יכולה לשפר את ביצועי המודל בסוגי המשימות הבאים:

  • סיווג
  • סיכום
  • מענה לשאלות באמצעות חילוץ מידע
  • צ'אט

בפוסט בבלוג Hundreds of organizations are fine-tuning Gemini models תוכלו לקרוא על תרחישי השימוש המובילים בכוונון מודלי Gemini. הנה כמה מהתרחישים לדוגמה שהם הכי אוהבים.

מידע נוסף זמין במאמר מתי כדאי להשתמש בכוונון מפוקח (SFT) ב-Gemini.

מודלים נתמכים

המודלים הבאים של Gemini תומכים בכוונון עדין בפיקוח:

לחצו כדי להרחיב את רשימת המודלים הנתמכים

מגבלות

כוונון מפוקח הוא לא שירות מכוסה, והוא לא נכלל ביעד למדידת רמת השירות (SLO) של אף הסכם רמת שירות (SLA).

בטבלה הבאה מוצגות המגבלות על מערכי נתונים של כוונון מפוקח:

‫Gemini 3.5 Flash
Gemini 3.5 Flash-Lite

מפרט ערך
מספר מקסימלי של טוקנים לקלט ולפלט בכל דוגמת אימון 131,072
מספר מקסימלי של טוקנים להצגה בקלט ובפלט זהה למודל Gemini הבסיסי
מספר הדוגמאות המקסימלי במערך נתונים לאימות 5,000 דוגמאות או 30% ממספר דוגמאות האימון, אם יש יותר מ-1,000 דוגמאות אימות
גודל הקובץ המקסימלי של מערך הנתונים לאימון ‫1GB לקובץ JSONL
הגודל המקסימלי של מערך הנתונים לאימון ‫10 מיליון דוגמאות של טקסט בלבד או 300 אלף דוגמאות מולטי-מודאליות
גודל המתאם הערכים הנתמכים הם 1, 2, 4, 8 ו-16
נקודת קצה נתמכת לכוונון מודלים רק נקודות קצה עם מספר אזורים ב-us וב-eu
נקודת קצה נתמכת לפרסום מודל מכוונן רק נקודות קצה עם מספר אזורים ב-us וב-eu
תמיכה בממשק המשתמש

Gemini 3.1 Flash-Lite

מפרט ערך
מספר מקסימלי של טוקנים לקלט ולפלט בכל דוגמת אימון 131,072
מספר מקסימלי של טוקנים להצגה בקלט ובפלט זהה למודל Gemini הבסיסי
מספר הדוגמאות המקסימלי במערך נתונים לאימות 5,000 דוגמאות או 30% ממספר דוגמאות האימון, אם יש יותר מ-1,000 דוגמאות אימות
גודל הקובץ המקסימלי של מערך הנתונים לאימון ‫1GB לקובץ JSONL
הגודל המקסימלי של מערך הנתונים לאימון ‫10 מיליון דוגמאות של טקסט בלבד או 300 אלף דוגמאות מולטי-מודאליות
גודל המתאם הערכים הנתמכים הם 1, 2, 4, 8 ו-16
נקודת קצה נתמכת לכוונון מודלים רק נקודות קצה עם מספר אזורים ב-us וב-eu
נקודת קצה נתמכת לפרסום מודל מכוונן רק נקודות קצה עם מספר אזורים ב-us וב-eu
תמיכה בממשק המשתמש

‫Gemini 2.5 Flash
Gemini 2.5 Flash-Lite

מפרט ערך
מספר מקסימלי של טוקנים לקלט ולפלט בכל דוגמת אימון 131,072
מספר מקסימלי של טוקנים להצגה בקלט ובפלט זהה למודל Gemini הבסיסי
מספר הדוגמאות המקסימלי במערך נתונים לאימות 5,000 דוגמאות או 30% ממספר דוגמאות האימון, אם יש יותר מ-1,000 דוגמאות אימות
גודל הקובץ המקסימלי של מערך הנתונים לאימון ‫1GB לקובץ JSONL
הגודל המקסימלי של מערך הנתונים לאימון ‫10 מיליון דוגמאות של טקסט בלבד או 300 אלף דוגמאות מולטי-מודאליות
גודל המתאם הערכים הנתמכים הם 1, 2, 4, 8 ו-16

Gemini ‎2.5 Pro

מפרט ערך
מספר מקסימלי של טוקנים לאימון בקלט ובפלט 131,072
מספר מקסימלי של טוקנים להצגה בקלט ובפלט זהה למודל Gemini הבסיסי
הגודל המקסימלי של מערך הנתונים לאימות 5,000 דוגמאות או 30% ממספר דוגמאות האימון, אם יש יותר מ-1,000 דוגמאות אימות
גודל הקובץ המקסימלי של מערך הנתונים לאימון ‫1GB לקובץ JSONL
הגודל המקסימלי של מערך הנתונים לאימון ‫10 מיליון דוגמאות של טקסט בלבד או 300 אלף דוגמאות מולטי-מודאליות
גודל המתאם הערכים הנתמכים הם 1, 2, 4 ו-8

בעיות מוכרות

  • אם תפעילו יצירה מבוקרת כשאתם שולחים בקשות להסקת מסקנות למודלי Gemini מכווננים, יכול להיות שאיכות המודל תרד בגלל חוסר התאמה של הנתונים בזמן הכוונון והסקת המסקנות. במהלך הכוונון, לא מתבצעת יצירה מבוקרת, ולכן המודל המכוונן לא יכול לטפל ביצירה מבוקרת בצורה טובה בזמן ההסקה. כוונון מפוקח (SFT) מתאים את המודל בצורה יעילה כדי ליצור פלט מובנה. לכן לא צריך להחיל יצירה מבוקרת כששולחים בקשות להסקת מסקנות במודלים מכווננים.

תרחישים לדוגמה לשימוש בכוונון מפוקח (SFT)

מודלים בסיסיים פועלים היטב כשאפשר להגדיר את הפלט או המשימה הצפויים בצורה ברורה ותמציתית בהנחיה, וההנחיה מפיקה באופן עקבי את הפלט הצפוי. אם אתם רוצים שהמודל ילמד משהו נישתי או ספציפי שחורג מהדפוסים הכלליים, כדאי לשקול כוונון של המודל. לדוגמה, אתם יכולים להשתמש בכוונון מודל כדי ללמד את המודל:

  • מבנים או פורמטים ספציפיים ליצירת פלט.
  • התנהגויות ספציפיות, כמו מתי לספק פלט תמציתי או מפורט.
  • פלט ספציפי בהתאמה אישית לסוגים ספציפיים של קלט.

הדוגמאות הבאות הן תרחישים לדוגמה שקשה להשיג רק באמצעות הוראות בהנחיה:

  • סיווג: התשובה הצפויה היא מילה או ביטוי ספציפיים.

    כוונון המודל יכול לעזור למנוע מהמודל ליצור תשובות מילוליות.

  • סיכום: הסיכום צריך להיות בפורמט ספציפי. לדוגמה, יכול להיות שתצטרכו להסיר פרטים אישיים מזהים (PII) מסיכום של צ'אט.

    קשה לתאר את הפורמט הזה של החלפת שמות הדוברים ב-#Person1 וב-#Person2, ויכול להיות שמודל הבסיס לא יפיק תשובה כזו באופן טבעי.

  • מענה לשאלות מתוך הקשר: השאלה היא על הקשר מסוים, והתשובה היא מחרוזת משנה של ההקשר.

    התשובה "שיא תקופת הקרח האחרונה" היא ביטוי ספציפי מההקשר.

  • צ'אט: אתם צריכים להתאים אישית את התשובה של המודל כדי שיפעל לפי פרסונה, תפקיד או דמות.

אפשר גם לכוונן מודל במצבים הבאים:

  • ההנחיות לא מניבות את התוצאות הצפויות באופן עקבי מספיק.
  • המשימה מורכבת מדי בשביל להגדיר אותה בהנחיה. לדוגמה, אתם רוצים שהמודל ישכפל התנהגות שקשה להסביר בהנחיה.
  • יש לכם אינטואיציות מורכבות לגבי משימה שקשה לנסח בהנחיה.
  • אתם רוצים להקטין את חלון ההקשר על ידי הסרת הדוגמאות.

הגדרת אזור למשימת כוונון

נתוני משתמש, כמו קבוצת הנתונים שעברה טרנספורמציה והמודל שעבר כוונון, מאוחסנים באזור של משימת הכוונון. במהלך הכוונון, יכול להיות שהחישוב יועבר לאזורים אחרים של US או EU כדי להשתמש במאיצים זמינים. העברת הנתונים שקופה למשתמשים.

  • אם אתם משתמשים ב-Vertex AI SDK, אתם יכולים לציין את האזור בזמן ההפעלה. לדוגמה:

    import vertexai
vertexai.init(project='myproject', location='us-central1')

  • אם אתם יוצרים משימת כוונון מפוקח על ידי שליחת בקשת POST באמצעות השיטה tuningJobs.create, אתם משתמשים בכתובת ה-URL כדי לציין את האזור שבו משימת הכוונון פועלת. לדוגמה, בכתובת ה-URL הבאה, מציינים אזור על ידי החלפת שני המופעים של TUNING_JOB_REGION באזור שבו המשימה פועלת.

    ‫Gemini 3 ואילך 

    https://aiplatform.TUNING_JOB_REGION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs

    ‫Gemini 2.5 וגרסאות קודמות 

    https://TUNING_JOB_REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/TUNING_JOB_REGION/tuningJobs

  • אם אתם משתמשים במסוףCloud de Confiance , אתם יכולים לבחור את שם האזור בשדה הנפתח Region בדף Model details. זה אותו דף שבו בוחרים את מודל הבסיס ואת השם של המודל המכוונן.

הערכת מודלים מכווננים

אתם יכולים להעריך מודלים מכווננים בדרכים הבאות:

מכסה

המכסה נאכפת על מספר משימות הכוונון שמתבצעות בו-זמנית. לכל פרויקט יש מכסה שמוגדרת כברירת מחדל להרצת משימת כוונון אחת לפחות. זו מכסה גלובלית שמשותפת לכל האזורים הזמינים ולכל המודלים הנתמכים. אם אתם רוצים להריץ יותר משימות בו-זמנית, אתם צריכים לבקש מכסה נוספת ל-Global concurrent tuning jobs.

אם אתם מגדירים את שירות ההערכה של Vertex AI ל-AI גנרטיבי כך שיריץ הערכות באופן אוטומטי במהלך הכוונון, כדאי לעיין במכסות של שירות ההערכה של Vertex AI ל-AI גנרטיבי.

תמחור

התמחור של כוונון מפוקח (SFT) ב-Gemini מפורט במאמר התמחור של Gemini Enterprise Agent Platform.

כדי לחשב את מספר הטוקנים לאימון, מכפילים את מספר הטוקנים במערך נתוני האימון במספר התקופות של זמן המערכת. אחרי הכוונון, עדיין חלות עלויות הסקה (בקשת חיזוי) של המודל המכוונן. התמחור של הסקת מסקנות זהה לכל גרסה יציבה של Gemini. מידע נוסף זמין במאמר גרסאות המודלים היציבות של Gemini.

אם אתם מגדירים את שירות ההערכה ל-AI גנרטיבי כך שיפעל באופן אוטומטי במהלך הכוונון, ההערכות יחויבו כמשימות חיזוי באצווה. מידע נוסף זמין במאמר תמחור.

המאמרים הבאים