מבוא לכוונון

כוונון המודל הוא תהליך חיוני להתאמת Gemini לביצוע משימות ספציפיות בצורה מדויקת יותר. כדי לכוונן מודל, מספקים לו מערך נתונים לאימון שמכיל קבוצה של דוגמאות למשימות ספציפיות במורד הזרם.

בדף הזה מוסבר איך מכווננים את המודלים של Gemini, אילו אפשרויות כוונון זמינות ל-Gemini ומתי כדאי להשתמש בכל אחת מהן.

היתרונות של כוונון מודלים

כוונון מודלים הוא דרך יעילה להתאים אישית מודלים גדולים למשימות שלכם. זהו שלב חשוב בשיפור האיכות והיעילות של המודל. היתרונות של כוונון מודלים:

  • איכות גבוהה יותר למשימות ספציפיות
  • מודל חזק יותר
  • הנחיות קצרות יותר מפחיתות את זמן האחזור של ההסקה ואת העלות שלה

השוואה בין כוונון לעיצוב הנחיות

  • הנחיות למודלים מאומנים מראש של Gemini: הנחיה היא האומנות של יצירת הוראות יעילות כדי להנחות מודלים של AI כמו Gemini ליצור את הפלט הרצוי. התהליך כולל עיצוב של הנחיות שמעבירות בצורה ברורה את המשימה, את הפורמט הרצוי ואת ההקשר הרלוונטי. אתם יכולים להשתמש ביכולות של Gemini בהגדרה מינימלית. הוא מתאים במיוחד:
    • נתונים מתויגים מוגבלים: אם יש לכם כמות קטנה של נתונים מתויגים או שאתם לא יכולים להרשות לעצמכם תהליך ארוך של כוונון עדין.
    • יצירת אב טיפוס מהיר: כשצריך לבדוק קונספט במהירות או לקבל ביצועים בסיסיים בלי להשקיע הרבה בכוונון עדין.
  • כוונון מותאם אישית של מודלים של Gemini: כדי לקבל תוצאות מותאמות יותר, Gemini מאפשר לכם לכוונן את מודלי Gemini על מערכי הנתונים הספציפיים שלכם. כדי ליצור מודל AI שמתאים לתחום הספציפי שלכם, כדאי לשקול לבצע כוונון עדין. התהליך הזה כולל אימון מחדש של מודל הבסיס על קבוצת נתונים מתויגת משלכם, והתאמת המשקלים שלו למשימה ולנתונים שלכם. אתם יכולים להתאים את Gemini לתרחישי השימוש שלכם. כוונון עדין הוא הכי יעיל במקרים הבאים:
    • יש לכם נתונים מתויגים: קבוצת נתונים גדולה לאימון (למשל, 100 דוגמאות או יותר), שמאפשרת למודל ללמוד לעומק את הפרטים הספציפיים של המשימה.
    • משימות מורכבות או ייחודיות: בתרחישים שבהם אסטרטגיות מתקדמות של הנחיות לא מספיקות, וצריך מודל שמותאם לנתונים שלכם.

מומלץ להתחיל בהנחיה כדי למצוא את ההנחיה האופטימלית. אחר כך, עוברים לכוונון עדין (אם צריך) כדי לשפר עוד יותר את הביצועים או לתקן שגיאות חוזרות. למרות שהוספת דוגמאות יכולה להועיל, חשוב לבדוק איפה המודל טועה לפני שמוסיפים עוד נתונים. כדי להשיג ביצועים טובים, חשוב להשתמש בנתונים איכותיים עם תוויות מדויקות. האיכות חשובה יותר מהכמות. בנוסף, הנתונים שבהם אתם משתמשים לכוונון צריכים לשקף את ההתפלגות, הפורמט וההקשר של ההנחיות שהמודל יקבל בסביבת הייצור.

הכוונון מספק את היתרונות הבאים בהשוואה לעיצוב הנחיות:

  • מאפשרת התאמה אישית מעמיקה של המודל ומשפרת את הביצועים במשימות ספציפיות.
  • להתאים את המודל לתחביר, להוראות ולכללים סמנטיים ספציפיים לדומיין.
  • התוצאות עקביות ואמינות יותר.
  • יכולת לטפל ביותר דוגמאות בבת אחת.
  • חסוך בעלויות היקש על ידי הסרת פרומפטים עם כמה דוגמאות (few-shot) והוראות ארוכות מהפרומפטים.

גישות לכוונון

כוונון יעיל בפרמטרים וכוונון עדין מלא הן שתי גישות להתאמה אישית של מודלים גדולים. לכל אחת מהשיטות יש יתרונות והשלכות משלה מבחינת איכות המודל ויעילות המשאבים.

כוונון יעיל בפרמטרים

כוונון יעיל בפרמטרים, שנקרא גם כוונון מתאם, מאפשר להתאים ביעילות מודלים גדולים למשימות או לתחום הספציפיים שלכם. בכוונון יעיל של פרמטרים, מעדכנים קבוצת משנה קטנה יחסית של הפרמטרים של המודל במהלך תהליך הכוונון.

כדי להבין איך Gemini Enterprise Agent Platform תומכת בכוונון ובהצגה של מתאמים, אתם יכולים לקרוא את המאמר Adaptation of Large Foundation Models.

כוונון מלא

כוונון עדין מלא מעדכן את כל הפרמטרים של המודל, כך שהוא מתאים להתאמת המודל למשימות מורכבות מאוד, עם פוטנציאל להשגת איכות גבוהה יותר. עם זאת, כוונון עדין מלא דורש יותר משאבי מחשוב גם לכוונון וגם להצגה, מה שמוביל לעלויות כוללות גבוהות יותר.

כוונון יעיל בפרמטרים בהשוואה לכוונון מלא

כוונון יעיל בפרמטרים הוא חסכוני יותר במשאבים ובעלויות בהשוואה לכוונון מלא. הוא משתמש בהרבה פחות משאבי מחשוב לאימון. הוא יכול להתאים את המודל מהר יותר באמצעות מערך נתונים קטן יותר. הגמישות של כוונון יעיל של פרמטרים מאפשרת למידה של כמה משימות בלי צורך באימון מחדש נרחב.

שיטות כוונון נתמכות

פלטפורמת Agent תומכת בכוונון מפוקח (SFT) כדי להתאים אישית מודלים בסיסיים.

כוונון מפוקח (SFT)

כוונון מפוקח משפר את הביצועים של המודל על ידי לימוד מיומנות חדשה. נתונים שמכילים מאות דוגמאות מתויגות משמשים כדי ללמד את המודל לחקות התנהגות או משימה רצויות. כל דוגמה מתויגת מדגימה מה אתם רוצים שהמודל יפיק כפלט במהלך ההסקה.

כשמריצים משימת כוונון מפוקח, המודל לומד פרמטרים נוספים שעוזרים לו לקודד את המידע שנדרש כדי לבצע את המשימה הרצויה או ללמוד את ההתנהגות הרצויה. הפרמטרים האלה משמשים במהלך ההסקה. הפלט של משימת הכוונון הוא מודל חדש שמשלב את הפרמטרים שנלמדו עם המודל המקורי.

כוונון מפוקח של מודל טקסט הוא אפשרות טובה כשהפלט של המודל לא מורכב וקל יחסית להגדרה. כוונון מפוקח מומלץ לסיווג, לניתוח סנטימנטים, לחילוץ ישויות, לסיכום תוכן לא מורכב ולכתיבת שאילתות ספציפיות לתחום. במודלים של קוד, כוונון בפיקוח הוא האפשרות היחידה.

מודלים שתומכים בכוונון עדין בפיקוח (SFT)

המודלים הבאים של Gemini תומכים בכוונון בפיקוח:

לחצו כדי להרחיב את רשימת המודלים הנתמכים

למידע נוסף על השימוש בכוונון מפוקח בכל אחד מהמודלים, קראו את הדפים הבאים: כוונון של סוגי נתונים של טקסט, תמונה, אודיו ומסמך.

כוונון ההעדפות

כוונון העדפות ב-Gemini Enterprise Agent Platform מתבסס על כוונון מפוקח (SFT) ומאפשר לכם לכוונן את מודלי Gemini באמצעות נתוני משוב אנושי.

כוונון העדפות מאפשר למודל ללמוד מהעדפות סובייקטיביות של משתמשים שקשה להגדיר באמצעות תוויות ספציפיות וכוונון מפוקח בלבד.

מודלים שתומכים בכוונון העדפות

המודלים הבאים של Gemini תומכים בכוונון לפי העדפות:

לחצו כדי להרחיב את רשימת המודלים הנתמכים

מידע נוסף על כוונון העדפות זמין במאמר מידע על כוונון העדפות למודלים של Gemini.

נקודות ביקורת של כוונון מודל

נקודות ביקורת של כוונון מודל מאפשרות לכם לשמור את ההתקדמות של הכוונון, להשוות בין הביצועים של נקודות הביקורת ולבחור את נקודת הביקורת עם הביצועים הכי טובים.

מודלים שתומכים בנקודות ביקורת של כוונון מודל

אפשר להשתמש בנקודות ביקורת של כוונון מודל במודלים הבאים של Gemini:

לחצו כדי להרחיב את רשימת המודלים הנתמכים

מידע נוסף על נקודות ביקורת של כוונון מודל זמין במאמר שימוש בנקודות ביקורת בכוונון Gemini.

כוונון רציף

כוונון רציף מאפשר לכם להמשיך לכוונן מודל שכבר כוונן או נקודת בקרה של מודל, על ידי הוספת עוד תקופות או דוגמאות לאימון.

מודלים שתומכים בכוונון רציף

המודלים הבאים של Gemini תומכים בכוונון רציף:

לחצו כדי להרחיב את רשימת המודלים הנתמכים

מידע נוסף על כוונון רציף זמין במאמר מידע על כוונון רציף של מודלים של Gemini.

המאמרים הבאים