שינוי גודל על סמך תחזיות

אתם יכולים להגדיר התאמה אוטומטית לעומס (autoscaling) עבור קבוצת מופעי מכונה מנוהלים (MIG) כדי להוסיף או להסיר אוטומטית מכונות וירטואליות (VM) בהתאם לעלייה או לירידה בעומס. עם זאת, אם האתחול של האפליקציה נמשך כמה דקות או יותר, הוספת מופעים בתגובה לשינויים בזמן אמת לא תגדיל את הקיבולת של האפליקציה מספיק מהר. לדוגמה, אם יש עלייה גדולה בעומס (כמו כשמשתמשים מתעוררים בבוקר), יכול להיות שחלק מהמשתמשים יחוו עיכובים בזמן שהאפליקציה עוברת אתחול במופעים חדשים.

אפשר להשתמש בהתאמה אוטומטית לעומס מבוססת-חיזוי כדי לשפר את זמני התגובה של אפליקציות עם זמני אתחול ארוכים ועומסי עבודה שמשתנים באופן צפוי במחזורים יומיים או שבועיים.

כשמפעילים את התכונה 'שינוי גודל אוטומטי מבוסס-תחזית',‏ Compute Engine חוזה את העומס העתידי על סמך ההיסטוריה של קבוצת ה-MIG, ומגדיל את קבוצת ה-MIG מראש לפני העומס הצפוי, כך שמופעלות מראש מכונות וירטואליות חדשות שמוכנות לטפל בעומס כשהוא מגיע. בלי התאמה אוטומטית לעומס מבוססת-חיזוי, מידרוג אוטומטי יכול לשנות את הגודל של קבוצה רק באופן תגובתי, על סמך שינויים בעומס שנצפו בזמן אמת. כשהתכונה 'שינוי גודל אוטומטי מבוסס-תחזית' מופעלת, הכלי לשינוי גודל אוטומטי פועל עם נתונים בזמן אמת וגם עם נתונים היסטוריים כדי להתמודד עם העומס הנוכחי והעומס הצפוי. מידע נוסף זמין במאמרים איך פועל שינוי גודל אוטומטי חזוי ובדיקה אם שינוי גודל אוטומטי חזוי מתאים לעומס העבודה.

לפני שמתחילים

• כדי להשתמש בדוגמאות של שורת הפקודה במדריך הזה, צריך להתקין את Google Cloud CLI או להפעיל את Cloud Shell.
• מידע נוסף על קנה מידה אוטומטי
• אם עדיין לא עשיתם את זה, תצטרכו להגדיר אימות. אימות הוא תהליך שבו מאמתים את הזהות שלכם כדי לקבל גישה לממשקי API ולשירותים של Cloud de Confiance by S3NS . כדי להריץ קוד או דוגמאות מסביבת פיתוח מקומית, אפשר לבצע אימות ל-Compute Engine באחת מהדרכים הבאות:

  צריך לבחור את הכרטיסייה הרלוונטית לאופן שבו תכננתם להשתמש בדוגמאות בדף הזה:

  המסוף

  כשמשתמשים במסוף Cloud de Confiance כדי לגשת לשירותים ולממשקי ה-API, לא צריך להגדיר אימות. Cloud de Confiance by S3NS

  gcloud

  1. התקינו את ה-CLI של Google Cloud ואז היכנסו ל-CLI של gcloud באמצעות הזהות המאוחדת שלכם. אחרי שנכנסתם לחשבון, אתחלו את ה-CLI של Google Cloud באמצעות הפקודה הבאה:

     gcloud init

• הגדרת אזור ותחום כברירת מחדל

REST

כדי להשתמש בסביבת פיתוח מקומית בדוגמאות של API בארכיטקטורת REST שבדף הזה, צריך להשתמש בפרטי הכניסה שאתם נותנים ל-CLI של gcloud.

התקינו את ה-CLI של Google Cloud ואז היכנסו ל-CLI של gcloud באמצעות הזהות המאוחדת שלכם.

מידע נוסף מופיע במאמר אימות לשימוש ב-REST במסמכי האימות של Cloud de Confiance .

תמחור

התאמה אוטומטית לעומס חיזויית היא בחינם. עם זאת, אם מפעילים את התכונה 'שינוי גודל אוטומטי מבוסס-תחזיות' כדי לבצע אופטימיזציה של הזמינות, משלמים על משאבי Compute Engine שקבוצת ה-MIG משתמשת בהם.

מגבלות

• שינוי גודל אוטומטי חזוי פועל רק עם ניצול CPU כמדד לשינוי הגודל. אין תמיכה במדדים של Cloud Load Balancing או Cloud Monitoring.
• כדי ש-Compute Engine יוכל ליצור תחזיות, הוא צריך 3 ימים של היסטוריית שינוי גודל אוטומטי שמבוסס על מעבד.
• התחזיות מבוססות על דפוסי עומס שבועיים ויומיים. ‫Compute Engine לא חוזה אירועים חודשיים, שנתיים או חד-פעמיים, והוא לא חוזה דפוסי עומס שנמשכים פחות מ-10 דקות. אתם יכולים להשתמש בשינוי גודל אוטומטי מבוסס-לוח זמנים כדי לבקש קיבולת עבור דפוסים חד-פעמיים או דפוסי עומס אחרים.

עומסי עבודה מתאימים

התאמה אוטומטית לעומס מבוססת-תחזיות פועלת בצורה הכי טובה אם עומס העבודה עומד בקריטריונים הבאים:

• האתחול של האפליקציה נמשך זמן רב – למשל, אם הגדרתם תקופת אתחול של יותר מ-2 דקות.
• עומס העבודה משתנה באופן צפוי במחזורים יומיים או שבועיים.

אם לוקח הרבה זמן לאתחל את השירות, יכול להיות שהמשתמשים יחוו זמן אחזור בשירות אחרי אירוע של הרחבת קנה מידה, כלומר בזמן שהמכונות הווירטואליות החדשות מוקצות אבל עדיין לא משרתות. התאמה אוטומטית לעומס חיזוי לוקחת בחשבון את זמן האתחול של האפליקציה ומרחיבה אופקית בהתאם לעומס לפני העלייה הצפויה בשימוש, כדי להבטיח שמספר המכונות הזמינות של שרתים יהיה מספיק לניצול היעד.

כדי לראות תצוגה מקדימה של ההשפעה של המידרוג האוטומטי החזוי על הקבוצה, אפשר לעיין במאמר בנושא בדיקה אם מידרוג אוטומטי חזוי מתאים לעומס העבודה.

הפעלה והשבתה של שינוי גודל אוטומטי חזוי

אפשר להפעיל התאמה חזויה לעומס (auto-scaling) כשמבצעים התאמה לעומס על סמך ניצול המעבד. מידע נוסף על הגדרת התאמה אוטומטית לעומס שמבוססת על מעבד זמין במאמר בנושא שינוי גודל שמבוסס על ניצול המעבד.

אם ל-MIG אין היסטוריה של שינוי גודל אוטומטי, יכול להיות שיחלפו 3 ימים עד שהאלגוריתם החזוי ישפיע על שינוי הגודל האוטומטי. במהלך התקופה הזו, הקבוצה גדלה על סמך נתונים בזמן אמת בלבד. אחרי 3 ימים, הקבוצה מתחילה להתרחב על סמך תחזיות. ככל שנאספים יותר נתונים היסטוריים על העומס, כך המערכת לשינוי גודל אוטומטי מבוסס-חיזוי מבינה טוב יותר את דפוסי העומס, והתחזיות שלה משתפרות. מערכת Compute Engine משתמשת בהיסטוריית העומסים של קבוצת ה-MIG שלכם מ-3 השבועות האחרונים כדי להזין את מודל למידת המכונה.

gcloud compute instance-groups managed set-autoscaling MIG_NAME \
  --cpu-utilization-predictive-method optimize-availability \
  --target-cpu-utilization 0.75 \
  --max-num-replicas 20 \
  --cool-down-period 300

gcloud compute instance-groups managed update-autoscaling MIG_NAME \
  --cpu-utilization-predictive-method=optimize-availability

PATCH https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/autoscalers?autoscaler=AUTOSCALER_NAME

{
  "target": "https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instanceGroupManagers/MIG_NAME",
  "autoscalingPolicy": {
    "cpuUtilization": {
       "utilizationTarget": 0.75,
       "predictiveMethod": "OPTIMIZE_AVAILABILITY"
     },
    "maxNumReplicas": 20,
    "coolDownPeriodSec": 300
  }
}

בדיקה אם המידרוג האוטומטי החזוי מופעל

כדי לראות את הגדרות המידרוג האוטומטי הנוכחיות של קבוצת MIG, אפשר לעיין במאמר בנושא קבלת המאפיינים של קבוצת MIG.

הגדרת התאמה לעומס (autoscaling) על סמך חיזוי

מידע נוסף על הגדרת יעד הניצול, מספר המופעים המינימלי והמקסימלי ותקופת האתחול זמין במאמר שינוי גודל על סמך ניצול יחידת העיבוד המרכזית (CPU). כשמגדירים את האפשרויות האלה, הכלי לשינוי גודל אוטומטי מבוסס-חיזוי פועל כדי לשמור על כל המופעים ברמת הניצול של היעד שהגדרתם, במסגרת הגבולות המינימליים והמקסימליים של הקבוצה, באותו אופן שבו פועל כלי לשינוי גודל אוטומטי בזמן אמת.

משתמשים בהגדרה של תקופת האתחול כדי להביא בחשבון את הזמן שנדרש לאתחול האפליקציה. ההגדרה הזו משפיעה על כמה זמן מראש מתחיל כלי ההתאמה האוטומטית החזוי להוסיף מופעים חדשים לפני העלייה הצפויה בעומס, כדי שהאפליקציה תהיה מוכנה לטפל בעומס כשהוא יגיע.

בדיקה אם שינוי גודל אוטומטי חזוי מתאים לעומס העבודה

כדי לבדוק אם שינוי הגודל האוטומטי החזוי יכול לשפר את הזמינות של האפליקציה, אפשר להשוות בין הביצועים של ההגדרה הנוכחית של שינוי הגודל האוטומטי שמבוסס על CPU בקבוצה לבין הביצועים של שינוי הגודל האוטומטי החזוי. לא צריך להפעיל את התכונה 'שינוי גודל אוטומטי חזוי' כדי לבצע את ההשוואה.

מידע נוסף על עומסי עבודה שמתאימים לשינוי גודל אוטומטי חזוי זמין במאמר עומסי עבודה מתאימים.

בדיקה של עומסים

קבוצת ה-MIG עם שינוי הגודל האוטומטי עמוסה מדי אם השימוש הממוצע במעבד שלה חורג מהיעד שהגדרתם. כדי לבדוק אם הגדרת ההתאמה האוטומטית לעומס גרמה לעומס יתר במכונות וירטואליות ב-7 הימים האחרונים, וכדי לראות אם התאמה אוטומטית לעומס חזויה יכולה להפחית את עומסי היתר, מבצעים את השלבים הבאים:

1. נכנסים לדף Instance groups במסוף.

   כניסה לדף Instance groups

2. לוחצים על קבוצת MIG קיימת שמוגדרת בה התאמה אוטומטית לעומס על סמך השימוש במעבד. ייפתח דף הסקירה הכללית של הקבוצה.

3. לוחצים על Edit.

4. לוחצים על גודל הקבוצה והתאמה אוטומטית לעומס כדי להרחיב את הקטע.

5. בקטע Autoscaling, מתחת לAutoscaling signals, מרחיבים את הקטע CPU utilization ולוחצים על See if predictive autoscaling can optimize your availability.

6. הטבלה מציגה את מספר המכונות הווירטואליות שהיו בשימוש בכל יום ואת מספר המכונות הווירטואליות שהיו בעומס יתר בכל יום, על סמך נתונים מ-7 הימים האחרונים.

   • הגדרת התאמה אוטומטית לעומס הנוכחית: מציגה את הביצועים של המידרוג האוטומטי על סמך ההגדרה שלו ב-7 הימים האחרונים.
   • עם מידרוג אוטומטי מבוסס-תחזיות שמוגדר ל'אופטימיזציה לזמינות': מוצגים נתוני הביצועים של המידרוג האוטומטי אם הוא היה מופעל ב-7 הימים האחרונים.

אפשר להשתמש בנתון 'מספר המכונות הווירטואליות שנעשה בהן שימוש ביום' כנתון שמייצג את העלויות. לדוגמה, כדי להקטין את מספר המכונות הווירטואליות שעמוסות מדי מדי יום, יכול להיות שהכלי לשינוי גודל אוטומטי מבוסס-חיזוי ייצור מכונות וירטואליות מוקדם יותר ויפעיל אותן למשך זמן ארוך יותר, מה שיוביל לחיובים נוספים.

מעקב וסימולציה של התאמה לעומס (autoscaling) חיזוי

אתם יכולים להשתמש ב-Cloud Monitoring כדי להציג את הגודל ההיסטורי של הקבוצה. בתרשים המעקב מוצגות התוצאות של ההתאמה האוטומטית לעומס של הקבוצה לאורך זמן, וגם התוצאות של ההתאמה האוטומטית לעומס החזוי, אם הוא מופעל.

אם השבתתם את התכונה 'התאמה אוטומטית לעומס חזוי' בקבוצות, אתם יכולים להשתמש בכלי הזה כדי לדמות את התכונה לפני שתפעילו אותה.

1. נכנסים לדף Instance groups במסוף.

   כניסה לדף Instance groups

2. לוחצים על קבוצת MIG קיימת שמוגדרת בה התאמה אוטומטית לעומס על סמך השימוש במעבד. ייפתח דף הסקירה הכללית של הקבוצה.

3. לוחצים על Monitoring כדי לראות תרשימים שקשורים לקבוצה.

4. בתרשים הראשון, לוחצים על הכותרת שלו ובוחרים באפשרות שינוי גודל אוטומטי חזוי. בתצוגה הזו אפשר לראות את הגודל בפועל של הקבוצה ואת הגודל הצפוי שלה.

5. אפשר לבחור טווח זמן אחר כדי לראות היסטוריה נוספת, או להתמקד בתקופה שבה הביקוש גדל כדי לראות איך ההתאמה האוטומטית לעומס משפיעה על גודל הקבוצה לפני העומס הצפוי.

איך פועל שינוי גודל אוטומטי מבוסס-חיזוי

התכונה 'שינוי גודל אוטומטי חזוי' חוזה את מדד שינוי הגודל על סמך המגמות ההיסטוריות של המדד. התחזיות מחושבות מחדש כל כמה דקות, וכך המערכת האוטומטית לשינוי גודל יכולה להתאים במהירות את התחזית לשינויים האחרונים בעומס. כדי לספק תחזיות, הכלי לשינוי גודל אוטומטי חזוי צריך נתונים היסטוריים של 3 ימים לפחות, שעל סמך הם הוא יכול לקבוע דפוס מייצג של שימוש בשירות. מערכת Compute Engine משתמשת בהיסטוריית העומסים של קבוצת ה-MIG שלכם מ-3 השבועות האחרונים כדי להזין את מודל למידת המכונה.

הכלי לשינוי גודל אוטומטי מבוסס-חיזוי מחשב את מספר המכונות הווירטואליות שנדרשות כדי להשיג את יעד הניצול שהגדרתם, על סמך גורמים רבים, כולל:

• הערך העתידי החזוי של מדד ההרחבה
• הערך הנוכחי של מדד ההתאמה
• רמת הביטחון במגמות קודמות, כולל השונות הקודמת של מדד ההתאמה
• תקופת האתחול של האפליקציה שהוגדרה, שנקראת גם תקופת האתחול

על סמך גורמים כאלה, הכלי לשינוי גודל אוטומטי מבוסס-תחזיות מגדיל את קבוצת המכונות לפני שהביקוש צפוי לעלות.

איור 1. השוואה בין מכונות וירטואליות להצגת מודעות עם התאמה אוטומטית לעומס חזויה לבין מכונות וירטואליות להצגת מודעות ללא התאמה אוטומטית לעומס חזויה.

באיור 1, הקו הכחול מראה ביקוש גדל למכונות וירטואליות. הקו השחור מראה את התגובה של קנה המידה האוטומטי: נוספים מכונות וירטואליות. עם זאת, באפליקציות עם זמני אתחול ארוכים, הקו האפור מראה שהמכונות הווירטואליות שנוספו צריכות עוד זמן לפני שהן מוכנות להפעלה, ולכן יכול להיות שלא יהיו מספיק מכונות וירטואליות להפעלה כדי לעמוד בדרישה. כשהתכונה 'התאמה אוטומטית לעומס חזויה' מופעלת, המערכת לוקחת בחשבון את הגידול הצפוי בביקוש ואת זמן האתחול הארוך של האפליקציה. המידרוג האוטומטי מגיב על ידי הוספת מכונות וירטואליות מוקדם יותר, וכך נוצר מספר מספיק של מכונות וירטואליות שמספקות שירות. כדי להגדיר כמה זמן מראש יתווספו מופעים חדשים, צריך להגדיר את תקופת ההפעלה.

נתוני שימוש בזמן אמת

הכלי לשינוי גודל אוטומטי מבוסס חיזוי לא יכול לקבוע דפוס לכל השינויים העתידיים בשימוש על סמך נתונים היסטוריים, ולכן הוא פועל בצורה חלקה גם עם נתונים בזמן אמת. לדוגמה, אירוע חדשותי בלתי צפוי עשוי להוביל לעלייה חדה בשימוש, שלא ניתן היה לחזות אותה על סמך ההיסטוריה בלבד. כדי להתמודד עם שינויים בלתי צפויים כאלה בעומס, הכלי לשינוי גודל אוטומטי מבוסס-חיזוי מגיב באופן הבא:

• התחזיות מותאמות: המערכת מחשבת מחדש את התחזיות כל הזמן, תוך דקות, כדי שהן ישקפו את הנתונים העדכניים ביותר. התזמון המדויק של ההתאמות לדפוסים חדשים תלוי, בין היתר, במידת החזרה של הדפוס החדש ובגודל ההבדל בין הדפוס החדש לבין התחזיות הקודמות.
• הוא מתבסס על נתונים בזמן אמת: מספר המופעים המומלץ של קנה המידה האוטומטי, על סמך ערכים בזמן אמת של המדד, תמיד מספיק כדי לעמוד ביעד הניצול של הקבוצה. אם הערך הנוכחי של אות בזמן אמת גבוה מהתחזית, הערך הנוכחי של האות מקבל עדיפות על פני התחזית. כתוצאה מכך, ל-MIGs שמופעל בהם שינוי גודל אוטומטי מבוסס-חיזוי יש תמיד זמינות גבוהה יותר מאשר ל-MIGs שלא מופעל בהם שינוי גודל אוטומטי מבוסס-חיזוי.

איור 2. שני תרשימים מראים איך התחזיות מותאמות לשימוש בפועל במעבד.

באיור 2, הקו המקווקו הצהוב מראה את התחזית בזמן t₁. אבל השימוש בפועל במעבד, שמוצג על ידי הקו הכחול הרציף, שונה מהשימוש שחזיתם. בתרשים הימני, השימוש בפועל במעבד גבוה מהשימוש הצפוי. בתרשים השמאלי, השימוש בפועל במעבד נמוך מהשימוש הצפוי. הקו המקווקו הכחול מייצג את התחזית המותאמת.

עליות חדות קצרות ולא צפויות

התנודות הקצרות והבלתי צפויות מכוסות בזמן אמת. הכלי לשינוי גודל אוטומטי יוצר לפחות את מספר המופעים שנדרש כדי לשמור על רמת הניצול בערך היעד שהוגדר, על סמך הערך הנוכחי של המדד. עם זאת, המקרים האלה לא נוצרים מראש, כמו שמוצג באיור הבא.

איור 3. עלייה קצרה ובלתי צפויה גורמת למערכת לשינוי גודל אוטומטי להגיב בזמן אמת.

באיור 3, הקו הכחול הרציף מייצג את השימוש בפועל במעבד. לא ניתן היה לחזות עלייה בלתי צפויה בשימוש במעבד. מכיוון שהכלי לשינוי גודל אוטומטי תמיד עוקב אחרי נתונים בזמן אמת, הוא מוסיף מופעים כדי להתמודד עם העלייה החדה. הקו השחור הרציף ממחיש את התוספת התגובתית של מכונות וירטואליות על ידי הכלי לשינוי גודל קבוצת המכונות, בתגובה לעלייה החדה. הקו האפור הרציף מראה את מספר מכונות ה-VM שמשרתות את התנועה. הקו האפור מפגר אחרי הקו השחור בגלל זמן האתחול של האפליקציה. במקרה כזה, הקבוצה עמוסה מדי באופן זמני.

ירידות פתאומיות

סוג נוסף של שינוי בלתי צפוי בשימוש הוא ירידה פתאומית, למשל ירידה שנגרמת בגלל כשל בחלק מערימת האפליקציות. במקרה כזה, מספר המופעים הראשוני תואם לתחזית. עם זאת, לאורך זמן, התחזית תתעדכן בהתאם לשימוש הנמוך מהתחזית, וכתוצאה מכך תתבצע הקטנה של הקיבולת. התזמון המדויק של ההתאמה הזו תלוי בגורמים רבים, כולל: באיזו תדירות התבנית הופיעה בעבר, כמה זמן נמשכת נקודת השפל וכמה עמוקה נקודת השפל.

איור 4. ירידה פתאומית גורמת לשינוי בתחזית של הכלי האוטומטי לשינוי גודל משאבים.

באיור 4, הקו המקווקו הצהוב מראה את התחזית בזמן t₁. אבל השימוש בפועל במעבד, שמוצג על ידי הקו הכחול הרציף, היה נמוך מהצפי. הקו המקווקו הכחול מראה את התחזית המעודכנת, שהותאמה אוטומטית אחרי שנצפה שימוש נמוך מהתחזית. כתוצאה מכך, המערכת לשינוי גודל משאבים מסירה מכונות וירטואליות אחרי תקופת הייצוב הרגילה.

נתונים היסטוריים

כדי להתחיל את התחזית, כלי ההתאמה האוטומטית לשינויים בעומס העבודה צריך לפחות 3 ימים של נתוני עומס היסטוריים. אם יש לכם קבוצת MIG חדשה שאין לה נתונים היסטוריים, מערכת Compute Engine משנה את גודל הקבוצה באופן תגובתי באמצעות נתונים בזמן אמת, עד שיהיו מספיק נתונים היסטוריים. אחרי 3 ימים, כשהמערכת של Compute Engine אוספת נתוני שימוש נוספים, התחזיות משתפרות.

אם מעדכנים את האפליקציה על ידי יצירת MIG חדש ומחיקת ה-MIG הישן – למשל, פריסה מסוג blue-green – ה-MIG החדש צריך 3 ימים של נתוני היסטוריית עומס לפני שהתכונה 'שינוי גודל אוטומטי חזוי' יכולה להתחיל ליצור תחזיות שוב. אם רוצים לשמור את היסטוריית הטעינה בכל קבוצות ה-MIG כדי שהתחזיות יתחילו מיד כשיוצרים קבוצת MIG חדשה, אפשר ליצור איתנו קשר ולבקש הוראות להצטרפות לתצוגה מקדימה פרטית.

המאמרים הבאים

• מידע נוסף על ניהול של קנה מידה אוטומטי
• איך הכלי לשינוי גודל משנה את הגודל
• איך משתמשים בכמה אותות של שינוי גודל אוטומטי כדי לשנות את גודל הקבוצה.