סקירה כללית על שירותים לקצה העורפי

שירות לקצה העורפי מגדיר איך Cloud Load Balancing מבזר את תעבורת הנתונים. ההגדרה של שירות הקצה העורפי מכילה קבוצה של ערכים, כמו הפרוטוקול שמשמש לחיבור לקצה העורפי, הגדרות שונות של הפצה וסשן, בדיקות תקינות וזמני קצוב. ההגדרות האלה מאפשרות לכם לשלוט בצורה מדויקת בהתנהגות של מאזן העומסים. כדי להתחיל, לרוב ההגדרות יש ערכי ברירת מחדל שמאפשרים הגדרה מהירה. ההיקף של שירות קצה עורפי הוא אזורי.

מאזני עומסים, שרתי proxy של Envoy ולקוחות gRPC בלי שרת Proxy משתמשים בפרטי ההגדרה במשאב שירות לקצה העורפי כדי לבצע את הפעולות הבאות:

• הפניית תנועה ישירות אל הקצה העורפי הנכון, שהוא קבוצות מופעים או קבוצות של נקודות קצה ברשת (NEGs).
• חלוקת התנועה לפי מצב איזון, שהוא הגדרה לכל שרת קצה.
• קובעים איזו בדיקת תקינות עוקבת אחרי התקינות של השרתים העורפיים.
• מציינים session affinity.

מגדירים את הערכים האלה כשיוצרים שירות לקצה העורפי או כשמוסיפים בק-אנד לשירות לקצה העורפי.

בטבלה הבאה מפורטים מאזני העומסים שמשתמשים בשירותים לקצה העורפי. המוצר שבו אתם משתמשים קובע גם את המספר המקסימלי של שירותים לקצה העורפי, את ההיקף של שירות לקצה העורפי, את סוגי הקצה העורפי הנתמכים ואת סכימת איזון העומסים של השירות לקצה העורפי. סכמת איזון העומסים היא מזהה ש-Google משתמשת בו כדי לסווג כללי העברה ושירותי בק-אנד. כל מוצר לאיזון עומסים משתמש בסכמת איזון עומסים אחת לכללי ההעברה ולשירותים לקצה העורפי. יש סכימות שמשותפות בין מוצרים.

מתן שמות למאזני עומסים

במאזני עומסים מסוג Proxy Network Load Balancer ומאזני עומסים מסוג Passthrough Network Load Balancer, השם של מאזן העומסים תמיד זהה לשם של שירות לקצה העורפי. ההתנהגות של כל ממשק Cloud de Confiance היא כדלקמן:

• Cloud de Confiance console. אם יוצרים מאזן עומסי רשת בשרת proxy או מאזן עומסי רשת במצב העברה (passthrough) באמצעות המסוף Cloud de Confiance , שירות הקצה העורפי מקבל אוטומטית את אותו שם שהוזן עבור שם מאזן העומסים.
• ‫Google Cloud CLI או API. אם יוצרים מאזן עומסי רשת מסוג proxy או מאזן עומסי רשת מסוג העברה (passthrough) באמצעות ה-CLI של gcloud או ה-API, צריך להזין שם לבחירה בזמן יצירת שירות הקצה העורפי. השם של שירות הקצה העורפי הזה משתקף במסוף Cloud de Confiance כשם של מאזן העומסים.

מידע נוסף על מתן שמות למאזני עומסים של אפליקציות זמין במאמר סקירה כללית של מיפוי כתובות URL: מתן שמות למאזני עומסים.

קצה עורפי

בקצה העורפי יש נקודת קצה אחת או יותר שמקבלות תעבורת נתונים מ Cloud de Confiance by S3NSמאזן עומסים או מלקוח gRPC בלי שרת Proxy. יש כמה סוגים של שרתים עורפיים:

• קבוצת מכונות שמכילה מכונות וירטואליות (VM). קבוצת מופעים יכולה להיות קבוצת מופעים מנוהלת (MIG), עם או בלי שינוי גודל אוטומטי, או שהיא יכולה להיות קבוצת מופעים לא מנוהלת. יותר משירות קצה עורפי אחד יכול להפנות לקבוצת מכונות, אבל כל שירותי הקצה העורפי שמפנים לקבוצת המכונות חייבים להשתמש במצבי איזון תואמים. מידע נוסף מופיע בקטע הגבלות והנחיות לגבי קבוצות של מכונות וירטואליות.
• Zonal NEG
• Private Service Connect NEG
• NEG באינטרנט
• קבוצת נקודות קצה (NEG) לקישוריות היברידית
• מיפוי יציאות של NEG
• Service Directory service bindings (תצוגה מקדימה)
• עורפי קצה של שירותים שפורסמו (גרסת Preview)

אי אפשר למחוק קבוצת מופעים או NEG בעורף העורף שמשויכים לשירות עורף עורף. לפני שמוחקים קבוצת מופעים או NEG, צריך קודם להסיר אותה כקצה עורפי מכל שירותי הקצה העורפי שמפנים אליה.

קבוצות של מכונות

בקטע הזה מוסבר איך קבוצות של מכונות וירטואליות עובדות עם שירות לקצה העורפי.

מכונות וירטואליות בעורף וכתובות IP חיצוניות

מכונות וירטואליות בבק-אנד בשירותי בק-אנד לא צריכות כתובות IP חיצוניות:

• במאזני עומסים אזוריים חיצוניים של אפליקציות (ALB) ובמאזני עומסי רשת אזוריים חיצוניים לשרת proxy: לקוחות מתקשרים עם שרת proxy מנוהל של Envoy שמארח את כתובת ה-IP החיצונית של מאזן העומסים. שרת ה-proxy של Envoy ממוקם ברשת משנה של שרת proxy בלבד. כל שרת proxy של Envoy מתקשר עם מכונות וירטואליות או נקודות קצה של backend בהתאם לכללים הבאים:

  • ממשק רשת עם איזון עומסים: ממשק הרשת שאליו שרת ה-proxy של Envoy שולח את תעבורת הבקשות תלוי בסוג קבוצת השרתים העורפיים:

    • במכונות וירטואליות לקצה העורפי שמשתייכות לקבוצת מכונות, מאזן העומסים תמיד מעביר חבילות לממשק nic0 של כל מכונה וירטואלית לקצה העורפי. הכלל הזה תקף גם אם למכונה הווירטואלית יש כמה ממשקי רשת באותן רשתות VPC או ברשתות VPC שונות.

    • בGCE_VM_IP_PORTקצה עורפי של NEG אזורי, מאזן העומסים מעביר חבילות לממשק הרשת שאליו משויכת כתובת ה-IP של נקודת הקצה. במכונות וירטואליות לקצה העורפי עם כמה ממשקי רשת, ממשק הרשת יכול להיות בכל רשת VPC, בכפוף לחריג הבא: אם למכונה וירטואלית לקצה העורפי יש ממשק nic0 וממשק אחד או יותר שאינם nic0 באותה רשת VPC, אז מתוך קבוצת ממשקי הרשת באותה רשת VPC, מאזן העומסים מעביר חבילות רק לממשק הרשת nic0.

  • כתובת ה-IP של היעד בממשק עם איזון העומסים: שרת ה-proxy של Envoy שולח תעבורת בקשות שחבילות הנתונים שלה כוללות את כתובות ה-IP הבאות של היעד:

    • עבור קצה עורפי של קבוצת מופעים, יעד החבילה הוא כתובת ה-IPv4 הפנימית הראשית של nic0 ממשק הרשת או כתובת ה-IPv6 הראשונה מתוך טווח ה-IPv6‏ /96 שהוקצה לממשק nic0, בהתאם למדיניות בחירת כתובת ה-IP של שירות הקצה העורפי וסוג מחסנית ממשק הרשת./128

    • עבור קצה עורפי של NEG אזורי ב-GCE_VM_IP_PORT, יעד החבילה תואם לכתובת IP של נקודת קצה שצוינה ב-NEG, בהתאם למדיניות בחירת כתובת ה-IP של שירות הקצה העורפי ולסוג מחסנית ממשק הרשת. לכתובות IP חוקיות של נקודות קצה, ראו NEGs עם נקודות קצה.GCE_VM_IP_PORT אם למכונה וירטואלית של קצה עורפי יש ממשק nic0 וממשק אחד או יותר שאינם nic0 באותה רשת VPC, אז מתוך קבוצת ממשקי הרשת באותה רשת VPC, אפשר לציין רק כתובת IP של נקודת קצה שמשויכת לממשק הרשת nic0.

• במאזנים אזוריים חיצוניים של עומסי רשת להעברת סיגנל ללא שינוי: לקוחות מתקשרים ישירות עם שרתי קצה עורפיים באמצעות תשתית Maglev של Google. החבילות מנותבות ונמסרות לשרתי קצה עורפיים עם כתובות ה-IP המקוריות של המקור והיעד. מאזן העומסים מעביר חבילות לאחד מממשקי הרשת הבאים:

  • במאזני עומסים אזוריים חיצוניים של רשתות להעברת סיגנל ללא שינוי שמבוססים על מאגרי יעד, מאזן העומסים תמיד מעביר חבילות לnic0 הממשק.

  • במאזני עומסי רשת אזוריים חיצוניים להעברת סיגנל ללא שינוי שמבוססים על שירותים לקצה העורפי עם קצה עורפי של קבוצת מכונות, מאזן העומסים תמיד מעביר חבילות ל-interface‏ nic0. מידע נוסף זמין במאמר בנושא עורפי קצה של קבוצות מופעים וממשקי רשת.

  • במאזני עומסים אזוריים חיצוניים של רשת להעברת סיגנל ללא שינוי שמבוססים על שירותים לקצה העורפי עם קצוות עורפיים של GCE_VM_IP NEG, מאזן העומסים מעביר מנות לכרטיס הרשת שתואם לכרטיס הרשת של ה-NEG. מידע נוסף זמין במאמר בנושא קצוות עורפיים של NEG אזוריים וממשקי רשת.

  • אם למכונת קצה עורפי יש ממשק nic0 וממשק אחד או יותר שאינם nic0 באותה רשת VPC, מאזן העומסים מעביר חבילות רק לממשק הרשת nic0 מתוך קבוצת ממשקי הרשת באותה רשת VPC.

• מאזני עומסים פנימיים מסוג העברת תעבורה: לקוחות מתקשרים ישירות עם שרתי קצה עורפיים באמצעות מערך וירטואליזציה של רשת Andromeda. החבילות מנותבות ונמסרות לשרתי קצה עורפיים עם כתובות ה-IP המקוריות של המקור והיעד. בבק-אנד של קבוצות מכונות ובבק-אנד של GCE_VM_IPNEG, מאזן העומסים מעביר מנות לממשק רשת ברשת ה-VPC של שירות הבק-אנד:

  • אפשר לציין במפורש את רשת ה-VPC של שירות ה-Backend, או שהיא יכולה להיות מושפעת מקבוצת המופעים הראשונה של השרת העורפי (backend instance) או מ-NEG שנוספו לשירות ה-Backend, או מכלל ההעברה הראשון שמפנה לשירות ה-Backend. מידע נוסף זמין במאמר מפרט של רשת שירותי קצה עורפי.

  • אם למכונת קצה עורפי יש ממשק nic0 וממשק אחד או יותר שאינם nic0 באותה רשת VPC, מאזן העומסים מעביר חבילות רק לממשק הרשת nic0 מתוך קבוצת ממשקי הרשת באותה רשת VPC.

יציאות עם שם

המאפיין named port של שירות הקצה העורפי רלוונטי רק למאזני עומסים מבוססי-proxy (מאזני עומסים של אפליקציות ומאזני עומסי רשת של proxy) שמשתמשים בקצה עורפי של קבוצת מופעים. היציאה עם השם מגדירה את יציאת היעד שמשמשת לחיבור TCP בין ה-proxy‏ (GFE או Envoy) לבין מופע הקצה העורפי.

הגדרת יציאות עם שמות:

• בכל קצה עורפי של קבוצת מופעים, צריך להגדיר יציאה אחת או יותר עם שם באמצעות צמדי מפתח/ערך. המפתח מייצג שם יציאה משמעותי שאתם בוחרים, והערך מייצג את מספר היציאה שאתם מקצים לשם. המיפוי של השמות למספרים מתבצע בנפרד לכל קצה עורפי של קבוצת מופעים.

• בשירות לקצה העורפי, מציינים יציאה אחת עם שם באמצעות שם היציאה בלבד (--port-name).

שירות לקצה העורפי מתרגם את שם היציאה למספר יציאה על בסיס backend של קבוצת מופעים. כשמספר היציאה שמוגדר לקבוצת מופעים תואם ל---port-name של שירות ה-Backend, שירות ה-Backend משתמש במספר היציאה הזה לתקשורת עם המכונות הווירטואליות של קבוצת המופעים.

לדוגמה, אפשר להגדיר את היציאה עם השם בקבוצת מכונות עם השם my-service-name והיציאה 8888:

gcloud compute instance-groups unmanaged set-named-ports my-unmanaged-ig \
    --named-ports=my-service-name:8888

אחר כך מציינים את היציאה עם השם בהגדרות של שירות הקצה העורפי, כשהערך של --port-name בשירות הקצה העורפי מוגדר כ-my-service-name:

gcloud compute backend-services update my-backend-service \
    --port-name=my-service-name

שירות קצה עורפי יכול להשתמש במספר יציאה שונה כשהוא מתקשר עם מכונות וירטואליות בקבוצות שונות של מופעים, אם כל קבוצת מופעים מציינת מספר יציאה שונה לאותו שם יציאה.

מספר היציאה שמוגדר בשירות לקצה העורפי של מאזן העומסים של ה-proxy לא צריך להיות זהה למספר היציאה שמוגדר בכללי ההעברה של מאזן העומסים. מאזן עומסים מסוג proxy מאזין לחיבורי TCP שנשלחים לכתובת ה-IP וליציאת היעד של כללי ההעברה שלו. הסיבה לכך היא שהפרוקסי פותח חיבור TCP שני לשרתי הקצה שלו, ולכן יציאת היעד של חיבור ה-TCP השני יכולה להיות שונה.

יציאות עם שם רלוונטיות רק לשרתי קצה עורפיים של קבוצות מופעים. ב-NEGs אזוריים עם נקודות קצה (endpoints) מסוג GCE_VM_IP_PORT, ב-NEGs היברידיים עם נקודות קצה מסוג NON_GCP_PRIVATE_IP_PORT וב-NEGs לאינטרנט, היציאות מוגדרות באמצעות מנגנון אחר, כלומר, בנקודות הקצה עצמן.

מאזני עומסים פנימיים של רשתות להעברת סיגנל ללא שינוי ומאזני עומסים אזוריים חיצוניים של רשתות להעברת סיגנל ללא שינוי לא משתמשים ביציאות עם שמות. הסיבה לכך היא שמדובר במאזני עומסים מסוג pass-through שמנתבים חיבורים ישירות לשרתי קצה עורפיים במקום ליצור חיבורים חדשים. החבילות מועברות לקצוות העורפיים תוך שמירה על כתובת ה-IP של היעד והיציאה של כלל ההעברה של מאזן העומסים.

כדי ללמוד איך ליצור יציאות עם שמות, אפשר לעיין בהוראות הבאות:

• קבוצות של מופעים לא מנוהלים: עבודה עם יציאות עם שם
• קבוצות של מופעי מכונה מנוהלים: הקצאת יציאות עם שם לקבוצות של מופעי מכונה מנוהלים

הגבלות והנחיות לגבי קבוצות של מכונות וירטואליות

כשמשתמשים בעורפים של קבוצת מופעים, חשוב לזכור את הנקודות הבאות:

• מופע של מכונת VM יכול להשתייך רק לקבוצת מופעים אחת עם איזון עומסים. לדוגמה, מכונת VM יכולה להיות חברה בשתי קבוצות מופעי מכונה לא מנוהלים, או בקבוצת מופעי מכונה מנוהלים אחת ובקבוצת מופעי מכונה לא מנוהלים אחת. כשמכונה וירטואלית היא חברה בשתי קבוצות מכונות או יותר, רק אחת מקבוצות המכונות יכולה להיות מוזכרת על ידי שירותים לקצה העורפי של מאזן עומסים אחד או יותר.

• אפשר להשתמש באותה קבוצת מופעים בשני שירותי קצה עורפיים או יותר. כל מיפוי בין קבוצת מופעים לשירות לקצה העורפי יכול להשתמש במצב איזון שונה, למעט שילובים לא תואמים של מצבי איזון.

  • השילובים הלא תואמים של מצבי איזון הם:

    • מצב האיזון UTILIZATION לא תואם לכל שאר מצבי האיזון. אם קבוצת מכונות היא קצה עורפי של כמה שירותים לקצה העורפי, קבוצת המכונות חייבת להשתמש במצב האיזון UTILIZATION בכל שירות לקצה העורפי.

    • מצב האיזון CUSTOM_METRICS לא תואם לכל שאר מצבי האיזון. אם קבוצת מכונות היא קצה עורפי של כמה שירותים לקצה העורפי, קבוצת המכונות חייבת להשתמש במצב האיזון CUSTOM_METRICS בכל שירות לקצה העורפי.

  • כתוצאה מהשילובים הלא תואמים של מצבי איזון, אם קבוצת מופעים משתמשת במצב איזון UTILIZATION או CUSTOM_METRICS כבק-אנד לפחות לשירות בק-אנד אחד, אי אפשר להשתמש באותה קבוצת מופעים כבק-אנד למאזן עומסי רשת מסוג 'העברה בלבד' כי מאזני עומסי רשת מסוג 'העברה בלבד' דורשים את מצב האיזון CONNECTION.

• אין פקודה אחת שיכולה לשנות את מצב האיזון של אותה קבוצת מופעים בכמה שירותי בק-אנד. כדי לשנות את מצב האיזון של קבוצת מכונות שהיא קצה עורפי של שני שירותי קצה עורפי או יותר, אפשר להשתמש בטכניקה הזו:

  • מסירים את קבוצת המופעים כקצה עורפי מכל שירותי הקצה העורפי, למעט שירות קצה עורפי אחד.
  • משנים את מצב האיזון של קבוצת המכונות לשירות הבק-אנד שנותר.
  • מוסיפים מחדש את קבוצת המכונות כקצה עורפי לשירותים האחרים לקצה העורפי.

כדאי ליישם את השיטות המומלצות הבאות, שמציעות אפשרויות גמישות יותר:

• מומלץ לא להשתמש באותה קבוצת מופעים כקצה עורפי לשני שירותי קצה עורפי או יותר. במקום זאת, כדאי להשתמש בכמה קבוצות NEG.

  • בניגוד לקבוצות של מכונות וירטואליות, למכונה וירטואלית יכולה להיות נקודת קצה בשתי קבוצות או יותר של NEGs עם איזון עומסים.

  • לדוגמה, אם מכונה וירטואלית צריכה להיות קצה עורפי של מאזן עומסי רשת להעברת סיגנל ללא שינוי וגם של מאזן עומסי רשת לשרת proxy או של מאזן עומסים של אפליקציות, צריך להשתמש בכמה קבוצות NEG עם איזון עומסים. מציבים נקודת קצה של מכונה וירטואלית בקבוצת NEG ייחודית שתואמת לכל סוג של מאזן עומסים. לאחר מכן משייכים כל NEG לשירות הקצה העורפי המתאים של מאזן העומסים.

• כשמשתמשים במדד הניצול של איזון עומסים של HTTP לצורך התאמה אוטומטית לעומס, לא מוסיפים קבוצת מופעי מכונה מנוהלים עם התאמה אוטומטית לעומס ליותר משירות לקצה העורפי אחד. שני שירותי קצה עורפי או יותר שמפנים לאותה קבוצת מופעי מכונה מנוהלים עם התאמה אוטומטית לעומס יכולים לסתור זה את זה, אלא אם מדד ההתאמה האוטומטית לעומס לא קשור לפעילות של איזון העומסים.

קבוצות של נקודות קצה ברשת לפי אזור

נקודות קצה ברשת מייצגות שירותים לפי כתובת ה-IP שלהם או לפי כתובת IP ושילוב של יציאה, במקום להתייחס למכונה וירטואלית בקבוצת מופעים. קבוצה של נקודות קצה ברשת (NEG) היא קבוצה לוגית של נקודות קצה ברשת.

קבוצות אזוריות של נקודות קצה ברשת (NEGs) הן משאבים אזוריים שמייצגים אוספים של כתובות IP או שילובים של כתובות IP ויציאות עבורCloud de Confiance משאבים בתת-רשת אחת.

שירות לקצה העורפי שמשתמש ב-NEGs אזוריים כבק-אנדים שלו מחלק את תעבורת הנתונים בין אפליקציות או קונטיינרים שפועלים בתוך מכונות וירטואליות.

יש שני סוגים של נקודות קצה ברשת שזמינות ל-NEGs אזוריים:

• GCE_VM_IP נקודות קצה (נתמכות רק במאזנים פנימיים של עומסי רשת להעברת סיגנל ללא שינוי ובמאזנים אזוריים של עומסי רשת להעברת סיגנל ללא שינוי שמבוססים על שירותים לקצה העורפי).
• GCE_VM_IP_PORT נקודות קצה.

כדי לראות אילו מוצרים תומכים בעורפי קצה של NEG אזורי, אפשר לעיין בטבלה: שירותי עורף קצה וסוגי עורף קצה נתמכים.

פרטים נוספים מופיעים במאמר סקירה כללית של קבוצות NEGs אזוריות.

קבוצות של נקודות קצה ברשת האינטרנט

קבוצות NEGs באינטרנט הן משאבים שמגדירים בקצה העורפי חיצוני. שרת קצה עורפי חיצוני הוא שרת קצה עורפי שמארח בתוך תשתית מקומית או בתשתית שמסופקת על ידי צדדים שלישיים.

קבוצת נקודות קצה באינטרנט היא שילוב של שם מארח או כתובת IP, בתוספת יציאה אופציונלית. יש שני סוגים של נקודות קצה ברשת שזמינות לקבוצות NEG באינטרנט: INTERNET_FQDN_PORT ו-INTERNET_IP_PORT.

פרטים נוספים מופיעים במאמר סקירה כללית של קבוצת נקודות קצה ברשת האינטרנט.

קצה עורפי של שירות שפורסם

אם רשתות ה-VPC של הספק והצרכן שייכות לאותו ארגון, אפשר לגשת לשירות שפורסם באמצעות קצה עורפי של שירות שפורסם. בק-אנדים של שירותים שפורסמו מאפשרים לכם להגדיר מאזני עומסים נתמכים או Cloud Service Mesh כדי לנתב תנועה לשירותים שפורסמו דרך נקודות קצה של Private Service Connect. כדי להפנות תנועה לשירות שפורסם, משייכים שירות לקצה עורפי אזורי לחיבור שירות. ההגדרה הזו נקראת קצה עורפי של שירות שפורסם.

הבק-אנדים האלה מספקים קישוריות מאוחדת בכך שהם מאפשרים למאזני עומסים נתמכים ול-Cloud Service Mesh לשתף נקודות קצה של Private Service Connect. כדי ליצור את החיבור הזה, צריך לספק הפניה לחיבור השירות של הבעלים של השירות המנוהל. בנוסף, קצה עורפי של שירות שפורסם מאפשר ניהול מתקדם של תעבורת נתונים וניטור, כמו אכיפה של מדיניות אבטחה מרכזית ואיסוף מדדים מרכזיים.

מידע נוסף על הגדרת עורפי קצה של שירותים שפורסמו עבור מאזני עומסים זמין במאמר גישה לשירותים שפורסמו דרך עורפי קצה ונקודות קצה של שירותים שפורסמו.

קצוות עורפיים מעורבים

כשמוסיפים סוגים שונים של שרתים עורפיים לשירות לקצה העורפי יחיד, צריך לקחת בחשבון את שיקולי השימוש הבאים:

• שירות לקצה העורפי יחיד לא יכול להשתמש בו-זמנית גם בקבוצות של מופעים וגם ב-NEGs אזוריים.
• אפשר להשתמש בשילוב של סוגים שונים של קבוצות מופעים באותו שירות קצה עורפי. לדוגמה, שירות קצה עורפי יחיד יכול להפנות לשילוב של קבוצות מנוהלות ולא מנוהלות של מכונות. מידע מלא על שירותי ה-Backend שמתאימים לכל סוג של Backend מופיע בטבלה שבקטע הקודם.
• עם מאזני עומסים מסוימים של פרוקסי, אפשר להשתמש בשילוב של NEGs אזוריים (עם נקודות קצה של GCE_VM_IP_PORT) ו-NEGs של קישוריות היברידית (עם נקודות קצה של NON_GCP_PRIVATE_IP_PORT) כדי להגדיר איזון עומסים היברידי. כדי לראות אילו מאזני עומסים כוללים את היכולת הזו, אפשר לעיין בטבלה: שירותי בק-אנד וסוגי בק-אנד נתמכים.

הפרוטוקול לקצה העורפי

כשיוצרים שירות קצה עורפי, צריך לציין את הפרוטוקול שמשמש לתקשורת עם הקצוות העורפיים. אפשר לציין רק פרוטוקול אחד לכל שירות backend – אי אפשר לציין פרוטוקול משני לשימוש כגיבוי.

הפרוטוקולים התקפים תלויים בסוג מאזן העומסים.

שינוי הפרוטוקול של שירות בק-אנד גורם לכך שאי אפשר לגשת לשרתי הבק-אנד דרך מאזני העומסים למשך כמה דקות.

הצפנה בין מאזן העומסים לבין הקצוות העורפיים

מידע על הצפנה בין מאזן העומסים לבין קצה העורפי זמין במאמר בנושא הצפנה לקצה העורפי.

מצב איזון, קיבולת יעד ושינוי קיבולת

במאזני עומסים של אפליקציות, ב-Cloud Service Mesh ובמאזני עומסי רשת בשרת proxy, מצב האיזון, קיבולת היעד והתאמת הקיבולת הם פרמטרים שאתם מציינים כשאתם מוסיפים קצה עורפי נתמך לשירות לקצה העורפי. מאזני העומסים משתמשים בפרמטרים האלה כדי לנהל את ההפצה של בקשות חדשות או חיבורים חדשים לאזורים שמכילים קצוות עורפיים נתמכים:

• מצב האיזון מגדיר איך מאזן העומסים מודד את הקיבולת. ב-Cloud de Confiance יש את מצבי האיזון הבאים:
  • ‫CONNECTION: מגדיר את הקיבולת על סמך מספר חיבורי ה-TCP החדשים.
  • ‫RATE: מגדיר את הקיבולת על סמך קצב בקשות ה-HTTP החדשות.
  • ‫UTILIZATION: הגדרה של הקיבולת על סמך ניצול ה-CPU המשוער של מכונות וירטואליות באזור של קבוצת מכונות.
  • ‫CUSTOM_METRICS: מגדיר את הקיבולת על סמך מדדים מותאמים אישית שהוגדרו על ידי המשתמש.
• המאפיין target capacity מגדיר את מספר קיבולת היעד.
  • קיבולת היעד לא משמשת כמפסק.
  • כשניצול הקיבולת מגיע לקיבולת היעד, מאזן העומסים מפנה בקשות חדשות או חיבורים חדשים לאזור אחר אם ה-Backend מוגדר בשני אזורים או יותר.
  • מאזני עומסים גלובליים חיצוניים של אפליקציות (ALB), מאזני עומסים גלובליים חיצוניים של רשתות proxy, מאזני עומסים פנימיים של אפליקציות (ALB) חוצי-אזורים ומאזני עומסים פנימיים של רשתות proxy חוצי-אזורים משתמשים גם הם בקיבולת כדי להפנות בקשות לאזורים באזורים שונים, אם הגדרתם בק-אנד ביותר מאזור אחד.
  • כשכל האזורים מגיעים לקיבולת היעד, המערכת מחלקת את הבקשות החדשות או החיבורים החדשים על ידי מילוי יתר באופן יחסי.
• כלי להגדלת הקיבולת מאפשר להגדיל את קיבולת היעד באופן ידני. הערכים של קנה המידה של הקיבולת הם:
  • ‫0: מציין שהקצה העורפי ריק לחלוטין. אי אפשר להשתמש בערך 0 אם לשירות העורפי יש רק עורף אחד.
  • ‫0.1 (10%) – 1.0 (100%): מציין את אחוז הקיבולת של העורף שנעשה בו שימוש.

מאזני עומסי רשת להעברת סיגנל ללא שינוי משתמשים באופן סמלי במצב איזון CONNECTION, אבל לא תומכים בקיבולת יעד או בשינוי קיבולת. מידע נוסף על האופן שבו מאזני עומסי רשת להעברת סיגנל ללא שינוי מחלקים חיבורים חדשים זמין במאמרים הבאים:

• חלוקת התנועה במאזני עומסי רשת פנימיים להעברת סיגנל ללא שינוי
• חלוקת התנועה במאזני עומסים אזוריים חיצוניים של רשתות להעברת סיגנל ללא שינוי

שרתי קצה עורפיים נתמכים

במאזני עומסים של אפליקציות, ב-Cloud Service Mesh ובמאזני עומסי רשת של שרת proxy, סוגי הקצה העורפי הבאים תומכים בפרמטרים של מצב האיזון, קיבולת היעד והתאמת הקיבולת:

• בקצה העורפי של קבוצות של מכונות
• קבוצות אזוריות של נקודות קצה של רשתות (NEGs) עם GCE_VM_IP_PORT נקודות קצה
• קבוצות אזוריות של נקודות קצה של קישוריות היברידית (NEGs)

‫NEGs של אינטרנט, NEGs של serverless ו-NEGs של Private Service Connect לא תומכים בפרמטרים של מצב איזון, קיבולת יעד ושינוי קיבולת.

מצבי איזון למאזני עומסים של אפליקציות (ALB) ול-Cloud Service Mesh

מצבי האיזון שזמינים לקצה העורפי של מאזן עומסים של אפליקציות ושל Cloud Service Mesh תלויים בסוג הקצה העורפי הנתמך ובהגדרה של משך התנועה.

הגדרת משך הזמן של התנועה

בשרתי קצה עורפיים של Application Load Balancer ו-Cloud Service Mesh, אפשר לציין הגדרה של משך התנועה. ההגדרה הזו ייחודית למיפוי בין קצה עורפי נתמך לבין שירות קצה עורפי. להגדרת משך התנועה יש שני ערכים תקינים:

• ‫SHORT: מומלץ לבקשות HTTP שהתשובות עליהן מגיעות מהשרתים העורפיים תוך פחות משנייה. אם לא מציינים במפורש את משך התנועה, מאזן העומסים פועל כאילו צוין SHORT.
• ‫LONG: מומלץ לבקשות HTTP שבהן לשרת העורפי נדרשת יותר משנייה אחת כדי ליצור תגובות.

כדי להגדיר באופן מפורש את משך התנועה כשמוסיפים קצה עורפי לשירות קצה עורפי, מבצעים אחת מהפעולות הבאות:

• מריצים את הפקודה gcloud compute backend-services add-backend עם הדגל --traffic-duration.
• יוצרים שירות קצה עורפי או מעדכנים שירות קצה עורפי עם המאפיין trafficDuration.

מצבי איזון למשך תנועה קצר

אם לא מציינים את הגדרת משך התעבורה או אם היא מוגדרת ל-SHORT, מצבי האיזון שזמינים עבור מאזני עומסים של אפליקציות וקצוות עורפיים של Cloud Service Mesh תלויים בסוג הקצה העורפי הנתמך.

מצבי איזון למשכי תנועה ארוכים

כשההגדרה של משך התעבורה היא LONG, מצבי האיזון שזמינים לקצה העורפי של מאזן העומסים של האפליקציה ושל Cloud Service Mesh תלויים בסוג הקצה העורפי הנתמך.

מצבי איזון למאזני עומסים של רשת בשרת proxy

מצבי האיזון שזמינים לבק-אנד של מאזן עומסי רשת לשרת proxy תלויים בסוג הבק-אנד הנתמך.

מפרטים של קיבולת היעד

הגדרות קיבולת היעד רלוונטיות למאזן עומסים של אפליקציות, ל-Cloud Service Mesh ולשרתי proxy לקצה העורפי של מאזן עומסי רשת שתומכים בהגדרות של מצב איזון, קיבולת יעד והתאמת קיבולת.

מפרטי קיבולת היעד לא רלוונטיים למאזני עומסי רשת להעברת סיגנל ללא שינוי.

מצב איזון החיבור

בשרתי קצה עורפיים של מאזן עומסי רשת לשרת proxy אפשר להשתמש בCONNECTION מצב איזון עם אחד מהפרמטרים הנדרשים הבאים של קיבולת יעד:

שימוש בפרמטר max-connections

כשמציינים את הפרמטר max-connections, הערך שמספקים מגדיר את הקיבולת של אזור שלם.

• עבור קבוצת מופעים אזורית עם N מופעים בסך הכול ו-h מופעים תקינים (כאשר h ≤ N), החישובים הם כדלקמן:

  • אם מגדירים את max-connections ל-X, קיבולת היעד האזורי היא X.
  • מספר החיבורים הממוצע לכל מכונה הוא X / h.

• קבוצות מנוהלות של מופעים אזוריים לא תומכות בפרמטר max-connections כי הן מורכבות מכמה אזורים. במקום זאת, צריך להשתמש בפרמטר max-connections-per-instance.

• עבור NEG אזורי עם N נקודות קצה בסך הכול ו-h נקודות קצה תקינות (כאשר h ≤ N), החישובים הם כדלקמן:

  • אם מגדירים את max-connections ל-X, קיבולת היעד האזורי היא X.
  • מספר החיבורים הממוצע לכל נקודת קצה הוא X / h.

שימוש בפרמטר max-connections-per-instance או max-connections-per-endpoint

כשמציינים את הפרמטר max-connections-per-instance או את הפרמטר max-connections-per-endpoint, מאזן העומסים משתמש בערך שמספקים כדי לחשב את הקיבולת לכל אזור:

• עבור קבוצת מופעים אזורית עם N מופעים בסך הכול ו-h מופעים תקינים (כאשר h ≤ N), החישובים הם כדלקמן:

  • אם מגדירים את max-connections-per-instance ל-X, קיבולת היעד האזורי היא N * X. הפעולה הזו שוות ערך להגדרת max-connections לערך N * X.
  • מספר החיבורים הממוצע לכל מכונה הוא (N * X) / h.

• אם מגדירים max-connections-per-instance ל-X בקבוצת מופעי מכונה מנוהלים אזורית, Cloud de Confiance מחשב את קיבולת היעד לכל תחום (zone) בכל תחום (zone) של קבוצת המופעים. בכל אזור, אם יש K מכונות בסך הכול ו-h מכונות תקינות (כאשר h≤ K), החישובים הם כדלקמן:

  • קיבולת היעד של האזור היא K * X.
  • מספר החיבורים הממוצע לכל מכונה באזור הוא (K * X) / h.

• עבור NEG אזורי עם N נקודות קצה בסך הכול ו-h נקודות קצה תקינות (כאשר h ≤ N), החישובים הם כדלקמן:

  • אם מגדירים את max-connections-per-endpoint ל-X, קיבולת היעד האזורי היא N * X. הפעולה הזו שוות ערך להגדרת max-connections לערך N * X.
  • מספר החיבורים הממוצע לכל נקודת קצה הוא (N * X) / h.

מצב איזון שיעורי ההמרה

בקצה העורפי של מאזן העומסים של האפליקציה ושל Cloud Service Mesh עם הגדרה של משך תנועה לא מוגדר או קצר, אפשר להשתמש במצב איזון RATE עם אחד מהפרמטרים הנדרשים הבאים של קיבולת היעד:

שימוש בפרמטר max-rate

כשמציינים את הפרמטר max-rate, הערך שמספקים מגדיר את הקיבולת של אזור שלם.

• עבור קבוצת מופעים אזורית עם N מופעים בסך הכול ו-h מופעים תקינים (כאשר h ≤ N), החישובים הם כדלקמן:

  • אם מגדירים את max-rate ל-X, קיבולת היעד האזורית היא X בקשות לשנייה.
  • מספר הבקשות הממוצע לשנייה לכל מכונה הוא X / h.

• קבוצות מנוהלות של מופעים אזוריים לא תומכות בפרמטר max-rate כי הן מורכבות מכמה אזורים. במקום זאת, צריך להשתמש בפרמטר max-rate-per-instance.

• עבור NEG אזורי עם N נקודות קצה בסך הכול ו-h נקודות קצה תקינות (כאשר h ≤ N), החישובים הם כדלקמן:

  • אם מגדירים את max-rate ל-X, קיבולת היעד האזורית היא X בקשות לשנייה.
  • מספר הבקשות הממוצע לשנייה לכל נקודת קצה הוא X / h.

שימוש בפרמטר max-rate-per-instance או max-rate-per-endpoint

כשמציינים את הפרמטר max-rate-per-instance או max-rate-per-endpoint, מאזן העומסים משתמש בערך שסיפקתם כדי לחשב את הקיבולת לכל אזור:

• עבור קבוצת מופעים אזורית עם N מופעים בסך הכול ו-h מופעים תקינים (כאשר h ≤ N), החישובים הם כדלקמן:

  • אם מגדירים את max-rate-per-instance ל-X, קיבולת היעד האזורית היא N * X בקשות לשנייה. הפעולה הזו שוות ערך להגדרת max-rate לערך N * X.
  • מספר הבקשות הממוצע לשנייה לכל מכונה הוא (N * X) / h.

• אם מדובר בקבוצה אזורית של מופעי מכונה מנוהלים, אם מגדירים את max-rate-per-instance ל-X,‏ Cloud de Confiance מחשב את קיבולת היעד לכל תחום (zone) בכל תחום (zone) של קבוצת מופעי המכונה המנוהלים. בכל אזור, אם יש K מכונות בסך הכול ו-h מכונות תקינות (כאשר h≤ K), החישובים הם כדלקמן:

  • קיבולת היעד של האזור היא K * X בקשות לשנייה.
  • מספר הבקשות הממוצע לשנייה לכל מכונה באזור הוא (K * X) / h.

• עבור קבוצת נקודות קצה אזורית עם N נקודות קצה בסך הכול ו-h נקודות קצה תקינות (כאשר h≤ N), החישובים הם כדלקמן:

  • אם מגדירים את max-rate-per-endpoint ל-X, קיבולת היעד האזורית היא N * X בקשות לשנייה. הפעולה הזו שוות ערך להגדרת max-rate לערך N * X.
  • מספר הבקשות הממוצע לשנייה לכל נקודת קצה הוא (N * X) / h.

מצב איזון ניצול

מאזן עומסים של אפליקציות, Cloud Service Mesh וקצה עורפי של קבוצת מופעים של מאזן עומסי רשת בשרת proxy יכולים להשתמש בUTILIZATION מצב איזון. בקצה העורפי של NEG אין תמיכה במצב איזון העומסים הזה.

UTILIZATION מצב האיזון תלוי בניצול המעבד של מכונה וירטואלית, וגם בגורמים אחרים. כשגורמים כאלה משתנים, יכול להיות שמאזן העומסים יחשב את הניצול באופן שיגרום לכך שמכונות וירטואליות מסוימות יקבלו יותר בקשות או חיבורים מאחרות. לכן, חשוב לזכור:

• אפשר להשתמש במצב איזון UTILIZATION רק אם קרבת הסשן מוגדרת לערך NONE. אם שירות הקצה העורפי משתמש בזיקה לסשן ששונה מ-NONE, צריך להשתמש במצבי האיזון RATE,‏ במקום זאת.CONNECTION

• אם שיעור הניצול הממוצע של כל המכונות הווירטואליות שמשויכות לשירות קצה עורפי נמוך מ-10%, מאזן העומסים הופך לרגיש מאוד לשינויים קלים בתנועת הגולשים. לכן, צפוי חוסר איזון מסוים בתנועת הגולשים, ושינויים קלים בעומס יכולים לגרום לשינוי בחלוקת תנועת הגולשים בין השרתים השונים.

UTILIZATION למצב איזון אין הגדרת קיבולת יעד חובה, אבל אפשר להגדיר קיבולת יעד באמצעות אחד מפרמטרים של קיבולת היעד או שילובים של פרמטרים של קיבולת היעד שמתוארים בקטעים הבאים.

פרמטרים של קיבולת יעד לניצול עבור עורפי קצה של Application Load Balancer ו-Cloud Service Mesh עם הגדרה לא מוגדרת או קצרה של משך התנועה

בק-אנד של מאזן עומסים של אפליקציות ושל Cloud Service Mesh עם הגדרה של משך תנועה לא מוגדר או קצר יכולים להשתמש במצב איזון UTILIZATION עם אחד מהפרמטרים הבאים של קיבולת היעד או עם שילוב של פרמטרים:

מידע נוסף על פרמטרים של קיבולת יעד max-rate ו-max-rate-per-instance זמין בקטע מצב איזון קצב במאמר הזה.

פרמטרים של קיבולת יעד לניצול עבור מאזן עומסים של אפליקציות וקצה עורפי של Cloud Service Mesh עם הגדרה של משך תנועה ארוך

בק-אנד של Application Load Balancer ו-Cloud Service Mesh עם הגדרה ארוכה של משך התנועה יכולים להשתמש במצב איזון UTILIZATION עם אחד מהפרמטרים הבאים של קיבולת היעד או עם שילוב של פרמטרים:

פרמטרים של קיבולת יעד לניצול למאזני עומסי רשת בשרת proxy

בקצה העורפי של מאזני עומסים מסוג proxy Network Load Balancer אפשר להשתמש במצב איזון UTILIZATION עם אחד מפרמטרים קיבולת היעד הבאים או עם שילוב של פרמטרים.

מידע נוסף על פרמטרים של קיבולת יעד max-connections ו-max-connections-per-instance זמין בקטע מצב איזון חיבורים במאמר הזה.

מצב איזון של מדדים מותאמים אישית

בקצה העורפי של מאזן עומסים של אפליקציות ומאזן עומסי רשת בשרת proxy אפשר להשתמש במצב איזון CUSTOM_METRICS. מדדים בהתאמה אישית מאפשרים לכם להגדיר קיבולת יעד על סמך נתונים של אפליקציות או תשתית שהכי חשובים לכם. מידע נוסף זמין במאמר בנושא מדדים מותאמים אישית עבור מאזני עומסים של אפליקציות.

לCUSTOM_METRICS מצב האיזון אין הגדרת קיבולת יעד חובה, אבל אפשר להגדיר קיבולת יעד באמצעות אחד מפרמטרים של קיבולת היעד או שילובים של פרמטרים של קיבולת היעד שמתוארים בקטעים הבאים.

פרמטרים של קיבולת יעד של מדדים מותאמים אישית לעורפיים (backend) של מאזן עומסים של אפליקציות (ALB) עם הגדרה לא מוגדרת או קצרה של משך התנועה

בקצה העורפי של מאזן העומסים של האפליקציה עם הגדרה של משך תנועה לא מוגדר או קצר, אפשר להשתמש במצב איזון CUSTOM_METRICS עם אחד מהפרמטרים הבאים של קיבולת היעד או עם שילוב של פרמטרים:

מידע נוסף על פרמטרים של קיבולת יעד max-rate, max-rate-per-instance ו-max-rate-per-endpoint זמין בקטע מצב איזון קצב במסמך הזה.

פרמטרים של קיבולת יעד למדדים מותאמים אישית עבור קצה עורפי של מאזן עומסים של אפליקציות עם הגדרה של משך תנועה ארוך

בקצה העורפי של מאזן עומסים של אפליקציות עם הגדרה ארוכה של משך התנועה אפשר להשתמש במצב האיזון CUSTOM_METRICS עם אחד מהפרמטרים הבאים של קיבולת היעד או עם שילוב של פרמטרים:

מדיניות איזון עומסים של שירות

מדיניות איזון עומסים של שירות (serviceLbPolicy) היא משאב שמשויך לשירות הקצה העורפי של מאזן העומסים. הוא מאפשר לכם להתאים אישית את הפרמטרים שמשפיעים על האופן שבו התנועה מתחלקת בשרתי הקצה העורפי שמשויכים לשירות קצה עורפי:

• התאמה אישית של אלגוריתם איזון העומסים שמשמש לקביעת אופן חלוקת התנועה בין אזורים או בין אזורים.
• מפעילים את התכונה 'הפחתת קיבולת אוטומטית' כדי שמאזן העומסים יוכל להפחית במהירות את התעבורה משרתי קצה לא תקינים.

בנוסף, אתם יכולים להגדיר בקצה העורפי מסוים כבקצה העורפי המועדף. צריך להשתמש בבק-אנדים האלה עד לקיבולת (כלומר, הקיבולת שמוגדרת על ידי מצב האיזון של הבק-אנד) לפני שליחת בקשות לבק-אנדים הנותרים.

מידע נוסף זמין במאמר בנושא אופטימיזציות מתקדמות של איזון עומסים.

מדיניות מקומית של איזון עומסים

בשירות לקצה העורפי, חלוקת התנועה מבוססת על מצב איזון ועל מדיניות מקומית של איזון עומסים. מצב האיזון קובע את חלק היחסי של התנועה שצריך לשלוח לכל עורף (קבוצת מופעים או NEG). לאחר מכן, מדיניות המיקום של איזון העומסים (LocalityLbPolicy) קובעת איך התנועה תתחלק בין מופעים או נקודות קצה בכל אזור. במקרה של קבוצות מנוהלות של מופעים אזוריים, מדיניות המיקום חלה על כל אזור שמרכיב את הקבוצה.

מדיניות המיקום של איזון העומסים מוגדרת לכל שירות קצה עורפי. ההגדרות הבאות זמינות:

• ‫ROUND_ROBIN (ברירת מחדל): זו הגדרת ברירת המחדל של מדיניות המיקום של איזון העומסים, שבה מאזן העומסים בוחר עורף תקין בסדר סיבובי.

• ‫LEAST_REQUEST: אלגוריתם O(1) שבו מאזן העומסים בוחר באופן אקראי שני מארחים תקינים ובוחר את המארח עם פחות בקשות פעילות.

• ‫RING_HASH: האלגוריתם הזה מיישם גיבוב עקבי לשרתי קצה עורפיים. האלגוריתם בנוי כך שהוספה או הסרה של מארח מקבוצה של N מארחים משפיעה רק על 1/N מהבקשות.

• ‫RANDOM: מאזן העומסים בוחר מארח תקין באופן אקראי.

• ‫ORIGINAL_DESTINATION: מאזן העומסים בוחר קצה עורפי על סמך המטא-נתונים של חיבור הלקוח. החיבורים נפתחים לכתובת ה-IP של היעד המקורי שצוינה בבקשת הלקוח הנכנסת, לפני שהבקשה הופנתה למאזן העומסים.

• ‫MAGLEV: מטמיע גיבוב עקבי לשרתי קצה עורפיים, ואפשר להשתמש בו כתחליף למדיניות RING_HASH. מגלוו לא יציב כמו RING_HASH אבל זמני הבנייה של טבלת החיפוש וזמני בחירת המארח מהירים יותר. מידע נוסף על Maglev זמין במאמר הטכני בנושא Maglev.

• ‫WEIGHTED_MAGLEV: הטמעה של איזון עומסים אזורי חיצוני להעברת סיגנל ללא שינוי ברשת לפי משקל לכל מכונה, באמצעות משקלים שמדווחים על ידי בדיקות תקינות. אם משתמשים במדיניות הזו, שירות לקצה העורפי צריך להגדיר בדיקת תקינות מבוססת-HTTP שאינה מדור קודם, ותשובות בדיקת התקינות צפויות להכיל את שדה כותרת התגובה של HTTP שאינו סטנדרטי, X-Load-Balancing-Endpoint-Weight, כדי לציין את המשקלים לכל מופע. ההחלטות לגבי איזון העומסים מתקבלות על סמך המשקלים לכל מופע שמדווחים בתשובות האחרונות לבדיקת התקינות שעובדו, כל עוד כל מופע מדווח על משקל תקין או על UNAVAILABLE_WEIGHT. אחרת, איזון העומסים יישאר שווה.

  לדוגמה, אפשר לעיין במאמר הגדרת איזון עומסים לפי משקל למאזנים אזוריים חיצוניים של עומסי רשת להעברת סיגנל ללא שינוי.

• ‫WEIGHTED_ROUND_ROBIN: מאזן העומסים משתמש במדדים מותאמים אישית שהוגדרו על ידי המשתמש כדי לבחור את המופע או נקודת הקצה האופטימליים בעורף שיטפלו בבקשה.

הערה: ערך ברירת המחדל האפקטיבי של מדיניות המיקום של איזון העומסים (localityLbPolicy) משתנה בהתאם להגדרות של זיקה לסשן (session affinity). אם לא מגדירים את הזיקה לסשן – כלומר, אם הזיקה לסשן נשארת בערך ברירת המחדל NONE – ערך ברירת המחדל של localityLbPolicy הוא ROUND_ROBIN. אם זיקה לסשן מוגדרת לערך שאינו NONE, ערך ברירת המחדל של localityLbPolicy הוא MAGLEV.

כדי להגדיר מדיניות מקומית לאיזון עומסים, אפשר להשתמש במסוףCloud de Confiance , ב-gcloud ‏(--locality-lb-policy) או ב-API ‏(localityLbPolicy).

חלוקת משנה של הקצה העורפי

חלוקה לקבוצות משנה בעורף המערכת היא תכונה אופציונלית שמשפרת את הביצועים ואת יכולת ההתאמה לגדילה על ידי הקצאת קבוצת משנה של שרתים עורפיים לכל אחד ממופעי ה-proxy.

אפשר להשתמש בחלוקה לקבוצות משנה בקצה העורפי במקרים הבאים:

• מאזן עומסים פנימי אזורי של אפליקציות (ALB)
• מאזן עומסי רשת פנימי להעברת סיגנל ללא שינוי

חלוקה לקבוצות משנה של קצה עורפי למאזני עומסים פנימיים אזוריים של אפליקציות

במאזני עומסים פנימיים אזוריים של אפליקציות, חלוקת המשנה של הקצה העורפי מקצה באופן אוטומטי רק קבוצת משנה של הקצה העורפי בשירות הקצה העורפי האזורי לכל מופע של שרת proxy. כברירת מחדל, כל מופע של שרת proxy פותח חיבורים לכל השרתים העורפיים בשירות לקצה העורפי. אם מספר מופעי ה-proxy ומספר ה-backends גדולים, פתיחת חיבורים לכל ה-backends עלולה לגרום לבעיות בביצועים.

אם מפעילים את התכונה subsetting, כל שרת proxy פותח חיבורים רק לחלק ממסדי הנתונים, וכך מצטמצם מספר החיבורים שנשארים פתוחים לכל מסד נתונים. צמצום מספר החיבורים הפתוחים בו-זמנית לכל שרת קצה עורפי יכול לשפר את הביצועים של שרתי הקצה העורפי ושל שרתי ה-proxy.

התרשים הבא מציג מאזן עומסים עם שני שרתי proxy. בלי חלוקה לקבוצות משנה של קצה עורפי, התנועה משני ה-proxy מופצת לכל הקצוות העורפיים בשירות הקצה העורפי 1. כשהאפשרות 'חלוקת משנה של קצה העורפי' מופעלת, התנועה מכל שרת proxy מופצת לקבוצת משנה של השרתים העורפיים. התנועה משרת Proxy 1 מופצת לעורפי 1 ו-2, והתנועה משרת Proxy 2 מופצת לעורפי 3 ו-4.

בנוסף, אפשר לחדד את התנועה של איזון העומסים לשרתי הקצה על ידי הגדרת המדיניות localityLbPolicy. מידע נוסף זמין במאמר בנושא מדיניות בנושא תנועה.

במאמר הגדרת חלוקת משנה של קצה עורפי מוסבר איך להגדיר חלוקת משנה של קצה עורפי למאזני עומסים פנימיים של אפליקציות.

הערות לגבי חלוקת קצה עורפי למקטעי משנה במאזן עומסים פנימי של אפליקציות

• למרות שהתכונה 'חלוקת משנה של קצה העורפי' נועדה לוודא שכל המופעים של קצה העורפי ינוצלו היטב, היא עלולה להוביל להטיה מסוימת בכמות התנועה שכל קצה עורפי מקבל. מומלץ להגדיר את localityLbPolicy ל-LEAST_REQUEST בשירותים לקצה העורפי שרגישים לאיזון של עומס הקצה העורפי.
• הפעלה או השבתה של יצירת קבוצת משנה משבשות את החיבורים הקיימים.
• כדי לבצע חלוקה לקבוצות משנה בקצה העורפי, צריך להגדיר את הזיקה לסשן (session affinity) ל-NONE (גיבוב של 5 טאפלים). אפשר להשתמש באפשרויות אחרות של זיקה לסשן (session affinity) רק אם השבתתם את חלוקת ה-backend לקבוצות משנה. ערכי ברירת המחדל של הדגלים --subsetting-policy ו---session-affinity הם NONE, ואפשר להגדיר רק אחד מהם בכל פעם לערך שונה.

חלוקה לקבוצות משנה של קצה עורפי במאזן עומסי רשת פנימי להעברת סיגנל ללא שינוי

בעזרת תכונת חלוקת המשנה של קצה עורפי במאזני עומסי רשת פנימיים להעברת סיגנל ללא שינוי, אפשר להגדיל את מאזן עומסי הרשת הפנימי להעברת סיגנל ללא שינוי כדי לתמוך במספר גדול יותר של מכונות וירטואליות בקצה העורפי לכל שירות קצה עורפי פנימי.

מידע על ההשפעה של יצירת קבוצת משנה על המגבלה הזו מופיע בעמודה מכסות ומגבלות בטבלה שירותי קצה עורפי.

כברירת מחדל, האפשרות 'חלוקה לקבוצות משנה' מושבתת, מה שמגביל את שירות הקצה העורפי לחלוקה לעד 250 מופעים או נקודות קצה של קצה עורפי. אם שירות ה-Backend שלכם צריך לתמוך ביותר מ-250 שירותי Backend, אתם יכולים להפעיל חלוקה לקבוצות משנה. כשהאפשרות 'חלוקה לקבוצות משנה' מופעלת, נבחרת קבוצת משנה של מופעי קצה עורפיים לכל חיבור לקוח.

בתרשים הבא מוצג מודל מוקטן של ההבדל בין שני מצבי הפעולה האלה.

‫

בלי חלוקה לקבוצות משנה, נעשה שימוש טוב יותר בכל השרתים העורפיים התקינים, וחיבורים חדשים של לקוחות מחולקים בין כל השרתים העורפיים התקינים בהתאם לחלוקת התנועה. הגדרת קבוצת משנה מטילה הגבלות על איזון העומסים, אבל מאפשרת למאזן העומסים לתמוך ביותר מ-250 שרתים עורפיים.

הוראות להגדרה מופיעות במאמר Subsetting.

הערות לגבי חלוקת משנה של קצה עורפי במאזן עומסי רשת פנימי להעברת סיגנל ללא שינוי

• כשהתכונה 'חלוקה לקבוצות משנה' מופעלת, לא כל השרתים העורפיים יקבלו תנועה משולח מסוים, גם אם מספר השרתים העורפיים קטן.
• למספר המקסימלי של מופעי קצה עורפיים כשמופעלת חלוקה למקטעים, אפשר לעיין בדף המכסות .
• יש תמיכה רק ב-5-tuple session affinity עם חלוקה לקבוצות משנה.
• אין תמיכה בשיקוף מנות עם יצירת קבוצת משנה.
• הפעלה או השבתה של יצירת קבוצת משנה משבשות את החיבורים הקיימים.
• אם לקוחות מקומיים צריכים לגשת למאזן עומסי רשת פנימי להעברת סיגנל ללא שינוי, שימוש בתת-קבוצה יכול לצמצם באופן משמעותי את מספר השרתים העורפיים שמקבלים חיבורים מהלקוחות המקומיים. הסיבה לכך היא שהאזור של מנהרת Cloud VPN או של קובץ ה-VLAN המצורף של Cloud Interconnect קובע את קבוצת המשנה של השרתים העורפיים של מאזן העומסים. כל נקודות הקצה של Cloud VPN ו-Cloud Interconnect באזור מסוים משתמשות באותה קבוצת משנה. באזורים שונים משתמשים בקבוצות משנה שונות.

תמחור של חלוקה לקבוצות משנה בקצה העורפי

אין חיוב על שימוש בחלוקה לקבוצות משנה בקצה העורפי. מידע נוסף זמין במאמר בנושא כל המחירים של שירותי הרשת.

זיקה לסשן (session affinity)

זיקה לסשן מאפשרת לכם לשלוט באופן שבו מאזן העומסים בוחר בקצה העורפי לחיבורים חדשים בצורה צפויה, כל עוד מספר הקצוות העורפיים התקינים נשאר קבוע. האפשרות הזו שימושית לאפליקציות שצריכות להפנות כמה בקשות ממשתמש נתון לאותו קצה עורפי או נקודת קצה. אפליקציות כאלה כוללות בדרך כלל שרתים עם מצב (stateful) שמשמשים להצגת מודעות, למשחקים או לשירותים עם שמירת נתונים במטמון פנימי.

Cloud de Confiance מאזני עומסים מספקים זיקה לסשן על בסיס המאמץ הטוב ביותר. גורמים כמו שינוי במצבי בדיקת תקינות של בק-אנד, הוספה או הסרה של בק-אנד, שינויים במשקלים של בק-אנד (כולל הפעלה או השבתה של איזון משוקלל) או שינויים בקיבולת של בק-אנד, כפי שנמדדת על ידי מצב האיזון, עלולים לשבור את זיקה לסשן (session affinity).

איזון עומסים עם זיקה לסשן פועל בצורה טובה כשיש פיזור גדול יחסית של חיבורים ייחודיים. גדול מספיק פירושו לפחות פי כמה ממספר השרתים העורפיים. בדיקת מאזן עומסים עם מספר קטן של חיבורים לא תניב ייצוג מדויק של חלוקת חיבורי הלקוח בין השרתים העורפיים.

כברירת מחדל, כל מאזני העומסים בוחרים את השרתים העורפיים באמצעות גיבוב של חמישה ערכים (--session-affinity=NONE), באופן הבא: Cloud de Confiance

• כתובת ה-IP של המקור של חבילת הנתונים
• יציאת המקור של המנה (אם היא מופיעה בכותרת של המנה)
• כתובת ה-IP של היעד של חבילת הנתונים
• יציאת היעד של המנה (אם היא מופיעה בכותרת של המנה)
• הפרוטוקול של חבילת הנתונים

מידע נוסף על זיקה לסשן (session affinity) במאזני עומסים מסוג Network Load Balancer להעברת סיגנל ללא שינוי זמין במאמרי עזרה הבאים:

• חלוקת התנועה במאזני עומסים אזוריים חיצוניים של רשתות להעברת סיגנל ללא שינוי
• חלוקת התנועה למאזנים פנימיים של עומסי רשת להעברת סיגנל ללא שינוי

מידע נוסף על שיוך סשנים למאזני עומסים של אפליקציות זמין במאמרים הבאים:

• זיקה לסשן (session affinity) למאזני עומסים חיצוניים של אפליקציות (ALB)
• זיקה לסשן (session affinity) למאזני עומסים פנימיים של אפליקציות (ALB)

מידע נוסף על זיקה לסשן (session affinity) למאזני עומסים של רשתות proxy זמין במאמרים הבאים:

• זיקה לסשן (session affinity) למאזנים חיצוניים של עומסי רשת בשרת proxy
• זיקה לסשן (session affinity) למאזני עומסי רשת פנימיים לשרת proxy

זמן קצוב לתפוגה של שירות לקצה העורפי

לרוב Cloud de Confiance מאזני העומסים יש זמן קצוב לתפוגה של שירות לקצה העורפי. ערך ברירת המחדל הוא 30 שניות. טווח הערכים המלא של הזמן הקצוב לתפוגה הוא 1 עד 2,147,483,647 שניות.

• במאזני עומסים חיצוניים של אפליקציות ובמאזני עומסים פנימיים של אפליקציות שמשתמשים בפרוטוקול HTTP,‏ HTTPS או HTTP/2, פסק הזמן של שירות הקצה העורפי הוא פסק זמן של בקשה ותגובה לתנועת HTTP(S).

  פרטים נוספים על הזמן הקצוב לתפוגה של שירות הקצה העורפי בכל מאזן עומסים מפורטים במאמרים הבאים:

  • במאזני עומסים גלובליים חיצוניים של אפליקציות (ALB) ובמאזני עומסים חיצוניים אזוריים של אפליקציות (ALB), אפשר לעיין במאמר בנושא פסק זמן וניסיונות חוזרים.
  • במאזני עומסים פנימיים של אפליקציות, אפשר לעיין במאמר בנושא פסק זמן וניסיונות חוזרים.

• במאזנים חיצוניים של עומסי רשת בשרת proxy ובמאזנים פנימיים של עומסי רשת בשרת proxy, הזמן הקצוב לתפוגה של שירות ה-Backend שהוגדר הוא משך הזמן שבו מאזן העומסים שומר על חיבור ה-TCP פתוח אם לא מועברים נתונים מהלקוח או מה-Backend. אם לא מועברים נתונים במשך הזמן הזה, ה-proxy סוגר את החיבור.

  • ערך ברירת המחדל: 30 שניות
  • טווח שניתן להגדרה: 1 עד 2,147,483,647 שניות

• במאזני עומסים פנימיים של רשת להעברת סיגנל ללא שינוי ובמאזני עומסים אזוריים של רשת להעברת סיגנל ללא שינוי, אפשר להגדיר את ערך הזמן הקצוב לתפוגה של שירות הקצה העורפי באמצעות gcloud או ה-API, אבל המערכת מתעלמת מהערך. לזמן הקצוב לתפוגה של שירות הקצה העורפי אין משמעות במאזני עומסים להעברת סיגנל ללא שינוי.

בדיקות תקינות

לכל שירות קצה עורפי שהקצוות העורפיים שלו הם קבוצות של מכונות וירטואליות או NEGs אזוריים, צריך להיות משויך בדיקת תקינות.

כשיוצרים מאזן עומסים באמצעות מסוף Cloud de Confiance , אפשר ליצור את בדיקת התקינות, אם היא נדרשת, כשיוצרים את מאזן העומסים, או שאפשר להפנות לבדיקת תקינות קיימת.

כשיוצרים שירות backend באמצעות קבוצת מופעים או בקצה העורפי של NEG אזורי באמצעות Google Cloud CLI או API, צריך להפנות לבדיקת תקינות קיימת. פרטים על הסוג וההיקף של בדיקת התקינות הנדרשת מופיעים במדריך בנושא מאזן עומסים בסקירה הכללית על בדיקות תקינות.

מידע נוסף זמין במאמרים הבאים:

• סקירה כללית על בדיקות תקינות
• יצירת בדיקות תקינות
• gcloud דף בדיקת התקינות
• דף בדיקת תקינות של API בארכיטקטורת REST

IAP

באמצעות IAP אתם יכולים ליצור שכבת הרשאה מרכזית לאפליקציות שאליהן ניגשים באמצעות HTTPS, כך שתוכלו להשתמש במודל של בקרת גישה ברמת האפליקציה במקום להסתמך על חומות אש ברמת הרשת. ‫IAP נתמך על ידי מאזני עומסים מסוימים של אפליקציות.

אי אפשר להשתמש ב-IAP עם Cloud CDN. אי אפשר להפעיל אותם באותו שירות לקצה העורפי.

תכונות מתקדמות לניהול תעבורת נתונים

כדי לקבל מידע על תכונות מתקדמות לניהול תנועה שמוגדרות בשירותי הקצה העורפי ובמיפויי כתובות ה-URL שמשויכים למאזני עומסים, אפשר לעיין במאמרים הבאים:

• סקירה כללית על ניהול תעבורה במאזני עומסים פנימיים של אפליקציות
• סקירה כללית על ניהול תנועה במאזני עומסים גלובליים חיצוניים של אפליקציות (ALB)
• סקירה כללית על ניהול תעבורה במאזני עומסים חיצוניים אזוריים של אפליקציות (ALB)

ממשקי API וgcloud הפניות

למידע נוסף על המאפיינים של משאב שירות לקצה העורפי, אפשר לעיין במקורות המידע הבאים:

• Regional backend service API resource

• gcloud compute backend-services page, for regional backend services

המאמרים הבאים

לעיון במסמכי תיעוד קשורים ומידע על השימוש בשירותי קצה עורפיים באיזון עומסים:

• יצירת כותרות בהתאמה אישית
• יצירת מאזן עומסים חיצוני של אפליקציות (ALB)
• סקירה כללית של מאזן עומסים חיצוני של אפליקציות (ALB)
• הפעלת ניתוק הדרגתי של חיבורים
• הצפנה במעבר ב- Cloud de Confiance