Managed Service for Apache Spark secondary workers

בנוסף לשימוש במכונות וירטואליות רגילות של Compute Engine כ-workers של Managed Service for Apache Spark (שנקראים workers "ראשיים"), אשכולות של Managed Service for Apache Spark יכולים להשתמש ב-workers מסוג secondary.

המאפיינים הבאים חלים על כל ה-workers המשניים באשכול Managed Service for Apache Spark:

  • עיבוד בלבד – עובדים משניים לא מאחסנים נתונים. הם פועלים רק כצומתי עיבוד. לכן, אתם יכולים להשתמש ב-workers משניים כדי להגדיל את המחשוב בלי להגדיל את האחסון.

  • רק עובדים משניים – אתם יכולים ליצור אשכול עם אפס עובדים עם עובדים משניים בלבד. עם זאת, אם יוצרים אשכול רגיל ומציינים רק וורקרים משניים (לא מציינים את מספר הוורקרים הראשיים), Managed Service for Apache Spark מוסיף לאשכול שני וורקרים ראשיים.

  • ‫Machine type – כברירת מחדל, ה-workers המשניים משתמשים בסוג המכונה של ה-primary workers של האשכול. לדוגמה, אם יוצרים אשכול עם primary workers שמשתמשים בסוגי מכונות n1-standard-4, כברירת מחדל כל ה-secondary workers שנוספים לאשכול ישתמשו גם במכונות n1-standard-4.

    במקום להשתמש בסוג המכונה שמוגדר כברירת מחדל ל-primary worker, אתם יכולים לציין רשימה אחת או יותר של סוגי מכונות ל-secondary worker. מידע נוסף זמין במאמר מכונות וירטואליות גמישות ב-Managed Service for Apache Spark.

  • גודל דיסק אחסון מתמיד (persistent disk) – כברירת מחדל, ה-workers המשניים נוצרים עם הגודל הקטן יותר מבין 1,000GB או גודל דיסק האתחול של ה-primary worker הראשי. המקום הזה בכונן משמש לשמירת נתונים במטמון מקומי, ואי אפשר לגשת אליו דרך HDFS. אפשר לשנות את גודל ברירת המחדל של הדיסק באמצעות הפקודה gcloud dataproc clusters create --secondary-worker-boot-disk-size כשיוצרים את האשכול. אפשר לציין את הדגל הזה גם אם לאשכול לא יהיו וורקרים משניים כשהוא ייווצר.

  • יצירה אסינכרונית – כשמוסיפים עובדים משניים על ידי יצירה או הרחבה של אשכול, יכול להיות שהעובדים המשניים לא יוקצו עד לסיום פעולת היצירה או העדכון. הסיבה לכך היא ש-Managed Service for Apache Spark מנהל את ה-workers המשניים באמצעות קבוצות מופעי מכונה מנוהלים (MIG), שיוצרות מכונות וירטואליות באופן אסינכרוני ברגע שאפשר להקצות אותן (ראו בדיקת הסטטוס של מכונות מנוהלות).

עובדים משניים שניתנים להפסקה לפני הזמן וכאלה שלא ניתנים להפסקה לפני הזמן

יש שלושה סוגים של עובדים משניים: מכונות וירטואליות במודל Spot, מכונות וירטואליות רגילות שניתנות להחלפה ומכונות וירטואליות שלא ניתנות להחלפה. סוג ה-worker המשני שמוגדר כברירת מחדל ב-Managed Service for Apache Spark הוא VM זמני רגיל. אפשר לציין שילוב של עובדים משניים מסוג Spot ועובדים משניים שלא ניתנים להפסקה לפני הזמן.

לדוגמה: אם בוחרים שלושה עובדים משניים כשיוצרים אשכול, אפשר לציין שלוש מכונות וירטואליות במודל Spot, שלוש מכונות וירטואליות זמניות, שלוש מכונות וירטואליות לא זמניות או שילוב של עובדים במודל Spot ועובדים לא זמניים.

עובדים שניתן להפסיק לפני הזמן

  • למרות שההסרה הפוטנציאלית של עובדים זמניים יכולה להשפיע על יציבות המשימה, אתם יכולים להחליט להשתמש במופעים זמניים של מכונות וירטואליות כדי להוזיל את עלויות המחשוב לשעה של עיבוד נתונים לא קריטיים, או כדי ליצור אשכולות גדולים מאוד בעלות כוללת נמוכה יותר (אפשר להשתמש במחשבון העלויות של Google Cloud כדי להעריך את העלויות).

  • כדי לקבל את התוצאות הטובות ביותר, מספר ה-workers שניתנים להפסקה לפני הזמן באשכול צריך להיות פחות מ-50% מהמספר הכולל של כל ה-workers (הראשיים וכל המשניים) באשכול.

  • כשמשתמשים ב-workers שניתנים להפסקה לפני הזמן, סביר להניח שהמשימות יחוו מספר גדול יותר של כשלים זמניים במשימות של worker יחיד, בהשוואה למשימות שמופעלות ב-workers שלא ניתנים להפסקה לפני הזמן. כדי להגדיל את הסבילות של המשימה לכשלים ברמה נמוכה, אתם יכולים להגדיר ערכי מאפיינים של אשכולות שדומים לערכי ברירת המחדל של המאפיינים שמשמשים באשכולות עם התאמה לעומס (autoscaling), וכך להגדיל את המספר המקסימלי של ניסיונות חוזרים של משימות ולמנוע כשלים במשימות.

  • שיקול לחיסכון בעלויות: שימוש במכונות VM זמניות לא תמיד חוסך בעלויות, כי הפקעות יכולות לגרום להפעלה ארוכה יותר של משימות, וכתוצאה מכך לעלויות גבוהות יותר של משימות. אפשר להשתמש במצב גמישות משופרת (EFM) עם מכונות וירטואליות זמניות כדי לצמצם את ההשפעה של התוצאה הזו, אבל החיסכון הכולל בעלויות של מכונות וירטואליות זמניות משתנה בהתאם לתרחיש לדוגמה. באופן כללי, משימות קצרות מתאימות יותר לשימוש במכונות VM זמניות, כי הסבירות להפקעת המכונה במהלך ביצוע המשימה נמוכה יותר. כדי להעריך את העלויות ולהגיע לפתרון הטוב ביותר, נסו אפשרויות שונות של משימות, כמו ללא מכונות וירטואליות זמניות ומכונות וירטואליות זמניות עם EFM.

עובדים שלא ניתנים להפסקה לפני הזמן

בחירת עובדים משניים

כשיוצרים אשכול באמצעות Cloud de Confiance מסוף, ה-CLI של gcloud או Dataproc API, אפשר לציין את המספר והסוג של ה-workers המשניים.

המסוף

כשיוצרים אשכול של Managed Service for Apache Spark ממסוף Cloud de Confiance , אפשר לציין את מספר ה-workers המשניים. אחרי שיוצרים אשכול, אפשר להוסיף ולהסיר עובדים משניים על ידי עריכת הגדרות האשכול דרך מסוףCloud de Confiance .

יצירת אשכול עם וורקרים משניים

  1. פותחים את הדף Create cluster.
  2. לוחצים על הגדרות נוספות כדי להרחיב את הקטע.
  3. עורכים את העובדים המשניים.
  4. בחלונית שנפתחת, מציינים את המספר, הסוג והגדרות משניות אחרות של ה-worker.

עדכון אשכול עם מכונות משניות

כדי לעדכן את מספר ה-workers המשניים באשכול, לוחצים על שם האשכול בדף Clusters במסוף Cloud de Confiance . בדף Cluster details. לוחצים על הכרטיסייה Configuration, ואז לוחצים על Edit ומעדכנים את המספר בשדה Secondary worker nodes.

הסרת כל המכונות המשניות מאשכול

כדי להסיר את כל צומתי העובד המשניים מאשכול, מעדכנים את הגדרות האשכול כמו שמוסבר למעלה, ומציינים 0 בשדה Secondary worker nodes.

פקודת ה-CLI של gcloud

משתמשים בפקודה gcloud dataproc clusters create כדי להוסיף עובדים משניים לאשכול בזמן שיוצרים אותו. אחרי שיוצרים אשכול, אפשר להוסיף לו או להסיר ממנו קובצי עבודה משניים באמצעות הפקודה gcloud dataproc clusters update (אפשר לעדכן את מספר קובצי העבודה המשניים, אבל לא את הסוג שלהם).

יצירת אשכול עם וורקרים משניים

כדי ליצור אשכול עם וורקרים משניים, משתמשים בפקודה gcloud dataproc clusters create עם הארגומנט --num-secondary-workers. כברירת מחדל, ה-workers המשניים הם מכונות וירטואליות רגילות שניתנות להחלפה. כשיוצרים אשכול, אפשר לציין עובדים משניים שאינם ניתנים להפסקה לפני הזמן או מסוג Spot, על ידי הגדרת הדגל --secondary-worker-type ל-`non-preemptible` או ל-`spot`. הדוגמאות הבאות מראות איך ליצור אשכול עם כל סוג של עובד משני: `preemptible` (ברירת המחדל), ‏Spot (ניתן להפסקה לפני הזמן) ו-non-preemptible (לא ניתן להפסקה לפני הזמן). אפשר להשתמש בדגלים נוספים כדי לשלב בין עובדים משניים מסוג Spot לבין עובדים משניים שלא ניתנים להפסקה לפני הזמן.

דוגמה 1

הפקודה הבאה יוצרת את "cluster1" עם שני עובדים משניים רגילים שניתנים להפסקה לפני הזמן (סוג ברירת המחדל).

gcloud dataproc clusters create cluster1 \
    --num-secondary-workers=2 \
    --region=us-central1
דוגמה 2

בפקודה הבאה משתמשים בדגל secondary-worker-type כדי ליצור את cluster2 עם שני עובדים משניים מסוג Spot (ניתנים להפסקה לפני הזמן).

gcloud dataproc clusters create cluster2 \
    --num-secondary-workers=2 \
    --secondary-worker-type=spot \
    --region=us-central1

דוגמה 3

הפקודה הבאה משתמשת בדגל secondary-worker-type כדי ליצור את "cluster3" עם שני וורקרים משניים שלא ניתנים להפסקה לפני הזמן.

gcloud dataproc clusters create cluster3 \
    --num-secondary-workers=2 \
    --secondary-worker-type=non-preemptible \
    --region=us-central1

שינוי גודל דיסק האתחול של ה-worker המשני. כברירת מחדל, כל ה-secondary workers נוצרים עם דיסק אתחול בגודל של 1,000GB או בגודל של דיסק האתחול של ה-primary worker, הקטן מביניהם. המקום הזה בכונן משמש לשמירת נתונים במטמון מקומי, ואי אפשר לגשת אליו דרך HDFS. אפשר לשנות את גודל ברירת המחדל של הדיסק באמצעות הפקודה gcloud dataproc clusters create --secondary-worker-boot-disk-size בזמן יצירת האשכול. אפשר לציין את הדגל הזה גם אם לאשכול אין עובדים משניים בזמן היצירה.

אפשר ליצור את הבקשה ליצירת אשכול באמצעות Cloud de Confiance מסוף Google Cloud. בתחתית הדף Create cluster, לוחצים על Equivalent command line או על Equivalent REST כדי שמסוף Cloud de Confiance ייצור פקודה מקבילה של ה-CLI של gcloud או בקשת API REST מקבילה.

עדכון אשכול עם עובדים משניים

כדי לעדכן אשכול ולהוסיף או להסיר וורקרים משניים, משתמשים בפקודה gcloud dataproc clusters update עם הדגל --num-secondary-workers.

דוגמה

הפקודה הבאה מעדכנת את example-cluster כך שישתמש בארבעה וורקרים משניים (מהסוג שמוגדר כברירת מחדל או מהסוג שצוין כשיצרתם את האשכול).

gcloud dataproc clusters update example-cluster \
    --num-secondary-workers=4 \
    --region=us-central1

הסרת כל ה-workers המשניים מאשכול

כדי להסיר את כל ה-workers המשניים מאשכול, משתמשים בפקודה gcloud dataproc clusters update ומגדירים את --num-secondary-workers לערך 0.

דוגמה

הפקודה הבאה מסירה את כל ה-workers המשניים מ-"example-cluster".

gcloud dataproc clusters update example-cluster \
    --num-secondary-workers=0 \
    --region=us-central1

‫API בארכיטקטורת REST

יצירת אשכול עם וורקרים משניים

משתמשים ב-API‏ clusters.create של Managed Service for Apache Spark כדי להוסיף לאשכול עובדים משניים בזמן יצירת האשכול. בדוגמאות הבאות מוסבר איך ליצור אשכול עם כל אחד מסוגי ה-worker המשניים: preemptible (ברירת מחדל), spot (ניתן להפסקה לפני הזמן) ו-non-preemptible. אפשר להשתמש בשדות נוספים כדי לשלב בין מכונות Spot לבין מכונות משניות שלא ניתנות להפסקה לפני הזמן.

דוגמה 1

בקשת ה-POST הבאה יוצרת את "cluster1" עם שני עובדי VM רגילים שניתנים להפסקה לפני הזמן (סוג ברירת המחדל).


POST https://dataproc.googleapis.com/v1/projects/project-id/regions/region/clusters

{
  "clusterName": "cluster1",
  "config": {
    "secondaryWorkerConfig": {
      "numInstances": 2
    }
  }
}

דוגמה 2

בקשת ה-POST הבאה יוצרת את "cluster2" עם שני עובדי VM זמניים (ניתנים להחלפה).


POST https://dataproc.googleapis.com/v1/projects/project-id/regions/region/clusters

{
  "clusterName": "cluster2",
  "config": {
    "secondaryWorkerConfig": {
      "numInstances": 2,
      "preemptibility": "SPOT"
    }
  }
}

דוגמה 3

בקשת ה-POST הבאה יוצרת את cluster3 עם שני עובדים משניים שלא ניתנים להפסקה לפני הזמן.


POST https://dataproc.googleapis.com/v1/projects/project-id/regions/region/clusters

{
  "clusterName": "cluster3",
  "config": {
    "secondaryWorkerConfig": {
      "numInstances": 2,
      "preemptibility": "NON_PREEMPTIBLE"
    }
  }
}

עדכון אשכול עם עובדים משניים

כדי להוסיף ולהסיר וורקרים משניים, משתמשים ב-API‏ clusters.patch של Managed Service for Apache Spark.

דוגמה

בקשת ה-PATCH הבאה מעדכנת אשכול כך שיהיו לו ארבעה עובדים משניים (מהסוג שמוגדר כברירת מחדל או מהסוג שצוין כשיצרתם את האשכול).


PATCH /v1/projects/project-id/regions/region/clusters/cluster-name?updateMask=config.secondary_worker_config.num_instances
{
  "config": {
    "secondaryWorkerConfig": {
      "numInstances": 4
    }
  }
}

אפשר ליצור את הבקשה ליצירת אשכול באמצעות Cloud de Confiance מסוף Google Cloud. בתחתית הדף Create cluster, לוחצים על Equivalent command line או על Equivalent REST כדי שמסוף Cloud de Confiance ייצור פקודה מקבילה של ה-CLI של gcloud או בקשת API REST מקבילה.

פתרון בעיות של עובדים משניים

  • בעיות בהרשאות של חשבון השירות: ה-workers המשניים נוצרים באמצעות קבוצת מופעי מכונה מנוהלים. אם יש בעיה בהרשאות, ביומנים של Managed Service for Apache Spark לא ידווח על הכישלון ביצירת ה-workers המשניים, אבל ה-workers שנכשלו יופיעו בכרטיסייה VM Instances בדף Cluster details במסוףCloud de Confiance בלי סימן וי ירוק. כדי לראות את הרשימה, פותחים את הדף Clusters ב-Managed Service for Apache Spark ולוחצים על שם האשכול כדי לפתוח את הדף Cluster details.

  • בעיות בהרשאות של קבוצת מופעי מכונה מנוהלים: כדי לבדוק אם יש בעיה בהרשאות של קבוצת מופעי מכונה מנוהלים:

    1. מוצאים את השם של קבוצת מופעי מכונה מנוהלים (instanceGroupManagerName).

      מסוףCloud de Confiance

      1. פותחים את הדף Clusters ולוחצים על שם האשכול כדי לפתוח את הדף Cluster details של האשכול.
      2. לוחצים על Equivalent REST בתחתית הדף, ואז בודקים את הערך של config.secondaryWorkerConfig.managedGroupConfig.instanceGroupManagerName.

      ‫CLI של gcloud

      מריצים את הפקודה gcloud dataproc clusters describe עם הדגל --format כדי להציג את instanceGroupManagerName.

      gcloud dataproc clusters describe CLUSTER_NAME \
          --region=REGION \
          --format='value(config.secondaryWorkerConfig.managedGroupConfig.instanceGroupManagerName)'
      

      ‫API בארכיטקטורת REST

      שולחים בקשת clusters.get כדי להחזיר את הערך של config.secondaryWorkerConfig.managedGroupConfig.instanceGroupManagerName.

    2. צפייה ביומנים ב-Logs Explorer.
    • בוחרים את סוג המשאב Google Compute Engine Instance Group ומסננים לפי השם של קבוצת מופעי מכונה מנוהלים.

    • אפשר גם להפעיל מסנן רישום ביומן של `resource.type="gce_instance_group" ו-resource.labels.instance_group_name=INSTANCE_GROUP_MANAGER_NAME.

שילוב של Spot עם עובדים משניים שלא ניתנים להפסקה לפני הזמן

כשיוצרים אשכול של Managed Service for Apache Spark, אפשר לציין שילוב של עובדים משניים מסוג Spot ועובדים משניים שלא ניתנים להפסקה לפני הזמן.

הגדרות של עובדים משניים לשילוב של עובדים משניים מסוג Spot עם עובדים משניים שלא ניתנים להפסקה לפני הזמן

כדי לקבל קיבולת מינימלית של וורקרים משניים עם יכולת להגדיל את הקיבולת כשמכונות וירטואליות במחיר נמוך זמינות, השתמשו בהגדרות הבאות של וורקרים משניים כשאתם יוצרים אשכול של Managed Service for Apache Spark:

  • מספר ה-workers המשניים: המספר הכולל של ה-workers המשניים שצריך להקצות.

  • ‫secondary worker type: spot הוא סוג ה-worker המשני כשמשלבים בין Spot לבין workers משניים שלא ניתנים להפסקה לפני הזמן.

  • ‫standardCapacityBase: מספר ה-workers המשניים הרגילים (שאי אפשר להפסיק לפני הזמן) שיוקצו. עובדים משניים שלא ניתנים להפסקה לפני הזמן מוקצים לפני סוגים אחרים של עובדים משניים.

  • ‫standardCapacityPercentAboveBase: אחרי שנוצר מספר ה-workers המשניים שצוין ב-standardCapacityBase, שאר ה-workers המשניים שנדרשים כדי להגיע למספר הכולל של ה-workers המשניים שביקשתם נוצרים משילוב של מכונות וירטואליות במודל Spot ומכונות וירטואליות שלא ניתנות להפסקה לפני הזמן, באופן הבא:

    • ‫standardCapacityPercentAboveBase: אחוז ה-workers המשניים שנותרו, שצריך למלא במכונות וירטואליות שאינן זמניות.
    • שאר ה-workers המשניים שביקשתם יוקצו כמכונות וירטואליות במחיר Spot.

לדוגמה:

  • מספר ה-workers המשניים: 15
  • standardCapacityBase: 5
  • standardCapacityPercentAboveBase 30%

תוצאה:

  • ללא יכולת הפסקה לפני הזמן: 8 = 5 (standardCapacityBase) + 3 (30% מתוך 10 שנותרו)
  • נקודה: 7 (70% מתוך 10 ההמרות שנותרו)
  • סה"כ = 15

יצירת אשכול עם שילוב של עובדים משניים מסוג Spot ועובדים משניים שלא ניתנים להפסקה לפני הזמן

כשיוצרים אשכול, אפשר להשתמש ב-CLI של gcloud או ב-Dataproc API כדי לשלב בין Spot VMs לבין מכונות Worker משניות שלא ניתנות להפסקה לפני הזמן.

gcloud

מריצים את הפקודה הבאה באופן מקומי או ב-Cloud Shell כדי ליצור אשכול עם שילוב של עובדים משניים מסוג Spot ועובדים משניים שלא ניתנים להפסקה לפני הזמן.

gcloud dataproc clusters create CLUSTER_NAME \
    --project=PROJECT_ID \
    --region=REGION \
    --secondary-worker-type=spot \
    --num-secondary-workers=NUMBER_SECONDARY_WORKERS \
    --secondary-worker-standard-capacity-base=STANDARD_CAPACITY_BASE \
    --secondary-worker-standard-capacity-percent-above-base=STANDARD_CAPACITY_PERCENT_ABOVE_BASE \
    OTHER_FLAGS_AS_NEEDED

הערות:

API

כדי לשלב בין מכונות Spot לבין מכונות של עובדים משניים שלא ניתנות להפסקה לפני הזמן, מגדירים את השדות preemptibility,‏ standardCapacityBase ו-standardCapacityPercentAboveBase ב-API של Managed Service for Apache Spark כחלק מבקשת cluster.create, כמו שמוצג בדוגמה הבאה ב-JSON:

{
  "clusterName": "CLUSTER_NAME",
  "config": {
    "secondaryWorkerConfig": {
      "numInstances": 15,
      **"preemptibility": "spot"**,
      "instanceFlexibilityPolicy": {
        "provisioningModelMix": {
          **"standardCapacityBase": STANDARD_CAPACITY_BASE**
          **"standardCapacityPercentAboveBase": STANDARD_CAPACITY_PERCENT_ABOVE_BASE**
        }
      }
    }
  }
}

הערות:

שילוב של ערבוב של עובדים משניים עם מכונות וירטואליות גמישות

כשיוצרים אשכול, אפשר לשלב בין עובדים משניים מסוג Spot לבין עובדים משניים שלא ניתנים להפסקה לפני הזמן, ולציין צורות גמישות של מכונות וירטואליות בשביל העובדים המשניים.

דוגמה ל-CLI של gcloud:

gcloud dataproc clusters create cluster-name \
    --project=project-id \
    --region=us-central1 \
    --secondary-worker-type=spot \
    --num-secondary-workers=15 \
    --secondary-worker-standard-capacity-base=5 \
    --secondary-worker-standard-capacity-percent-above-base=30 \
    --secondary-worker-machine-types="type=n2-standard-8,rank=0" \
    --secondary-worker-machine-types="type=e2-standard-8,type=t2d-standard-8,rank=1"
    ...other flags as needed

מאפייני ערבוב של עובד משני

בקטע הזה מתוארים חלק מההתנהגות והמאפיינים שקשורים לשילוב של עובדים משניים מסוג Spot ועובדים משניים שלא ניתנים להפסקה לפני הזמן.

העדפת עובד משני

ב-Managed Service for Apache Spark אין עדיפות למכונות VM זמניות או לא זמניות כשמתזמנים אפליקציות ב-workers משניים.

התאמה לעומס (scaling) של ה-worker המשני

כשמגדילים את מספר ה-workers המשניים באמצעות התאמה אוטומטית לעומס (automatic scaling) או התאמה ידנית לעומס, Managed Service for Apache Spark שומר על היחס המבוקש בין מכונות Spot למכונות שלא ניתנות להפסקה לפני הזמן כשהוא מוסיף workers משניים.

עדכון הגדרות התמהיל של העובדים המשניים

כשיוצרים אשכול Managed Service for Apache Spark, מציינים את השילוב של ה-workers המשניים מסוג Spot ו-non-preemptible. אי אפשר לשנות את ההגדרות של שילוב ה-workers המשניים אחרי שיוצרים את האשכול.

הפקעה של עובד משני מסוג Spot

  • ב-Managed Service for Apache Spark אין שליטה על התזמון של הפקעת VM במודל Spot (ראו הפקעה של VM במודל Spot).
  • כשמתרחשת הפקעה של מכונות ספוט, קבוצת ה-workers המשנית יכולה לפעול באופן זמני בקיבולת מופחתת עד ש-Compute Engine יקצה מחדש את המכונות הווירטואליות שהופקעו.
  • ‫Managed Service for Apache Spark לא יוסיף קיבולת לקבוצת עובדים משנית מעבר להגדרות הראשוניות של הקבוצה.