משימות שאפשר להפעיל מחדש

כברירת מחדל, משימות של Managed Service for Apache Spark לא מופעלות מחדש באופן אוטומטי במקרה של כשל. באמצעות הגדרות אופציונליות, אתם יכולים להגדיר שהמשימות יופעלו מחדש במקרה של כשל. כשמגדירים הפעלה מחדש של משימה, מציינים את המספר המקסימלי של ניסיונות חוזרים לשעה (הערך המקסימלי הוא 10 ניסיונות חוזרים לשעה) או את המספר המקסימלי של ניסיונות חוזרים בסך הכול (הערך המקסימלי הוא 240 ניסיונות חוזרים בסך הכול) או את שניהם.

הפעלה מחדש של משימות מפחיתה את הסוגים הנפוצים של כשלים במשימות, כולל בעיות של חוסר בזיכרון והפעלות מחדש לא צפויות של מכונות וירטואליות ב-Compute Engine. משימות שאפשר להפעיל מחדש שימושיות במיוחד למשימות ארוכות ולמשימות סטרימינג. לדוגמה, אתם יכולים להפעיל מחדש משימות סטרימינג של Spark שפועלות באשכולות של Managed Service for Apache Spark כדי לוודא שהמשימות האלה עמידות.

סמנטיקה של משימות שניתן להפעיל מחדש

הסמנטיקה הבאה חלה על דיווח על הצלחה או כישלון של משימות:

  • משימה מדווחת כמשימה שהצליחה אם מנהל ההתקן מסתיים בקוד 0.
  • משימה מדווחת כנכשלה אם:
    • הדרייבר מסתיים עם קוד שאינו אפס יותר מ-4 פעמים ב-10 דקות.
    • הדרייבר מסתיים עם קוד שאינו אפס, וחורג מההגדרה של max_failures_per_hour או של max_failures_total.
  • המשימה תופעל מחדש אם מנהל ההתקן יוצא עם קוד שאינו אפס, לא מתרחשת החלפת דפים מוגזמת, והוא נמצא בטווח ההגדרות של max_failures_per_hour ו-max_failures_total.

שיקולים בתכנון משימות

  • חשוב לתכנן את המשימות כך שיוכלו להתמודד עם הפעלה מחדש בצורה חלקה. לדוגמה, אם המשימה כותבת לספרייה, היא צריכה להתאים לאפשרות שהספרייה תהיה קיימת כשהמשימה תופעל מחדש.
  • אפשר להפעיל מחדש משימות סטרימינג של Apache Spark עם נקודות ביקורת אחרי שהן נכשלות, אבל הן לא ידווחו על סטטוס Yarn.

יצירה ושימוש במשימות שאפשר להפעיל מחדש

אתם יכולים לציין את מספר הפעמים המקסימלי שאפשר להפעיל מחדש משימה בשעה, ואת מספר הניסיונות החוזרים המקסימלי הכולל כששולחים את המשימה באמצעות כלי שורת הפקודה gcloud של ה-CLI של gcloud, באמצעות ה-API בארכיטקטורת REST של Managed Service for Apache Spark או באמצעותCloud de Confiance console.

דוגמה: אם רוצים לאפשר למשימה לנסות שוב עד 10 פעמים, אבל לא יותר מ-5 פעמים בשעה, מגדירים את max-failures-total ל-10 ואת max-failures-per-hour ל-5.

gcloud

מציינים את מספר הפעמים המקסימלי שאפשר להפעיל מחדש משימה בשעה (הערך המקסימלי הוא 10 ניסיונות חוזרים בשעה) או את מספר הניסיונות החוזרים הכולל (הערך המקסימלי הוא 240 ניסיונות חוזרים בסך הכול) או את שניהם, באמצעות הדגלים --max-failures-per-hour ו---max-failures-total, בהתאמה.

gcloud dataproc jobs submit job type \
    --region=region \
    --max-failures-per-hour=number \
    --max-failures-total=number \
    ... other args

‫API בארכיטקטורת REST

מציינים את מספר הפעמים המקסימלי שאפשר להפעיל מחדש משימה בשעה (הערך המקסימלי הוא 10 ניסיונות חוזרים בשעה) או את מספר הניסיונות החוזרים הכולל המקסימלי (הערך המקסימלי הוא 240 ניסיונות חוזרים בסך הכול) או את שניהם, על ידי הגדרת השדות Job.JobScheduling maxFailuresPerHour ו/או maxFailuresTotal, בהתאמה.

דוגמה

POST /v1/projects/project-id/regions/us-central1/jobs:submit/
{
"projectId": "project-id",
"job": {
"placement": {
  "clusterName": "example-cluster"
},
"reference": {
  "jobId": "cea7ae0b...."
},
"sparkJob": {
  "args": [
    "1000"
  ],
  "mainClass": "org.apache.spark.examples.SparkPi",
  "jarFileUris": [
    "file:///usr/lib/spark/examples/jars/spark-examples.jar"
  ]
},
"scheduling": {
  "maxFailuresPerHour": 5
  "maxFailuresTotal": 10
}
}
}

המסוף

כדי לשלוח משימות באשכול שאפשר להפעיל מחדש, מציינים את הערך של Max restarts per hour בקטע Job execution and properties (כשבוחרים באפשרות Spark on Compute Engine בקטע Select compute type for job) בדף Submit a job ב-Managed Service for Apache Spark (הערך המקסימלי הוא 10 פעמים בשעה). ההגדרה "מספר ההפעלות מחדש המקסימלי" לא זמינה במסוף Cloud de Confiance .