אתם יכולים להשתמש ב-Cloud Monitoring וב-Cloud Logging עם Managed Service for Apache Airflow.
בעזרת Cloud Monitoring אפשר לעיין בנתוני הביצועים, זמן הפעולה התקינה והתקינות הכללית של אפליקציות מבוססות-ענן. מערכת Cloud Monitoring אוספת ומטמיעה מדדים, אירועים ומטא-נתונים מ-Managed Airflow כדי ליצור תובנות שנוצרו על ידי AI במרכזי בקרה ובתרשימים. אתם יכולים להשתמש ב-Cloud Monitoring כדי להבין את הביצועים והתקינות של סביבות Managed Airflow ומדדי Airflow.
בכלי הרישום ביומן מתועדים יומנים שנוצרו על ידי קונטיינרים של מתזמנים ושל רכיבי worker באשכול של הסביבה. היומנים האלה מכילים מידע ברמת המערכת ומידע על יחסי תלות של Airflow, שיכול לעזור בניפוי באגים. למידע על הצגת יומנים, ראו הצגת יומני Airflow.
לפני שמתחילים
כדי לגשת ליומנים ולמדדים של סביבת Managed Airflow, נדרשות ההרשאות הבאות:
- גישה לקריאה בלבד ליומנים ולמדדים:
logging.viewerו-monitoring.viewer - גישה לקריאה בלבד ליומנים, כולל יומנים פרטיים:
logging.privateLogViewer - גישת קריאה/כתיבה למדדים:
monitoring.editor
במאמר בקרת גישה מוסבר בהרחבה על הרשאות ותפקידים אחרים ב-Managed Airflow.
- גישה לקריאה בלבד ליומנים ולמדדים:
כדי למנוע רישום כפול ביומן, Cloud Logging ל-Google Kubernetes Engine מושבת.
ב-Cloud Logging נוצרת רשומה לכל סטטוס ואירוע שמתרחשים בפרויקט ב- Cloud de Confiance by S3NS . אתם יכולים להשתמש במסנני החרגה כדי לצמצם את נפח היומנים, כולל היומנים ש-Cloud Logging יוצר בשביל Managed Airflow.
מדדי סביבה
אתם יכולים להשתמש במדדי הסביבה כדי לבדוק את השימוש במשאבים ואת התקינות של סביבות Managed Airflow.
בריאות סביבתית
כדי לבדוק את תקינות הסביבה, אפשר להשתמש במדד סטטוס התקינות הבא:
| מדד | API |
|---|---|
| הבריאות של הסביבה |
composer.googleapis.com/environment/healthy |
ב-Managed Airflow פועל DAG של בדיקת תקינות בשם airflow_monitoring, שפועל לפי לוח זמנים ומדווח על תקינות הסביבה באופן הבא:
- אם הרצת ה-DAG של בדיקת החיות מסתיימת בהצלחה, סטטוס התקינות הוא
True. - אם ההרצה של ה-DAG לבדיקת החיות נכשלת, סטטוס התקינות הוא
False.
ה-DAG של בדיקת החיות מאוחסן בתיקייה dags/ ומוצג בממשק המשתמש של Airflow. אי אפשר לשנות את התדירות והתוכן של ה-DAG לבדיקת תקינות. שינויים ב-DAG של בדיקת החיות לא נשמרים.
בדיקות של יחסי התלות של הסביבה
Managed Airflow בודק מדי פעם שהסביבה יכולה להגיע לשירותים שנדרשים לפעולה שלה, ושיש לה מספיק הרשאות כדי לקיים איתם אינטראקציה. דוגמאות לשירותים שנדרשים להפעלת הסביבה: Artifact Registry, Cloud Logging ו-Cloud Monitoring.
המדדים הבאים זמינים לבדיקות של יחסי התלות של הסביבה:
| מדד | API | תיאור |
|---|---|---|
| מספר בדיקות התלות |
composer.googleapis.com/environment/health/dependency_check_count
|
המדד הזה עוקב אחרי מספר הפעמים שבהן מתבצעות בדיקות נגישות בשירותים שנדרשים להפעלת הסביבה. |
| מספר בדיקות ההרשאות של יחסי התלות |
composer.googleapis.com/environment/health/dependency_permissions_check_count
|
המדד הזה עוקב אחרי מספר הפעמים שבהן מתבצעות בדיקות הרשאות בשירותים שנדרשים להפעלת הסביבה. |
תקינות מסד הנתונים
כדי לבדוק את תקינות מסד הנתונים, אפשר להשתמש במדד סטטוס התקינות הבא: composer.googleapis.com/environment/database_health.
Pod המעקב של Airflow שולח פינג למסד הנתונים בכל דקה ומדווח על סטטוס תקינות של True אם אפשר ליצור חיבור SQL, או על False אם אי אפשר.
מדדי מסד נתונים
אלה מדדי הסביבה שזמינים למסד הנתונים של המטא-נתונים של Airflow, שמשמש את סביבות Managed Airflow. אתם יכולים להשתמש במדדים האלה כדי לעקוב אחרי הביצועים והשימוש במשאבים של מכונת מסד הנתונים בסביבה שלכם.
לדוגמה, אם הסביבה מתקרבת למגבלות המשאבים, יכול להיות שתרצו להגדיל את הסביבה. אפשר גם לבצע ניקוי של מסד הנתונים כדי לשפר את הגודל שלו.
| מדד מסד הנתונים | API | תיאור |
|---|---|---|
| שימוש ב-CPU של מסד הנתונים |
composer.googleapis.com/environment/database/cpu/usage_time
|
|
| ליבות מעבד של מסד נתונים |
composer.googleapis.com/environment/database/cpu/reserved_cores
|
|
| ניצול המעבד (CPU) של מסד הנתונים |
composer.googleapis.com/environment/database/cpu/utilization
|
|
| שימוש בזיכרון של מסד הנתונים |
composer.googleapis.com/environment/database/memory/bytes_used
|
|
| מכסת הזיכרון של מסד הנתונים |
composer.googleapis.com/environment/database/memory/quota
|
|
| ניצול הזיכרון של מסד הנתונים |
composer.googleapis.com/environment/database/memory/utilization
|
|
| היקף השימוש בדיסק של מסד הנתונים |
composer.googleapis.com/environment/database/disk/bytes_used
|
|
| מכסת הדיסק של מסד הנתונים |
composer.googleapis.com/environment/database/disk/quota
|
|
| ניצול הדיסק של מסד הנתונים |
composer.googleapis.com/environment/database/disk/utilization
|
|
| מגבלת החיבורים למסד הנתונים |
composer.googleapis.com/environment/database/network/max_connections
|
|
| חיבורים למסדי נתונים |
composer.googleapis.com/environment/database/network/connections
|
|
| מסד נתונים זמין ליתירות כשל |
composer.googleapis.com/environment/database/available_for_failover
|
True אם מכונת Cloud SQL של הסביבה נמצאת במצב זמינות גבוהה ומוכנה ליתירות כשל. |
| מספר הבקשות למעבר אוטומטי לגיבוי במקרה של כשל במסד הנתונים |
composer.googleapis.com/environment/database/auto_failover_request_count
|
המספר הכולל של בקשות למעבר אוטומטי למצב כשל של מכונת Cloud SQL בסביבה. |
מדדי עובדים
המדדים הבאים של הסביבה זמינים ל-Airflow workers בסביבות Managed Airflow (דור 3) ו-Managed Airflow (דור 2).
המדד הזה משמש להתאמה אוטומטית לעומס (automatic scaling) של מספר ה-workers בסביבה. הערך של המדד הזה נקבע על ידי Horizontal Pod Autoscaler, ורכיב הסביבה Airflow Worker Set Controller משתמש בו כדי להגדיל או להקטין את מספר ה-Airflow workers בהתאם לערך של המדד.
| מדד העובד | API |
|---|---|
| יעד הגורם לקביעת קנה מידה |
composer.googleapis.com/environment/worker/scale_factor_target |
מדדי תזמון
| שם | API | תיאור |
|---|---|---|
| מתזמנים פעילים |
composer.googleapis.com/environment/active_schedulers
|
מספר המופעים הפעילים של המתזמן. |
מדדי מעבד DAG
| שם | API | תיאור |
|---|---|---|
| מעבדי DAG פעילים |
composer.googleapis.com/environment/active_dag_processors
|
מספר המכונות הפעילות של מעבד DAG. |
מדדי טריגרים
| שם | API | תיאור |
|---|---|---|
| טריגרים פעילים |
composer.googleapis.com/environment/active_triggerers
|
מספר המופעים הפעילים של הטריגרים. |
מדדים של שרת אינטרנט
אלה המדדים הסביבתיים שזמינים לשרת האינטרנט של Airflow שמשמש את סביבות Managed Airflow. אתם יכולים להשתמש במדדים האלה כדי לבדוק את הביצועים ואת השימוש במשאבים של מכונת שרת האינטרנט של Airflow בסביבה שלכם.
| שם | API | תיאור |
|---|---|---|
| שרתי אינטרנט פעילים | composer.googleapis.com/environment/active_webservers |
מספר המכונות הפעילות של שרת האינטרנט. |
מכסות לשירותים שמשמשים את הסביבה
Managed Airflow משתמש בשירותים אחרים של Cloud de Confiance by S3NS . לשירותים האלה יש מכסות ברמת הפרויקט, שחלות כשמשתמשים ב-Managed Airflow.
ב-Managed Airflow (דור 3), אשכול הסביבה נמצא בפרויקט הדייר. ב-Managed Airflow (דור 3) יש את המדדים הבאים שמדווחים על ניצול המכסות ועל מגבלות המכסות התואמות לשירותים שבהם הסביבה משתמשת בפרויקט של הדייר (tenant).
| מדד | API | תיאור |
|---|---|---|
| מגבלת המכסה של המעבד (CPU) לעומסי עבודה ב-Managed Airflow |
composer.googleapis.com/environment/workloads_cpu_quota
|
(רק ב-Managed Airflow מדור 3) מכסת ההקצאה של מעבדי ה-CPU ב-Compute Engine למספר הכולל של מעבדי ה-CPU הווירטואליים שמשמשים את הסביבה. המגבלה חלה על כל סביבה. אם בפרויקט יש כמה סביבות Managed Airflow (דור 3), לכל סביבה יש מכסה משלה. |
| שימוש במכסת המעבד (CPU) לעומסי עבודה ב-Managed Airflow |
composer.googleapis.com/environment/workloads_cpu_quota_usage
|
(רק ב-Managed Airflow (דור 3)) השימוש של הסביבה במכסת ההקצאה של המעבד (CPU) ב-Compute Engine. |
מדדי DAG
כדי לעזור לכם לעקוב אחרי היעילות של הפעלות ה-DAG ולזהות משימות שגורמות לזמן אחזור ארוך, אתם יכולים להשתמש במדדי ה-DAG הבאים.
| מדד DAG | API |
|---|---|
| מספר ההרצות של DAG |
composer.googleapis.com/workflow/run_count |
| משך הזמן של כל הפעלת DAG |
composer.googleapis.com/workflow/run_duration |
| מספר ההרצות של המשימה |
composer.googleapis.com/workflow/task/run_count |
| משך הזמן של כל הרצת משימה |
composer.googleapis.com/workflow/task/run_duration |
ב-Cloud Monitoring מוצגים רק המדדים של תהליכי עבודה ומשימות שהושלמו (בהצלחה או בכישלון). הערך No Data מוצג כשאין פעילות בתהליך העבודה, וגם בתהליכי עבודה ובמשימות שעדיין פועלים.
מדדים של Celery Executor
אלה המדדים הזמינים של Celery Executor. המדדים האלה יכולים לעזור לכם לקבוע אם יש מספיק משאבי Worker בסביבה שלכם.
| מדד Celery Executor | API |
|---|---|
| מספר המשימות בתור |
composer.googleapis.com/environment/task_queue_length |
| מספר ה-Celery workers אונליין |
composer.googleapis.com/environment/num_celery_workers |
מדדי זרימת אוויר
אלה מדדי Airflow שזמינים. המדדים האלה תואמים למדדים שסופקו על ידי Airflow.
| שם | API | השם ב-Airflow | תיאור |
|---|---|---|---|
| קודי יציאה שאינם אפס של משימת Celery |
composer.googleapis.com/environment/celery/execute_command_failure_count
|
celery.execute_command.failure
|
מספר קודי היציאה שאינם אפס ממשימות Celery. |
| זמן קצוב לתפוגה של פרסום משימות ב-Celery |
composer.googleapis.com/environment/celery/task_timeout_error_count
|
celery.task_timeout_error
|
מספר השגיאות מסוג AirflowTaskTimeout שנוצרו בזמן פרסום המשימה ב-Celery Broker. |
| משך האחזור של DAG שעבר סריאליזציה |
composer.googleapis.com/environment/collect_db_dag_duration
|
collect_db_dags
|
משך הזמן שנדרש כדי לאחזר את כל ה-DAG שעברו סריאליזציה ממסד הנתונים. |
| שגיאות ברענון של DAG |
composer.googleapis.com/environment/dag_callback/exception_count
|
dag.callback_exceptions
|
מספר החריגים שהועלו מהקריאות החוזרות (callbacks) של DAG. במצב כזה, המשמעות היא שקריאה חוזרת (callback) של DAG לא פועלת. |
| שגיאות ברענון של DAG |
composer.googleapis.com/environment/dag_file/refresh_error_count
|
dag_file_refresh_error
|
מספר הכשלים בטעינה של קובצי DAG. |
| זמן הטעינה של קובץ DAG |
composer.googleapis.com/environment/dag_processing/last_duration
|
dag_processing.last_duration.<dag_file>
|
משך הזמן שנדרש לטעינת קובץ DAG ספציפי. |
| הזמן שחלף מאז עיבוד קובץ ה-DAG |
composer.googleapis.com/environment/dag_processing/last_run_elapsed_time
|
dag_processing.last_run.seconds_ago.<dag_file>
|
מספר השניות שחלפו מאז העיבוד האחרון של קובץ DAG. |
| מספר ההשהיות של DagFileProcessorManager |
composer.googleapis.com/environment/dag_processing/manager_stall_count
|
dag_processing.manager_stalls
|
מספר התהליכים של DagFileProcessorManager שנתקעו. |
| שגיאות בניתוח DAG |
composer.googleapis.com/environment/dag_processing/parse_error_count
|
dag_processing.import_errors
|
מספר השגיאות שנוצרו במהלך הניתוח של קובצי DAG. |
| הפעלת תהליכי ניתוח של DAG |
composer.googleapis.com/environment/dag_processing/processes
|
dag_processing.processes
|
מספר תהליכי הניתוח של DAG שפועלים כרגע. |
| הזמן הקצוב לתפוגה של המעבד |
composer.googleapis.com/environment/dag_processing/processor_timeout_count
|
dag_processing.processor_timeouts
|
מספר מעבדי הקבצים שהופסקו כי הם נמשכו יותר מדי זמן. |
| הזמן שנדרש לסריקה ולייבוא של כל קובצי ה-DAG |
composer.googleapis.com/environment/dag_processing/total_parse_time
|
dag_processing.total_parse_time
|
הזמן הכולל שנדרש כדי לסרוק ולייבא את כל קובצי ה-DAG פעם אחת. |
| גודל ה-DAG bag הנוכחי |
composer.googleapis.com/environment/dagbag_size
|
dagbag_size
|
מספר ה-DAG שנמצאו כשהמתזמן הפעיל סריקה על סמך ההגדרות שלו. |
| התראות באימייל על אי-עמידה ב-SLA |
composer.googleapis.com/environment/email/sla_notification_failure_count
|
sla_email_notification_failure
|
מספר הניסיונות שנכשלו לשלוח התראות באימייל על אי-עמידה ב-SLA. |
| משבצות פנויות במבצע |
composer.googleapis.com/environment/executor/open_slots
|
executor.open_slots
|
מספר המשבצות הפנויות ב-executor. |
| משימות בתור ב-executor |
composer.googleapis.com/environment/executor/queued_tasks
|
executor.queued_tasks
|
מספר המשימות בתור של ה-executor. |
| הרצת משימות ב-executor |
composer.googleapis.com/environment/executor/running_tasks
|
executor.running_tasks
|
מספר המשימות שפועלות ב-executor. |
| הצלחות/כישלונות של מופעי משימות |
composer.googleapis.com/environment/finished_task_instance_count
|
ti_failures, ti_successes
|
הצלחות או כישלונות כוללים של מופעי משימות. |
| משימות שהתחילו או הסתיימו |
composer.googleapis.com/environment/job/count
|
<job_name>_start, <job_name>_end
|
מספר המשימות שהתחילו או הסתיימו, כמו SchedulerJob, LocalTaskJob. |
| כשלים באותות החיים של המשימה |
composer.googleapis.com/environment/job/heartbeat_failure_count
|
<job_name>_heartbeat_failure
|
מספר האותות שנכשלו במשימה. |
| משימות שנוצרו לכל מפעיל |
composer.googleapis.com/environment/operator/created_task_instance_count
|
task_instance_created-<operator_name>
|
מספר המופעים של המשימות שנוצרו לאופרטור נתון. |
| הרצות של אופרטורים |
composer.googleapis.com/environment/operator/finished_task_instance_count
|
operator_failures_<operator_name>, operator_successes_<operator_name>
|
מספר המופעים של משימות שהושלמו לכל מפעיל |
| משבצות פנויות במאגר |
composer.googleapis.com/environment/pool/open_slots
|
pool.open_slots.<pool_name>
|
מספר המשבצות הפנויות במאגר. |
| משבצות בתור במאגר |
composer.googleapis.com/environment/pool/queued_slots
|
pool.queued_slots.<pool_name>
|
מספר המשבצות בתור במאגר. |
| משבצות זמן פנויות בבריכה |
composer.googleapis.com/environment/pool/running_slots
|
pool.running_slots.<pool_name>
|
מספר המשבצות הפעילות במאגר. |
| משימות שמתעכבות במאגר |
composer.googleapis.com/environment/pool/starving_tasks
|
pool.starving_tasks.<pool_name>
|
מספר המשימות המורעבות במאגר. |
| הזמן שבוצע בקטע הקריטי של המתזמן |
composer.googleapis.com/environment/scheduler/critical_section_duration
|
scheduler.critical_section_duration
|
הזמן שהושקע בקטע הקריטי של לולאת המתזמן. רק מתזמן אחד יכול להיכנס ללולאה הזו בכל פעם. |
| כשלים בנעילת קטעים קריטיים |
composer.googleapis.com/environment/scheduler/critical_section_lock_failure_count
|
scheduler.critical_section_busy
|
מספר הפעמים שתהליך של מתזמן ניסה לנעול את הקטע הקריטי (הנדרש כדי לשלוח משימות למבצע) ומצא שהוא נעול על ידי תהליך אחר. |
| משימות שהופסקו על ידי גורם חיצוני |
composer.googleapis.com/environment/scheduler/task/externally_killed_count
|
scheduler.tasks.killed_externally
|
מספר המשימות שהופסקו על ידי גורם חיצוני. |
| משימות ללא בעלים |
composer.googleapis.com/environment/scheduler/task/orphan_count
|
scheduler.orphaned_tasks.cleared, scheduler.orphaned_tasks.adopted
|
מספר המשימות היתומות שהתזמון ניקה או אימץ. |
| משימות פעילות/ממתינות/ניתנות להפעלה |
composer.googleapis.com/environment/scheduler/tasks
|
scheduler.tasks.running, scheduler.tasks.starving, scheduler.tasks.executable
|
מספר המשימות שפועלות, ממתינות או ניתנות להפעלה. |
| אותות חיים של המתזמן |
composer.googleapis.com/environment/scheduler_heartbeat_count
|
scheduler_heartbeat
|
אותות חיים של המתזמן. |
| משך הזמן של לולאת התזמון |
composer.googleapis.com/workload/scheduler/loop_duration
|
scheduler.scheduler_loop_duration.<hostname>
|
הזמן שנדרש להרצת לולאה אחת של מתזמן. |
| התראות על קריאות חוזרות שנכשלו במסגרת הסכם רמת השירות (SLA) |
composer.googleapis.com/environment/sla_callback_notification_failure_count
|
sla_callback_notification_failure
|
מספר הניסיונות שנכשלו לשלוח התראות על פספוס SLA. |
| כשלים חריגים בבדיקת החיישן החכם |
composer.googleapis.com/environment/smart_sensor/exception_failures
|
smart_sensor_operator.exception_failures
|
מספר הכשלים שנגרמו בגלל חריגה בלולאת החיפוש הקודמת של החיישן החכם. |
| כשלים בתשתית של בדיקת החיישנים החכמים |
composer.googleapis.com/environment/smart_sensor/infra_failures
|
smart_sensor_operator.infra_failures
|
מספר הכשלים בתשתית בלולאת הבדיקה הקודמת של החיישן החכם. |
| חריגים בבדיקת חיישנים חכמים |
composer.googleapis.com/environment/smart_sensor/poked_exception
|
smart_sensor_operator.poked_exception
|
מספר החריגים בלולאת החיטוט הקודמת של החיישן החכם. |
| החיישן החכם הפעיל את המשימות בהצלחה |
composer.googleapis.com/environment/smart_sensor/poked_success
|
smart_sensor_operator.poked_success
|
מספר המשימות החדשות שהושלמו בהצלחה ונבדקו על ידי החיישן החכם בלולאת הבדיקה הקודמת. |
| משימות של חיישן חכם שנדגמו |
composer.googleapis.com/environment/smart_sensor/poked_tasks
|
smart_sensor_operator.poked_tasks
|
מספר המשימות שהחיישן החכם בדק בלולאת הבדיקה הקודמת. |
| מופעי משימות שהושלמו בעבר |
composer.googleapis.com/environment/task_instance/previously_succeeded_count
|
previously_succeeded
|
מספר המופעים של המשימה שהושלמו בהצלחה בעבר. |
| משימות זומבי שנסגרו |
composer.googleapis.com/environment/zombie_task_killed_count
|
zombies_killed
|
מספר המשימות הלא פעילות שנסגרו. |
| משך ההרצה של DAG |
composer.googleapis.com/workflow/dag/run_duration
|
dagrun.duration.success.<dag_id>, dagrun.duration.failed.<dag_id>
|
הזמן שלוקח ל-DagRun להגיע למצב הצלחה/כישלון. |
| משך הבדיקה של תלות ב-DAG |
composer.googleapis.com/workflow/dependency_check_duration
|
dagrun.dependency-check.<dag_id>
|
הזמן שנדרש כדי לבדוק את יחסי התלות של DAG. המדד הזה שונה מהמדדים של בדיקות ההרשאות והתלות של הסביבה, והוא חל על DAGs |
| עיכוב בלוח הזמנים של הרצת DAG |
composer.googleapis.com/workflow/schedule_delay
|
dagrun.schedule_delay.<dag_id>
|
משך העיכוב בין תאריך ההתחלה המתוזמן של DagRun לבין תאריך ההתחלה בפועל של DagRun. |
| משימות שהושלמו |
composer.googleapis.com/workflow/task_instance/finished_count
|
ti.finish.<dag_id>.<task_id>.<state>
|
מספר המשימות שהושלמו ב-DAG נתון. |
| משך ההרצה של מופע המשימה |
composer.googleapis.com/workflow/task_instance/run_duration
|
dag.<dag_id>.<task_id>.duration
|
כמה זמן לוקח לסיים משימה. |
| משימות שהתחילו |
composer.googleapis.com/workflow/task_instance/started_count
|
ti.start.<dag_id>.<task_id>
|
מספר המשימות שהתחילו ב-DAG נתון. |
| משך הזמן שמופע המשימה נמצא בתור |
composer.googleapis.com/workflow/task_instance/queued_duration
|
dag.<dag_id>.<task_id>.queued_duration
|
הזמן שבו המשימה נמצאת במצב "בתור" לפני שהיא עוברת למצב "פועלת". |
| שימוש במעבד (CPU) למשימות |
composer.googleapis.com/workflow/task/cpu_usage
|
task.cpu_usage.<dag_id>.<task_id>
|
אחוז המעבד (CPU) שבו משתמשת משימה. |
| שימוש בזיכרון למשימות |
composer.googleapis.com/workflow/task/mem_usage
|
task.mem_usage.<dag_id>.<task_id>
|
אחוז הזיכרון שהמשימה משתמשת בו. |
| משימות שהוסרו מ-DAG |
composer.googleapis.com/workflow/task/removed_from_dag_count
|
task_removed_from_dag.<dag_id>
|
מספר המשימות שהוסרו מ-DAG נתון (כלומר, המשימה כבר לא קיימת ב-DAG). |
| המשימות שוחזרו ל-DAG |
composer.googleapis.com/workflow/task/restored_to_dag_count
|
task_restored_to_dag.<dag_id>
|
מספר המשימות ששוחזרו ל-DAG נתון (כלומר, מופע משימה שהיה בעבר במצב REMOVED במסד הנתונים נוסף לקובץ DAG). |
| עיכוב בלוח הזמנים של המשימה |
composer.googleapis.com/workflow/task/schedule_delay
|
dagrun.schedule_delay.<dag_id>
|
הזמן שחלף בין תאריך ההתחלה (start_date) של המשימה הראשונה לבין תחילת ההפעלה הצפויה של dagrun. |
| המספר הכולל של טריגרים פעילים |
composer.googleapis.com/workload/triggerer/num_running_triggers
|
triggers.running
|
מספר הטריגרים הפועלים לכל מכונה של טריגר. |
| טריגרים חוסמים |
composer.googleapis.com/environment/trigger/blocking_count
|
triggers.blocked_main_thread
|
מספר הטריגרים שחסמו את ה-thread הראשי (כנראה כי הם לא אסינכרוניים באופן מלא). |
| טריגרים שנכשלו |
composer.googleapis.com/environment/trigger/failed_count
|
triggers.failed
|
מספר הטריגרים שנכשלו עם שגיאה לפני שהם הצליחו להפעיל אירוע. |
| טריגרים שהופעלו בהצלחה |
composer.googleapis.com/environment/trigger/succeeded_count
|
triggers.succeeded
|
מספר הטריגרים שהפעילו אירוע אחד לפחות. |
שימוש ב-Monitoring בסביבות Managed Airflow
המסוף
אתם יכולים להשתמש ב-Metrics Explorer כדי להציג מדדים שקשורים לסביבות ול-DAG שלכם:
המשאב Cloud Composer Environment מכיל מדדים לסביבות.
כדי להציג מדדים של סביבה ספציפית, מסננים את המדדים לפי התווית
environment_name. אפשר גם לסנן לפי תוויות אחרות, כמו מיקום הסביבה או גרסת התמונה.המשאב Cloud Composer Workflow מכיל מדדים ל-DAG.
כדי להציג מדדים של DAG או משימה ספציפיים, מסננים את המדדים לפי התוויות
workflow_nameו-task_name. אפשר גם לסנן לפי תוויות אחרות, כמו סטטוס המשימה או שם האופרטור של Airflow.
API ו-gcloud
אפשר ליצור ולנהל לוחות בקרה בהתאמה אישית ואת הווידג'טים באמצעות Cloud Monitoring API והפקודה gcloud monitoring dashboards. איך מנהלים לוחות בקרה באמצעות API
למידע נוסף על משאבים, מדדים ומסננים, עיינו בחומר העזר של Cloud Monitoring API:
שימוש בהתראות של Cloud Monitoring
אתם יכולים ליצור מדיניות התראות כדי לעקוב אחרי ערכי המדדים ולקבל התראה כשהמדדים האלה חורגים מהתנאי.
-
נכנסים לדף notifications Alerting במסוף Cloud de Confiance :
אם אתם משתמשים בשורת החיפוש כדי למצוא את הדף הזה, בחרו בתוצאה שכותרת המשנה שלה היא Monitoring.
- אם לא יצרתם ערוצי התראות ואתם רוצים לקבל התראות, לוחצים על Edit Notification Channels ומוסיפים את ערוצי ההתראות. אחרי שמוסיפים את הערוצים, חוזרים לדף Alerting.
- בדף Alerting, לוחצים על Create policy.
- כדי לבחור את המדד, מרחיבים את התפריט Select a metric ואז מבצעים את הפעולות הבאות:
- כדי להגביל את התפריט לרשומות רלוונטיות, מזינים
Cloud Composerבסרגל הסינון. אם לא מופיעות תוצאות אחרי סינון התפריט, משביתים את המתג Show only active resources & metrics. - בשדה Resource type, בוחרים באפשרות Cloud Composer Environment או Cloud Composer Workflow.
- בוחרים קטגוריית מדדים ומדד, ואז לוחצים על אישור.
- כדי להגביל את התפריט לרשומות רלוונטיות, מזינים
- לוחצים על הבא.
- ההגדרות בדף Configure alert trigger קובעות מתי ההתראה מופעלת. בוחרים סוג תנאי, ואם צריך, מציינים סף. למידע נוסף, קראו את המאמר יצירת מדיניות התראות לפי סף של מדד.
- לוחצים על הבא.
- אופציונלי: כדי להוסיף התראות למדיניות ההתראות, לוחצים על Notification channels. בתיבת הדו-שיח, בוחרים ערוץ התראות אחד או יותר מהתפריט ולוחצים על OK.
- אופציונלי: מעדכנים את משך הזמן לסגירה אוטומטית של ההתראה. השדה הזה קובע מתי מערכת Monitoring תסגור התראות אם אין נתוני מדדים.
- אופציונלי: לוחצים על Documentation ומוסיפים את המידע שרוצים לכלול בהודעה.
- לוחצים על Alert name ונותנים שם למדיניות ההתראות.
- לוחצים על יצירת מדיניות.