תזמון צינורות עיבוד נתונים
במאמר הזה מוסבר איך לתזמן צינורות עיבוד נתונים ב-BigQuery, כולל איך לתזמן צינורות עיבוד נתונים ולבדוק את ההרצות המתוזמנות של צינורות עיבוד הנתונים.
צינורות עיבוד הנתונים מופעלים על ידי Dataform. כל תזמון של צינור עיבוד נתונים מופעל באמצעות פרטי הכניסה של המשתמש בחשבון Google או באמצעות חשבון שירות בהתאמה אישית שאתם בוחרים כשאתם מגדירים את התזמון.
השינויים שאתם מבצעים בצינור עיבוד נתונים נשמרים באופן אוטומטי, אבל הם זמינים רק לכם ולמשתמשים שקיבלו את התפקיד "אדמין ב-Dataform" בפרויקט. כדי לעדכן את התזמון עם גרסה חדשה של צינור עיבוד הנתונים, צריך לפרוס את צינור עיבוד הנתונים. הפריסה מעדכנת את התזמון כך שישתמש בגרסה הנוכחית של צינור עיבוד הנתונים. התזמונים תמיד מפעילים את הגרסה האחרונה שנפרסה.
תזמונים של צינורות עיבוד נתונים שמכילים קובצי Notebook משתמשים במפרט ברירת מחדל של זמן ריצה. במהלך הפעלה מתוזמנת של צינור עיבוד נתונים שמכיל מסמכי Notebook, BigQuery כותב את הפלט של מסמכי ה-Notebook בקטגוריה של Cloud Storage שנבחרה במהלך יצירת התזמון.
לפני שמתחילים
לפני שמתחילים, יוצרים צינור עיבוד נתונים.
הפעלת תזמון צינור עיבוד נתונים
כדי לתזמן צינורות עיבוד נתונים, צריך להקצות את התפקיד הבא לחשבונות השירות בהתאמה אישית שבהם אתם מתכוונים להשתמש לתזמון צינורות עיבוד נתונים:
- משתמש בחשבון שירות (
roles/iam.serviceAccountUser) - כדי להוסיף את חשבון השירות כחשבון משתמש לעצמו, פועלים לפי ההוראות במאמר הקצאת תפקיד יחיד בחשבון שירות. במילים אחרות, מוסיפים את חשבון השירות כחשבון משתמש לאותו חשבון שירות. אחר כך מקצים לחשבון המשתמש הזה את התפקיד "משתמש בחשבון שירות".
אם צינור עיבוד הנתונים מכיל שאילתות SQL, צריך להקצות את התפקידים הבאים לחשבונות השירות בהתאמה אישית או לחשבונות Google שבהם רוצים להשתמש לתזמונים של צינור עיבוד הנתונים:
- BigQuery Job User (
roles/bigquery.jobUser) - כך מקצים תפקיד אחד בפרויקט כדי להקצות את התפקיד "משתמש במשימות BigQuery" לחשבונות השירות בהתאמה אישית או לחשבונות Google בפרויקטים שמהם צינורות עיבוד הנתונים קוראים נתונים.
- BigQuery Data Viewer (
roles/bigquery.dataViewer) - כדי להקצות את התפקיד "צפייה בנתונים ב-BigQuery" לחשבונות השירות בהתאמה אישית או לחשבונות Google בפרויקטים שמהם צינורות עיבוד הנתונים קוראים נתונים, מבצעים את ההוראות להקצאת תפקיד יחיד בפרויקט.
- עריכה של נתוני BigQuery (
roles/bigquery.dataEditor) - כדי להקצות את התפקיד "עריכת נתונים ב-BigQuery" לחשבונות השירות בהתאמה אישית או לחשבונות Google בפרויקטים שצינורות עיבוד הנתונים כותבים אליהם נתונים, פועלים לפי ההוראות במאמר הקצאת תפקיד יחיד בפרויקט.
אם צינור עיבוד הנתונים מכיל קובצי Notebook, צריך להקצות את התפקידים הבאים לחשבונות השירות בהתאמה אישית או לחשבונות Google שבהם רוצים להשתמש לתזמונים של צינור עיבוד הנתונים:
- משתמש שמריץ Notebook (
roles/aiplatform.notebookExecutorUser) - כדי להקצות את התפקיד "משתמש עם הרשאת הפעלה של Notebook" לחשבונות השירות בהתאמה אישית או לחשבונות Google בפרויקט שנבחר, פועלים לפי ההוראות במאמר הקצאת תפקיד יחיד בפרויקט.
- אדמין באחסון (
roles/storage.admin) - פועלים לפי ההוראות במאמר הוספת חשבון משתמש למדיניות ברמת הקטגוריה כדי להוסיף את חשבונות השירות בהתאמה אישית או את חשבונות Google כחשבונות משתמשים לקטגוריה של Cloud Storage שבה רוצים להשתמש כדי לאחסן את הפלט של ה-notebooks שהופעלו בהרצות מתוזמנות של צינורות עיבוד נתונים, ואז נותנים את התפקיד אדמין של Storage לחשבונות המשתמשים האלה.
בנוסף, צריך להקצות את התפקידים הבאים לסוכן השירות של Dataform שמוגדר כברירת מחדל:
- יצירת אסימונים בחשבון שירות (
roles/iam.serviceAccountTokenCreator) - כדי להוסיף את סוכן השירות של Dataform כחשבון משתמש לחשבון השירות, ולתת לו את התפקיד "יצירת אסימונים בחשבון שירות", פועלים לפי ההוראות במאמר מתן גישה ליצירת אסימונים בחשבון שירות.
- משתמש בחשבון שירות (
roles/iam.serviceAccountUser) - כדי להקצות את התפקיד "משתמש בחשבון שירות" לסוכן השירות של Dataform שמוגדר כברירת מחדל בחשבון השירות בהתאמה אישית, פועלים לפי ההוראות במאמר הקצאה או ביטול של כמה תפקידים ב-IAM באמצעות Cloud de Confiance מסוף Google Cloud.
כדי להפעיל העשרת מטא-נתונים ב-Knowledge Catalog, צריך להפעיל את Dataplex API.
בנוסף, צריך להקצות את התפקיד הבא בפרויקט או בקבוצת הרשומות של @bigquery לחשבונות השירות בהתאמה אישית או לחשבונות Google שבהם אתם מתכננים להשתמש לתזמון צינורות עיבוד נתונים:
- תפקיד עריכה בקטלוג Dataplex (
roles/dataplex.catalogEditor) - כדי להקצות את התפקיד "עריכה של Dataplex Catalog" לחשבונות השירות בהתאמה אישית או לחשבונות Google בפרויקט או בקבוצת הרשומות של
@bigquery, פועלים לפי ההוראות במאמר הקצאת תפקיד יחיד בפרויקט.
מידע נוסף על חשבונות שירות ב-Dataform
דרישות של VPC Service Controls
אם אתם משתמשים ב-VPC Service Controls כדי להגן על צינורות עיבוד הנתונים, חשוב לדעת שהפעלות מתוזמנות מופעלות על ידי Dataform. כשמגדירים את VPC Service Controls להרצות מתוזמנות, צריך לוודא שהדרישות הבאות מתקיימות:
- צריך להגדיר את שירות מדיניות הארגון של
dataform.restrictGitRemotes. - Dataform ו-BigQuery צריכים להיות מוגבלים על ידי אותם גבולות גזרה לשירות של VPC Service Controls.
- כדי לאפשר למשתמשים לבצע אימות באמצעות פרטי הכניסה של חשבון Google שלהם כשמתזמנים או מפעילים הפעלות באופן ידני, צריך להוסיף את זהויות המשתמשים שלהם לכללי ה-ingress. למידע נוסף, קראו את המאמרים עדכון כללי הכניסה והיציאה של גבולות גזרה לשירות והפניה לכללי כניסה.
במאמר הגדרת VPC Service Controls ל-Dataform מפורטים שלבי ההגדרה ושיקולי האבטחה.
התפקידים הנדרשים
כדי לקבל את ההרשאות שדרושות לניהול צינורות עיבוד נתונים, בקשו מהאדמין לתת לכם את התפקידים הבאים ב-IAM:
-
הצגה וניהול של לוחות זמנים:
- אדמין ב-Dataform (
roles/dataform.admin) בצינור עיבוד הנתונים - עריכה ב-Dataform (
roles/dataform.editor) בפרויקט
- אדמין ב-Dataform (
-
הצגה והפעלה של צינורות עיבוד נתונים:
- צפייה ב-Dataform (
roles/dataform.viewer) בפרויקט - BigQuery Job User (
roles/bigquery.jobUser) בפרויקט
- צפייה ב-Dataform (
-
הפעלת תזמון צינור עיבוד נתונים עם פרטי כניסה של משתמש לחשבון Google:
משתמש במשימות BigQuery (
roles/bigquery.jobUser) בפרויקט -
הפעלת תזמון של צינור עיבוד נתונים באמצעות חשבון שירות בהתאמה אישית:
משתמש בחשבון שירות (
roles/iam.serviceAccountUser) בחשבון השירות בהתאמה אישית - ניהול לוחות זמנים של צינורות עיבוד נתונים בתיקיות של משתמשים:
-
ניהול לוחות זמנים של צינורות עיבוד נתונים בתיקיות של צוותים:
- בעלים של תיקיית צוות (
roles/dataform.teamFolderOwner) בתיקיית הצוות - בעל הרשאת עריכה בתיקיית צוות (
roles/dataform.teamFolderContributor) בתיקיית הצוות
- בעלים של תיקיית צוות (
-
ניהול צינורות עיבוד נתונים במאגרי Git:
משתמש OAuth של Developer Connect (
roles/developerconnect.oauthUser) בפרויקט -
הפעלת העשרת מטא-נתונים:
עריכת קטלוג Dataplex (
roles/dataplex.catalogEditor) בפרויקט או בקבוצת הרשומות של@bigquery
להסבר על מתן תפקידים, ראו איך מנהלים את הגישה ברמת הפרויקט, התיקייה והארגון.
יכול להיות שאפשר לקבל את ההרשאות הנדרשות גם באמצעות תפקידים בהתאמה אישית או תפקידים מוגדרים מראש.
כדי לשפר את האבטחה של התזמון, קראו את המאמר הטמעת הרשאות תזמון משופרות.
מידע נוסף על IAM ב-Dataform זמין במאמר בקרת גישה באמצעות IAM.
מידע נוסף על תפקידים בתיקיות זמין במאמר יצירה וניהול של תיקיות.
מידע נוסף על תפקידים במאגרי Git זמין במאמר ניהול קוד באמצעות מאגרי Git ב-BigQuery Studio.
כדי להשתמש בתבניות של סביבות זמן ריצה של נוטבוק של Colab כשמתזמנים פייפליינים, צריך את התפקיד 'משתמש בסביבת זמן ריצה של Notebook' (roles/aiplatform.notebookRuntimeUser).
יצירת לוח זמנים לפייפליין
אתם יכולים גם להשתמש בדף Pipelines & Connections כדי לתזמן צינור עיבוד נתונים של Dataform באמצעות תהליך עבודה יעיל שספציפי ל-BigQuery. התכונה הזו נמצאת בגרסת טרום-השקה (Preview).
כדי ליצור לוח זמנים לצינור עיבוד נתונים:
החלונית קבצים
נכנסים לדף BigQuery במסוף Cloud de Confiance .
בחלונית השמאלית, לוחצים על Files כדי לפתוח את דפדפן הקבצים.
אם החלונית הימנית לא מוצגת, לוחצים על הרחבת החלונית הימנית כדי לפתוח אותה.
בחלונית Files, מרחיבים את התיקייה User או את התיקייה Team folder ובוחרים צינור עיבוד נתונים.
בסרגל הכלים של Pipeline Viewer, לוחצים על Schedule או על Trigger.
בחלונית Schedule pipeline, בשדה Schedule name, נותנים שם לתזמון.
בקטע Authentication, מאשרים את הפייפליין באמצעות פרטי הכניסה של משתמש בחשבון Google או חשבון שירות.
כדי להשתמש בפרטי הכניסה של משתמש בחשבון Google (גרסת טרום-השקה (Preview)), בוחרים באפשרות Execute with my user credentials.
אופציונלי: בקטע Extended access options, בוחרים את השירותים הנוספים שנדרשים לצינור עיבוד הנתונים:
- Knowledge Catalog: מאפשר עדכוני מטא-נתונים של Cloud de Confiance Knowledge Catalog.
- Google Drive: מאפשר גישה לקריאה בלבד לקבצים ב-Google Drive.
- Bigtable: הרשאת קריאה בלבד לנתונים ב-Google Bigtable.
כדי להשתמש בחשבון שירות, בוחרים באפשרות Execute with selected service account ואז בוחרים חשבון שירות.
אם הצינור מכיל notebook, בקטע Notebook options, בשדה Runtime template, בוחרים תבנית של סביבת זמן ריצה ל-notebook ב-Colaboratory או את המפרטים של סביבת זמן הריצה שמוגדרים כברירת מחדל. פרטים נוספים על יצירת תבנית של נוטבוק של Colab זמינים במאמר יצירת תבנית של סביבת זמן ריצה.
אם הצינור כולל קובץ Notebook, בקטע Notebook options, בשדה Cloud Storage bucket, לוחצים על Browse ובוחרים או יוצרים קטגוריה של Cloud Storage לאחסון הפלט של קובצי Notebook בצינור.
לחשבון השירות שבחרתם צריך להיות תפקיד האדמין של Storage ב-IAM בקטגוריה שבחרתם. מידע נוסף זמין במאמר הפעלת תזמון צינור עיבוד נתונים.
בקטע Configuration Type, בוחרים באפשרות Schedule (time-based recurrence).
בקטע תדירות הפעולה המתוזמנת, מבצעים את הפעולות הבאות:
- בתפריט Repeats, בוחרים את התדירות של הרצות הצינור המתוזמנות.
- בשדה At time, מזינים את השעה שבה רוצים להריץ את צינור עיבוד הנתונים.
- בתפריט Timezone, בוחרים את אזור הזמן של לוח הזמנים.
מגדירים את העדיפות של משימת השאילתה ב-BigQuery באמצעות האפשרות Execute as interactive job with high priority (default). כברירת מחדל, BigQuery מריץ שאילתות כמשימות של שאילתות אינטראקטיביות, שנועדו להתחיל לפעול כמה שיותר מהר. אם לא בוחרים באפשרות הזו, השאילתות מופעלות כמשימות של שאילתות באצווה, שהעדיפות שלהן נמוכה יותר.
לוחצים על יצירת לוח זמנים. אם בחרתם באפשרות Execute with my user credentials בתור שיטת האימות, אתם צריכים לאשר את חשבון Google (תצוגה מקדימה).
כשיוצרים את התזמון, הגרסה הנוכחית של צינור עיבוד הנתונים נפרסת באופן אוטומטי. כדי לעדכן את התזמון עם גרסה חדשה של צינור עיבוד הנתונים, פורסים את צינור עיבוד הנתונים.
הגרסה האחרונה שנפרסה של צינור עיבוד הנתונים פועלת בזמן ובתדירות שנבחרו.
חלונית הסייר
נכנסים לדף BigQuery במסוף Cloud de Confiance .
בחלונית השמאלית, לוחצים על Explorer:

אם החלונית הימנית לא מוצגת, לוחצים על הרחבת החלונית הימנית כדי לפתוח אותה.
בחלונית Explorer, מרחיבים את הפרויקט, לוחצים על Pipelines ובוחרים צינור עיבוד נתונים.
לוחצים על תזמון.
בחלונית Schedule pipeline, בשדה Schedule name, נותנים שם לתזמון.
בקטע Authentication, מאשרים את הפייפליין באמצעות פרטי הכניסה של משתמש בחשבון Google או חשבון שירות.
כדי להשתמש בפרטי הכניסה של המשתמש בחשבון Google, בוחרים באפשרות Execute with my user credentials.
אופציונלי: בקטע Extended access options, בוחרים את השירותים הנוספים שנדרשים לצינור עיבוד הנתונים:
- Knowledge Catalog: מאפשר עדכוני מטא-נתונים של Cloud de Confiance Knowledge Catalog.
- Google Drive: מאפשר גישה לקריאה בלבד לקבצים ב-Google Drive.
- Bigtable: הרשאת קריאה בלבד לנתונים ב-Google Bigtable.
כדי להשתמש בחשבון שירות, בוחרים באפשרות Execute with selected service account ואז בוחרים חשבון שירות.
אם הצינור מכיל notebook, בקטע Notebook options, בשדה Runtime template, בוחרים תבנית של סביבת זמן ריצה ל-notebook ב-Colaboratory או את המפרטים של סביבת זמן הריצה שמוגדרים כברירת מחדל. פרטים נוספים על יצירת תבנית של נוטבוק של Colab זמינים במאמר יצירת תבנית של סביבת זמן ריצה.
אם הצינור כולל קובץ Notebook, בקטע Notebook options, בשדה Cloud Storage bucket, לוחצים על Browse ובוחרים או יוצרים קטגוריה של Cloud Storage לאחסון הפלט של קובצי Notebook בצינור.
לחשבון השירות שבחרתם צריך להיות תפקיד האדמין של Storage ב-IAM בקטגוריה שבחרתם. מידע נוסף זמין במאמר הפעלת תזמון צינור עיבוד נתונים.
בקטע Configuration Type, בוחרים באפשרות Schedule (time-based recurrence).
בקטע תדירות הפעולה המתוזמנת, מבצעים את הפעולות הבאות:
- בתפריט Repeats, בוחרים את התדירות של הרצות הצינור המתוזמנות.
- בשדה At time, מזינים את השעה שבה רוצים להריץ את צינור עיבוד הנתונים.
- בתפריט Timezone, בוחרים את אזור הזמן של לוח הזמנים.
מגדירים את העדיפות של משימת השאילתה ב-BigQuery באמצעות האפשרות Execute as interactive job with high priority (default). כברירת מחדל, BigQuery מריץ שאילתות כמשימות של שאילתות אינטראקטיביות, שנועדו להתחיל לפעול כמה שיותר מהר. אם לא בוחרים באפשרות הזו, השאילתות מופעלות כמשימות של שאילתות באצווה, שהעדיפות שלהן נמוכה יותר.
לוחצים על יצירת לוח זמנים. אם בחרתם באפשרות Execute with my user credentials בתור שיטת האימות, אתם צריכים לאשר את חשבון Google.
כשיוצרים את התזמון, הגרסה הנוכחית של צינור עיבוד הנתונים נפרסת באופן אוטומטי. כדי לעדכן את התזמון עם גרסה חדשה של צינור עיבוד הנתונים, פורסים את צינור עיבוד הנתונים.
הגרסה האחרונה שנפרסה של צינור עיבוד הנתונים פועלת בזמן ובתדירות שנבחרו.
הדף תזמון
נכנסים לדף Scheduling במסוף Cloud de Confiance .
לוחצים על Create ובתפריט בוחרים באפשרות Pipeline schedule.
בחלונית Schedule pipeline, בוחרים צינור עיבוד נתונים לתזמון.
בשדה שם לוח הזמנים, נותנים שם ללוח הזמנים.
בקטע Authentication, מאשרים את הפייפליין באמצעות פרטי הכניסה של משתמש בחשבון Google או חשבון שירות.
כדי להשתמש בפרטי הכניסה של המשתמש בחשבון Google, בוחרים באפשרות Execute with my user credentials.
אופציונלי: בקטע Extended access options, בוחרים את השירותים הנוספים שנדרשים לצינור עיבוד הנתונים:
- Knowledge Catalog: מאפשר עדכוני מטא-נתונים של Cloud de Confiance Knowledge Catalog.
- Google Drive: מאפשר גישה לקריאה בלבד לקבצים ב-Google Drive.
- Bigtable: הרשאת קריאה בלבד לנתונים ב-Google Bigtable.
כדי להשתמש בחשבון שירות, בוחרים באפשרות Execute with selected service account ואז בוחרים חשבון שירות.
אם הפייפליין מכיל קובץ Notebook, בקטע Notebook options, בשדה Runtime template, בוחרים תבנית של סביבת זמן ריצה של נוטבוק של Colab או את המפרטים של סביבת זמן הריצה שמוגדרים כברירת מחדל. במאמר יצירת תבנית של סביבת זמן ריצה מוסבר איך יוצרים תבנית של סביבת זמן ריצה לנוטבוק של Colab.
אם הצינור מכיל קובץ Notebook, בשדה Cloud Storage bucket לוחצים על Browse ובוחרים או יוצרים קטגוריה של Cloud Storage לאחסון הפלט של קובצי ה-Notebook בצינור.
לחשבון השירות שבחרתם צריך להיות תפקיד האדמין של Storage ב-IAM בקטגוריה שנבחרה. מידע נוסף זמין במאמר הפעלת תזמון צינור עיבוד נתונים.
בקטע Configuration Type, בוחרים באפשרות Schedule (time-based recurrence).
בקטע תדירות הפעולה המתוזמנת, מבצעים את הפעולות הבאות:
- בתפריט Repeats, בוחרים את התדירות של הרצות הצינור המתוזמנות.
- בשדה At time, מזינים את השעה שבה רוצים להריץ את צינור עיבוד הנתונים.
- בתפריט Timezone, בוחרים את אזור הזמן של לוח הזמנים.
מגדירים את העדיפות של משימת השאילתה ב-BigQuery באמצעות האפשרות Execute as interactive job with high priority (default). כברירת מחדל, BigQuery מריץ שאילתות כמשימות של שאילתות אינטראקטיביות, שנועדו להתחיל לפעול כמה שיותר מהר. אם לא בוחרים באפשרות הזו, השאילתות מופעלות כמשימות של שאילתות באצווה, שהעדיפות שלהן נמוכה יותר.
לוחצים על יצירת לוח זמנים. אם בחרתם באפשרות Execute with my user credentials בתור שיטת האימות, אתם צריכים לאשר את חשבון Google.
אישור חשבון Google
כדי לאמת את המשאב באמצעות פרטי הכניסה של המשתמש בחשבון Google, צריך לתת באופן ידני הרשאה לצינורות עיבוד הנתונים של BigQuery לקבל את אסימון הגישה לחשבון Google ולגשת לנתוני המקור בשמכם. אתם יכולים לאשר ידנית באמצעות ממשק תיבת הדו-שיח של OAuth. אם בוחרים באחת מאפשרויות הגישה המורחבת, צריך לתת גישה לשירותים האלה – לדוגמה, Google Drive או Knowledge Catalog.
צריך לתת הרשאה לצינורות עיבוד הנתונים של BigQuery רק פעם אחת.
כדי לבטל את ההרשאה שנתתם, פועלים לפי השלבים הבאים:
- עוברים אל הדף של החשבון ב-Google.
- לוחצים על BigQuery Pipelines.
- לוחצים על הסרת הגישה.
כדי לשנות את הבעלים של תזמון צינור עיבוד הנתונים באמצעות עדכון פרטי הכניסה, נדרש גם אישור ידני אם הבעלים החדש של חשבון Google מעולם לא יצר תזמון לפני כן.
אם צינור עיבוד הנתונים מכיל קובץ Notebook, צריך גם לתת באופן ידני הרשאה ל-Colab Enterprise לקבל את אסימון הגישה לחשבון Google שלכם ולגשת לנתוני המקור בשמכם. צריך לתת הרשאה רק פעם אחת. אתם יכולים לבטל את ההרשאה הזו בדף של חשבון Google.
תזמון מבוסס-טריגרים
אתם יכולים להגדיר פייפליינים ב-BigQuery כך שיפעילו באופן אוטומטי הרצות על סמך עדכונים בטבלאות ב-BigQuery ספציפיות. אתם יכולים ליצור לוחות זמנים שמבוססים על טריגרים כדי להפעיל צינורות עיבוד נתונים באופן אוטומטי בתגובה לשינויים בנתונים ב-BigQuery, במקום לפי לוח זמנים קבוע.
כשהצינור מזהה שינויים בטבלה או בטבלאות שצוינו, הוא מפעיל את תהליך העבודה המשויך. אתם יכולים להגדיר תנאים שמבוססים על עדכונים בטבלה אחת, בכל הטבלאות בקבוצה או בכל אחת מהטבלאות בקבוצה.
אתם יכולים גם לשנות את ההגדרות האופציונליות של התזמונים שמבוססים על טריגרים, כדי לקבוע את המרווח המינימלי בין הטריגרים של הצינור. לדוגמה, אפשר לשנות את הערך של Min Execution Duration כדי לוודא שתזמונים שמבוססים על טריגרים לא מופעלים בתדירות גבוהה יותר מהרצוי. אפשר גם לשנות את הערך של Max Wait Duration כדי לוודא שהתזמון שמבוסס על טריגר יופעל פעם אחת במהלך משך הזמן הזה, גם אם לא זוהו עדכונים בטבלה.
מגבלות
לוחות זמנים שמבוססים על טריגרים כפופים למגבלות הבאות:
- לוחות זמנים שמבוססים על טריגרים לא פועלים באופן מיידי. כשמגדירים תזמון מבוסס-טריגר, הצינור בודק את הסטטוס של הטבלה ב-BigQuery בערך פעם ב-3 דקות. פרק הזמן הזה נקרא "מרווח הסקר", והוא יכול לגרום לעיכוב בין שינוי הטבלה לבין הפעלת הטריגר.
- כל טבלה במעקב גורמת לקריאות ל-API ב-BigQuery בכל מרווח דגימה. מעקב אחרי מספר גדול מאוד של טבלאות יכול להגדיל את צריכת המכסה של BigQuery API.
יצירת טריגר
כדי ליצור טריגר, פועלים לפי השלבים הבאים:
נכנסים לדף BigQuery במסוף Cloud de Confiance .
פותחים את הצינור ב-Pipeline Viewer באחת מהדרכים הבאות:
- בחלונית הימנית, לוחצים על Files, מרחיבים את התיקייה User או את התיקייה Team folder ובוחרים צינור עיבוד נתונים.
- בחלונית הימנית, לוחצים על Explorer, מרחיבים את הפרויקט, לוחצים על Pipelines ובוחרים צינור עיבוד נתונים.
בסרגל הכלים של Pipeline Viewer, לוחצים על Trigger.
בשדה טריגר, מזינים שם לטריגר.
בקטע Authentication, מאשרים את הפייפליין באמצעות פרטי הכניסה של משתמש בחשבון Google או חשבון שירות.
כדי להשתמש בפרטי הכניסה של המשתמש בחשבון Google, בוחרים באפשרות Execute with my user credentials.
אופציונלי: בקטע Extended access options, בוחרים את השירותים הנוספים שנדרשים לצינור עיבוד הנתונים:
- Knowledge Catalog: מאפשר עדכוני מטא-נתונים של Cloud de Confiance Knowledge Catalog.
- Google Drive: מאפשר גישה לקריאה בלבד לקבצים ב-Google Drive.
- Bigtable: הרשאת קריאה בלבד לנתונים ב-Google Bigtable.
כדי להשתמש בחשבון שירות, בוחרים באפשרות Execute with selected service account ואז בוחרים חשבון שירות.
אם הצינור מכיל notebook, בקטע Notebook options, בשדה Runtime template, בוחרים תבנית של סביבת זמן ריצה ל-notebook ב-Colaboratory או את המפרטים של סביבת זמן הריצה שמוגדרים כברירת מחדל. פרטים נוספים על יצירת תבנית של נוטבוק של Colab זמינים במאמר יצירת תבנית של סביבת זמן ריצה.
אם הצינור כולל קובץ Notebook, בקטע Notebook options, בשדה Cloud Storage bucket, לוחצים על Browse ובוחרים או יוצרים קטגוריה של Cloud Storage לאחסון הפלט של קובצי Notebook בצינור.
לחשבון השירות שבחרתם צריך להיות תפקיד האדמין של Storage ב-IAM בקטגוריה שנבחרה. מידע נוסף זמין במאמר הפעלת תזמון צינור עיבוד נתונים.
בקטע Configuration Type, בוחרים באפשרות Trigger (event-based execution).
בשדה Search tables, מוסיפים טבלה או טבלאות שרוצים לעקוב אחריהן כדי להפעיל את הטריגר.
בקטע תנאי להפעלה, בוחרים באחת מהאפשרויות הבאות:
- Wait for ALL tables to update: הפעלת תהליך העבודה רק כשכל הטבלאות ברשימה עודכנו מאז הבדיקה האחרונה.
- Trigger if ANY table updates: הפעלת תהליך העבודה אם אחת מהטבלאות ברשימה עודכנה מאז הבדיקה האחרונה.
(אופציונלי) בשדה Max Wait Duration, מזינים משך זמן כדי לאלץ הפעלה של טריגר אם לא מזוהים עדכונים בטבלה במהלך פרק הזמן הזה. אפשר להזין ערכים נתמכים בין שנייה אחת ל-7 ימים. אם לא מציינים ערך, תהליך העבודה יפעל רק אם הטבלה שבמעקב תעודכן, ומשך הביצוע המינימלי יתקיים.
(אופציונלי) בשדה Min Execution Duration, בוחרים משך זמן כדי למנוע מהטריגרים לפעול בתדירות גבוהה יותר ממשך הזמן המינימלי הזה. אפשר להזין ערכים בין 3 דקות ל-24 שעות. אם לא מציינים ערך, ברירת המחדל היא 3 דקות.
לוחצים על יצירת לוח זמנים. אם בחרתם באפשרות Execute with my user credentials בתור שיטת האימות, אתם צריכים לאשר את חשבון Google.
פתרון בעיות בלוחות זמנים שמבוססים על טריגרים
בקטע הזה מתוארות בעיות נפוצות בתזמונים שמבוססים על טריגרים, ואיך לפתור אותן.
- הבעיה: הטריגר לא מופעל
- פתרון: נסו את אחת מהאפשרויות הבאות:
- מוודאים שלפרטי הכניסה של המשתמש או של חשבון השירות יש את כל ההרשאות הנדרשות.
- מוודאים שהטבלה שצוינה ב-BigQuery משתנה.
- מוודאים שהטריגר לא מושפע ממרווח הזמן בין דגימות.
- בודקים אם משך הביצוע המינימלי, או הערך של Min Execution Duration, מונע הפעלות תכופות יותר. אפשר להקטין את הערך הזה כדי להגדיל את תדירות ההפעלה של הטריגר.
- בודקים אם אפשרות התנאי להפעלה (הכול או כלשהו) משפיעה על הפעלת הטריגר.
- בודקים ביומני הביקורת אם יש שגיאות כש-Dataform מנסה לשלוח קריאה ל-BigQuery API כדי לבדוק את הסטטוס של הטבלה במעקב.
- הבעיה: הטריגר מופעל לעיתים קרובות מדי
- פתרון: משנים את משך הביצוע המינימלי או את הערך של Min Execution Duration. אפשר להגדיל את הערך הזה כדי להקטין את תדירות ההפעלה של הטריגר.
פריסת צינור עיבוד נתונים
כשפורסים צינור עיבוד נתונים, התזמון או הגדרת התזמור שלו מתעדכנים בגרסה הנוכחית של צינור עיבוד הנתונים. הרצות מתוזמנות תמיד מפעילות את הגרסה האחרונה של צינור עיבוד הנתונים שנפרסה.
פריסת צינורות עיבוד נתונים שמאוחסנים בתיקיות
כדי לפרוס צינורות עיבוד נתונים עצמאיים וצינורות עיבוד נתונים שמאוחסנים בתיקיות:
נכנסים לדף BigQuery במסוף Cloud de Confiance .
פותחים את צינור עיבוד הנתונים ב-Pipeline Viewer באחת מהדרכים הבאות:
- בחלונית הימנית, לוחצים על Files, מרחיבים את התיקייה User או את התיקייה Team folder ובוחרים צינור עיבוד נתונים.
- בחלונית הימנית, לוחצים על Explorer, מרחיבים את הפרויקט, לוחצים על Pipelines ובוחרים צינור עיבוד נתונים.
בסרגל הכלים של Pipeline Viewer, לוחצים על Deploy.
לוח הזמנים התואם מתעדכן בגרסה הנוכחית של צינור עיבוד הנתונים. הגרסה האחרונה שנפרסה של צינור עיבוד הנתונים פועלת בזמן המתוזמן.
פריסת צינורות עיבוד נתונים שמאוחסנים במאגרים של Git
תהליכים שמאוחסנים בתיקיות Git משתמשים בפריסות של Dataform לתזמור ולתזמון. פריסות מאפשרות לכם להגדיר גרסאות, תהליכי עבודה, שינויים בהגדרות של הידור וניהול של כמה סביבות.
כדי לפרוס צינור עיבוד נתונים שמאוחסן במאגר Git:
נכנסים לדף BigQuery במסוף Cloud de Confiance .
בחלונית הימנית, לוחצים על קבצים.
בעץ הקבצים, מרחיבים את התיקייה של מאגר Git המקושר ובוחרים צינור עיבוד נתונים, או לוחצים על התיקייה של מאגר Git אם מדובר בצינור עיבוד נתונים ברמת הבסיס.
בסרגל הכלים של Pipeline Viewer, לוחצים על Deploy.
בתיבת הדו-שיח של הפריסה, קובעים את הגדרות המוצר, הגדרות תהליך העבודה והגדרות ההפעלה.
לוחצים על Deploy.
מידע נוסף על הגדרת פריסות, הגדרות של גרסאות והגדרות של תהליכי עבודה זמין במאמר פריסות של Dataform.
השבתת לוח זמנים
כדי להשהות את ההרצות המתוזמנות של צינור עיבוד נתונים נבחר בלי למחוק את התזמון, אתם יכולים להשבית את התזמון.
כדי להשבית את התזמון של צינור עיבוד נתונים מסוים:
החלונית קבצים
נכנסים לדף BigQuery במסוף Cloud de Confiance .
בחלונית הימנית, לוחצים על קבצים.
בחלונית Files, מרחיבים את התיקייה User או את התיקייה Team folder ובוחרים צינור עיבוד נתונים.
בסרגל הכלים של Pipeline Viewer, לוחצים על View trigger.
בטבלה Schedule details, בשורה Schedule state, לוחצים על המתג Schedule is enabled.
חלונית הסייר
נכנסים לדף BigQuery במסוף Cloud de Confiance .
בחלונית השמאלית, לוחצים על Explorer:

בחלונית Explorer, מרחיבים את הפרויקט, לוחצים על Pipelines ובוחרים צינור עיבוד נתונים.
לוחצים על הצגת הטריגר.
בטבלה Schedule details, בשורה Schedule state, לוחצים על המתג Schedule is enabled.
הדף תזמון
נכנסים לדף Scheduling במסוף Cloud de Confiance .
לוחצים על השם של צינור עיבוד הנתונים שנבחר.
בדף Schedule details, לוחצים על Disable.
הפעלת לוח זמנים
כדי להפעיל מחדש את ההרצות המתוזמנות של צינור עיבוד נתונים מושבת, פועלים לפי השלבים הבאים:
החלונית קבצים
נכנסים לדף BigQuery במסוף Cloud de Confiance .
בחלונית הימנית, לוחצים על קבצים.
בחלונית Files, מרחיבים את התיקייה User או את התיקייה Team folder ובוחרים צינור עיבוד נתונים.
בסרגל הכלים של Pipeline Viewer, לוחצים על View trigger.
בטבלה Schedule details, בשורה Schedule state, לוחצים על המתג Schedule is disabled.
חלונית Explorer
נכנסים לדף BigQuery במסוף Cloud de Confiance .
בחלונית הימנית, לוחצים על Explorer:

בחלונית Explorer, מרחיבים את הפרויקט, לוחצים על Pipelines ובוחרים צינור עיבוד נתונים.
לוחצים על הצגת הטריגר.
בטבלה Schedule details, בשורה Schedule state, לוחצים על המתג Schedule is disabled.
הדף תזמון
נכנסים לדף Scheduling במסוף Cloud de Confiance .
לוחצים על השם של צינור עיבוד הנתונים שנבחר.
בדף Schedule details, לוחצים על Enable.
הפעלה ידנית של צינור עיבוד נתונים שנפרס
כשמריצים באופן ידני צינור עיבוד נתונים שנפרס בתזמון שנבחר, BigQuery מריץ את צינור עיבוד הנתונים שנפרס פעם אחת, בלי קשר לתזמון.
כדי להריץ באופן ידני צינור עיבוד נתונים שנפרס, פועלים לפי השלבים הבאים:
נכנסים לדף Scheduling במסוף Cloud de Confiance .
לוחצים על השם של תזמון צינור עיבוד הנתונים שנבחר.
בדף Schedule details, לוחצים על Run.
הצגת כל לוחות הזמנים של צינורות עיבוד הנתונים
כדי לראות את כל התזמונים של צינורות עיבוד הנתונים בפרויקט ב- Cloud de Confiance , מבצעים את הפעולות הבאות:
נכנסים לדף Scheduling במסוף Cloud de Confiance .
אופציונלי: כדי להציג עמודות נוספות עם פרטים על תזמון צינורות עיבוד הנתונים, לוחצים על Column display options, בוחרים עמודות ולוחצים על OK.
הצגת פרטי התזמון של צינור עיבוד הנתונים
כדי לראות את הפרטים של תזמון צינור עיבוד נתונים שנבחר:
החלונית קבצים
נכנסים לדף BigQuery במסוף Cloud de Confiance .
בחלונית הימנית, לוחצים על קבצים.
בחלונית Files, מרחיבים את התיקייה User או את התיקייה Team folder ובוחרים צינור עיבוד נתונים.
בסרגל הכלים של Pipeline Viewer, לוחצים על View trigger (או View trigger).
חלונית הסייר
נכנסים לדף BigQuery במסוף Cloud de Confiance .
בחלונית השמאלית, לוחצים על Explorer:

בחלונית Explorer, מרחיבים את הפרויקט, לוחצים על Pipelines ובוחרים צינור עיבוד נתונים.
לוחצים על הצגת הטריגר.
הדף תזמון
נכנסים לדף Scheduling במסוף Cloud de Confiance .
לוחצים על השם של תזמון צינור עיבוד הנתונים שנבחר.
הצגת הפעלות מתוזמנות קודמות
כדי לראות את ההפעלות הקודמות של תזמון צינור עיבוד נתונים מסוים:
החלונית קבצים
נכנסים לדף BigQuery במסוף Cloud de Confiance .
בחלונית הימנית, לוחצים על קבצים.
בחלונית Files, מרחיבים את התיקייה User, את התיקייה Team folder או מאגר Git, ובוחרים צינור עיבוד נתונים.
בסרגל הכלים של Pipeline Viewer, לוחצים על Executions.
אופציונלי: כדי לרענן את רשימת ההפעלות הקודמות, לוחצים על רענון.
חלונית הסייר
נכנסים לדף BigQuery במסוף Cloud de Confiance .
בחלונית השמאלית, לוחצים על Explorer:

בחלונית Explorer, מרחיבים את הפרויקט, לוחצים על Pipelines ובוחרים צינור עיבוד נתונים.
לוחצים על Executions.
אופציונלי: כדי לרענן את רשימת ההפעלות הקודמות, לוחצים על רענון.
הדף תזמון
נכנסים לדף Scheduling במסוף Cloud de Confiance .
לוחצים על השם של צינור עיבוד הנתונים שנבחר.
בדף Schedule details, בקטע Past executions, בודקים את ההפעלות הקודמות.
אופציונלי: כדי לרענן את רשימת ההפעלות הקודמות, לוחצים על רענון.
עריכת לוח זמנים של צינור עיבוד נתונים
כדי לערוך את לוח הזמנים של צינור עיבוד הנתונים:
החלונית קבצים
נכנסים לדף BigQuery במסוף Cloud de Confiance .
בחלונית הימנית, לוחצים על קבצים.
בחלונית Files, מרחיבים את התיקייה User או את התיקייה Team folder ובוחרים צינור עיבוד נתונים.
בסרגל הכלים של Pipeline Viewer, לוחצים על View trigger ואז על Edit.
בתיבת הדו-שיח Schedule pipeline, עורכים את לוח הזמנים ולוחצים על Update schedule.
חלונית הסייר
נכנסים לדף BigQuery במסוף Cloud de Confiance .
בחלונית השמאלית, לוחצים על Explorer:

בחלונית Explorer, מרחיבים את הפרויקט, לוחצים על Pipelines ובוחרים צינור עיבוד נתונים.
לוחצים על הצגת הטריגר ואז על עריכה.
בתיבת הדו-שיח Schedule pipeline, עורכים את לוח הזמנים ולוחצים על Update schedule.
הדף תזמון
נכנסים לדף Scheduling במסוף Cloud de Confiance .
לוחצים על השם של צינור עיבוד הנתונים שנבחר.
בדף פרטי לוח הזמנים, לוחצים על עריכה.
לוחצים על הצגת הטריגר ואז על עריכה.
בתיבת הדו-שיח Schedule pipeline, עורכים את לוח הזמנים ולוחצים על Update schedule.
מחיקת לוח זמנים של צינור עיבוד נתונים
כדי למחוק לתמיד לוח זמנים של צינור עיבוד נתונים:
נכנסים לדף Scheduling במסוף Cloud de Confiance .
בצע אחת מהפעולות הבאות:
לוחצים על השם של התזמון שנבחר, ובדף Schedule details לוחצים על Delete.
בשורה של התזמון שנבחר, לוחצים על הסמל View actions בעמודה Actions ואז על Delete.
בתיבת הדו-שיח שמופיעה, לוחצים על מחיקה.