מבוא לניהול עומסי עבודה
ניהול עומסי עבודה ב-BigQuery מאפשר להקצות ולנהל משאבי מחשוב שזמינים לניתוח ולעיבוד נתונים, וגם להגדיר איך יחויבו על המשאבים האלה.
מודלים לניהול עומסי עבודה
ב-BigQuery יש שני מודלים לניהול עומסי עבודה. בחיוב על פי דרישה, אתם משלמים על מספר הבייטים שעברו עיבוד כשאתם שולחים שאילתה או מעבדים את הנתונים. בחיוב לפי קיבולת, אתם מקצים קיבולת עיבוד לעומסי עבודה עם אפשרות להגדלה אוטומטית של הקיבולת לפי הצורך.
אפשר לעבור בין מודלים של חיוב לפי דרישה לבין מודלים של חיוב לפי קיבולת בכל שלב. אפשר גם להשתמש בשילוב של שני המודלים.
בחירת מודל
כשבוחרים מודל לניהול עומסי עבודה, כדאי להתייחס לנקודות הבאות:
| על פי דרישה | קיבולת | |
|---|---|---|
| מודל שימוש | נתונים שנסרקו או עברו עיבוד על ידי השאילתות | משבצות ייעודיות או משבצות שמתאימות את עצמן לעומס |
| יחידת מדידה | TiB | slot-hours |
| קיבולת מינימלית | עד 2,000 משבצות לכל פרויקט | 50 משבצות לכל הזמנה |
| קיבולת מקסימלית | עד 2,000 משבצות לכל פרויקט | אפשר להגדיר לכל הזמנה עד למכסה האזורית |
| בקרת עלויות | אפשר להגדיר מכסות ברמת הפרויקט או ברמת המשתמש (מכסה מקסימלית) | הגדרת תקציב שמבוסס על משבצות זמן לכל הזמנה |
| Configuration | לא נדרשת הגדרה | יצירת מקומות שמורים והקצאה שלהם לפרויקטים |
| תמיכה במהדורות | מערך תכונות קבוע | זמין ב-3 מהדורות |
| הנחות על קיבולת | תשלום לפי שימוש בלבד | התחייבויות אופציונליות למשבצות לשימוש בעומסי עבודה במצב יציב |
| יכולת חיזוי | שימוש וחיוב משתנים | חיוב צפוי באמצעות קביעת קו בסיס והתחייבויות |
| רכישה מרכזית | חיוב לפי פרויקט | הקצאה וחיוב של משבצות באופן מרכזי ולא לכל פרויקט |
| גמישות | קיבולת על פי דרישה (מינימום 10MiB לכל שאילתה) | משבצות בסיסיות או משבצות עם שינוי גודל אוטומטי (מינימום דקה אחת כברירת מחדל; אפשר להפעיל את התכונה 'שינוי גודל דינמי ב-BigQuery' כדי לבטל את משך הזמן המינימלי) |
תעסוקה
בכל פעם שטוענים, מייצאים, מריצים שאילתה או מעתיקים נתונים, BigQuery יוצר, מתזמן ומריץ באופן אוטומטי משימה שעוקבת אחרי התקדמות הפעולה.
יכול להיות שייקח הרבה זמן להשלים את המשימות, לכן הן מורצות באופן אסינכרוני ואפשר לבדוק את הסטטוס שלהן. פעולות קצרות יותר, כמו הצגת רשימה של משאבים או קבלת מטא-נתונים, לא מנוהלות כמשימות.
מידע נוסף על משימות זמין במאמר ניהול משימות.
מכונות מזל
יחידת קיבולת של BigQuery היא יחידת מחשוב וירטואלית שמשמשת את BigQuery להרצת שאילתות SQL או סוגים אחרים של עבודות. במהלך ההפעלה של שאילתה, BigQuery קובע באופן אוטומטי כמה משבצות נעשה שימוש בשאילתה. מספר המשבצות שנעשה בהן שימוש תלוי בכמות הנתונים שעוברים עיבוד, במורכבות של השאילתה ובמספר המשבצות שזמינות.
מידע נוסף על משבצות ועל אופן השימוש בהן זמין במאמר הסבר על משבצות.
הזמנות
במודל התמחור לפי קיבולת, משבצות מוקצות במאגרים שנקראים הזמנות. הזמנות מאפשרות להקצות משבצות זמן בדרכים שמתאימות לארגון שלכם. לדוגמה, אפשר ליצור הזמנה בשם prod
לעומסי עבודה בסביבת ייצור, והזמנה נפרדת בשם test לבדיקות, כדי שעבודות בדיקה לא יתחרו על הקיבולת עם עומסי עבודה בסביבת ייצור. או ליצור הזמנות למחלקות שונות בארגון.
מידע נוסף על הזמנות זמין במאמר ניהול עומסי עבודה באמצעות הזמנות.
BI Engine
BI Engine הוא שירות ניתוח מהיר בזיכרון שמאפשר להריץ שאילתות SQL רבות ב-BigQuery במהירות גבוהה יותר, באמצעות שמירת הנתונים שבהם אתם משתמשים הכי הרבה במטמון בצורה חכמה. BI Engine יכול להאיץ שאילתות SQL מכל מקור, כולל שאילתות שנכתבו על ידי כלי להמחשת נתונים, ויכול לנהל טבלאות במטמון לצורך אופטימיזציה שוטפת.
הזמנות של BI Engine מוקצות ב-GiB של זיכרון ומנוהלות בנפרד מהזמנות של משבצות.
מידע נוסף על BI Engine זמין במאמר מבוא ל-BI Engine.