מכונות GPU במשפחת מכונות שעברו אופטימיזציה למאיץ

במאמר הזה מתוארות מכונות Compute Engine עם מעבדי NVIDIA GPU שמצורפים מראש במשפחת המכונות שמותאמות להאצה. המכונות האלה מיועדות במיוחד לבינה מלאכותית (AI), למידת מכונה (ML), מחשוב עתיר ביצועים (HPC) ואפליקציות שדורשות משאבים גרפיים רבים.

משפחת המכונות שמותאמות למאיצים כוללת את סדרות המכונות הבאות: A4X Max,‏ A4X,‏ A4,‏ A3,‏ A2,‏ G4 ו-G2. לכל סוג מכונה בסדרה יש דגם ספציפי ומספר ספציפי של מעבדי GPU של NVIDIA שמחוברים אליה. אפשר גם לצרף דגמים מסוימים של GPU למכונות וירטואליות לשימוש כללי מסוג N1.

מידע נוסף על מכונות שעברו אופטימיזציה למאיצים עם יחידות TPU מצורפות זמין במאמר מכונות TPU במשפחת המכונות שעברו אופטימיזציה למאיצים.

דגמי GPU וסדרות מכונות

בטבלה הבאה מפורטים המפרטים של החומרה, המיפויים של סדרות המכונות, רוחב הפס של הרשת ויכולות האחסון של דגמי ה-GPU שזמינים ב-Compute Engine:

דגם ה-GPU סדרת מכונות ארכיטקטורה זיכרון ורוחב פס של GPU מעבדים גרפיים לכל מכונה רוחב הפס המקסימלי של הרשת אחסון SSD מקומי Interconnect תמיכה ב-NVIDIA RTX Virtual Workstation (vWS)‎
NVIDIA GB300 A4X Max Blackwell Ultra ‫279GB HBM3e‏ (8TBps) ‫4 (NVL72) 3,600 Gbps ‫12,000 GiB ‫NVLink Full Mesh ‏ (1,800GBps) לא
NVIDIA GB200 A4X Blackwell ‫186GB HBM3e‏ (8TBps) ‫4 (NVL72) 2,000 Gbps ‫12,000 GiB ‫NVLink Full Mesh ‏ (1,800GBps) לא
NVIDIA B200 A4 Blackwell ‫180GB HBM3e‏ (8TBps) 8 3,600 Gbps ‫12,000 GiB ‫NVLink Full Mesh ‏ (1,800GBps) לא
NVIDIA H200 A3 Ultra תא אחסון עליון ‫141GB HBM3e‏ (4.8TBps) 8 3,600 Gbps ‫12,000 GiB ‫NVLink Full Mesh ‏ (900GBps) לא
NVIDIA H100 A3 Mega, High, Edge תא אחסון עליון ‫80GB‏ HBM3‏ (3.35TBps) 1, 2, 4, 8 עד 1,000 Gbps עד 6,000 GiB ‫NVLink Full Mesh ‏ (900GBps) לא
NVIDIA A100 (80GB) A2 Ultra אמפר 80GB HBM2e‏ (1.9TBps) 1, 2, 4, 8 100 Gbps עד ‎3,000 GiB NVLink Full Mesh (600 GBps) לא
NVIDIA A100 (40GB) A2 Standard אמפר ‫40GB‏ HBM2‏ (1.6TBps) 1, 2, 4, 8, 16 100 Gbps עד ‎3,000 GiB NVLink Full Mesh (600 GBps) לא
NVIDIA RTX PRO 6000 G4 Blackwell ‫96GB GDDR7‏ (1.597TBps) 1/8, 1/4, 1/2, 1, 2, 4, 8 200 Gbps עד ‎3,000 GiB PCIe גרסה 5 כן
NVIDIA L4 G2 עדה לאבלייס ‫24GB GDDR6 ‏ (300GBps) 1, 2, 4, 8 100 Gbps עד ‎3,000 GiB PCIe גרסה 4 כן
NVIDIA V100 N1+V100 Volta ‫16GB HBM2 ‏ (900GBps) 1, 2, 4, 8 100 Gbps נתמך NVLink Ring (300 GBps) לא
‫NVIDIA T4 (מתקרב לסיום התמיכה) N1+T4 Turing ‫16GB GDDR6 ‏ (320GBps) 1, 2, 4 100 Gbps נתמך PCIe גרסה 3 כן
‫NVIDIA P4 (מתקרב לסיום התמיכה) N1+P4 פסקל ‫8GB GDDR5 ‏ (192GBps) 1, 2, 4 100 Gbps נתמך PCIe גרסה 3 כן

בקטע הבא מפורטות סדרות המכונות המומלצות בהתאם לעומסי העבודה של ה-GPU. למידע נוסף על בחירת אסטרטגיית מחשוב לעומסי עבודה של AI/ML ו-HPC, קראו את המאמר בחירת אסטרטגיית מחשוב במסמכי התיעוד של AI Hypercomputer.

אימון AI/ML

  • מודלי בסיס מתקדמים ושילוב מומחים (MoE): אימון מראש של מודלים גדולים של טרנספורמרים, ארכיטקטורות מולטי-מודאליות ורשתות שילוב מומחים (MoE) דורש תפוקה גבוהה של Tensor Core, קיבולת גדולה של זיכרון ברוחב פס גבוה (HBM) (עד 279GB לכל GPU) ורוחב פס של חיבור NVLink במהירות גבוהה במיוחד (עד 1,800GB לשנייה) כדי לצמצם את זמן האחזור של הסנכרון בין כמה צמתים. סדרת המכונות המומלצת:

    מידע נוסף זמין במאמר המלצות לאימון מראש של מודלים במסמכי התיעוד של AI Hypercomputer.

  • כוונון עדין ואימון מודלים מתון: התאמה של מודלים בסיסיים קיימים באמצעות טכניקות כמו כוונון יעיל בפרמטרים (PEFT) ו-Low-Rank Adaptation‏ (LoRA) דורשת מספיק זיכרון GPU כדי להכיל את משקלי המודל והגרדיאנטים, בלי צורך באשכולות מרובי-צמתים בקנה מידה של אקסה-בייט. סדרת המכונות המומלצת:

    • ‫A3 High (NVIDIA H100)
    • A2 (NVIDIA A100)
    • G4 (NVIDIA RTX PRO 6000)

    מידע נוסף זמין במאמר המלצות לכוונון מודלים במסמכי התיעוד של AI Hypercomputer.

הסקת מסקנות באמצעות AI/ML

  • הסקת מסקנות ממודלים גדולים (יותר מ-70 מיליארד פרמטרים): כדי להציג מודלי שפה גדולים (LLM), כדאי להשתמש בקיבולת גבוהה של זיכרון ברוחב פס גבוה (HBM3e) (141-186GB לכל GPU) כדי להתאים את משקלי המודל לפחות יחידות GPU, וכך לצמצם את התקורה של התקשורת בין השבבים. סדרת המכונות המומלצת:

    • ‫A4X (NVIDIA GB200)
    • ‫A4 (NVIDIA B200)
    • ‫A3 Ultra (NVIDIA H200)

  • תפוקה גבוהה ועיבוד בזמן אמת: שאילתות אינטראקטיביות עם זמן אחזור קצר, תשובות בסטרימינג ויצירת תמונות משתמשות בפורמטים מספריים מכווננים עם האצת חומרה, כמו נקודה צפה של 8 ביט (FP8), מספר שלם של 8 ביט (INT8) ומספר שלם של 4 ביט (INT4), כדי למקסם את תפוקת הבקשות לכל דולר. סדרת המכונות המומלצת:

    מידע נוסף זמין במאמר המלצות להצגת הסקות במסמכי התיעוד של AI Hypercomputer.

גרפיקה ורכיבים חזותיים

HPC וסימולציה

  • סימולציה ומודלים מדעיים: אפליקציות בדינמיקה מולקולרית (כמו GROMACS ו-AMBER), דינמיקת נוזלים חישובית (CFD), כימיה קוונטית, אסטרופיזיקה וחיזוי מזג אוויר דורשות ביצועים גבוהים של נקודה צפה (floating-point) עם דיוק כפול של 64 ביט (FP64) ורוחב פס גבוה של זיכרון. סדרת המכונות המומלצת:

    • ‫A4X (NVIDIA GB200)
    • ‫A4 (NVIDIA B200)
    • ‫A3 (NVIDIA H100)
    • A2 (NVIDIA A100)

    מידע נוסף מופיע במאמר המלצות ל-HPC במסמכי התיעוד של AI Hypercomputer.

סדרות המכונות A4X Max ו-A4X

סדרות המכונות A4X Max ו-A4X פועלות בפלטפורמה בקנה מידה של אקסה-בייט שמבוססת על ארכיטקטורה בקנה מידה של ארון שרתים של NVIDIA, והן מותאמות לעומסי עבודה של אימון ML ו-HPC שמוגבלים לרשת ודורשים הרבה משאבי מחשוב וזיכרון. ההבדלים העיקריים בין A4X Max ל-A4X הם ברכיבי ה-GPU והרשת. מכונות A4X Max זמינות רק כמכונות Bare Metal, שמאפשרות גישה ישירה למעבד ולזיכרון של השרת המארח, בלי ה-hypervisor של Compute Engine באמצע.

לכל סוגי המכונות בסדרות A4X Max ו-A4X יש שני שקעים עם מעבדי NVIDIA Grace™‎ עם ליבות Arm® Neoverse™ V2. המעבדים האלה מתחברים לארבעה מעבדים גרפיים באמצעות תקשורת NVLink-C2 מהירה בין שבבים.

שתי סדרות המכונות, A4X Max ו-A4X, מבוססות על ארכיטקטורת NVL72 של NVIDIA בקנה מידה של ארון שרתים, שמשתמשת בדומיינים של NVLink כדי לאפשר מחשוב GPU בקנה מידה גדול ובביצועים גבוהים. דומיין NVLink הוא קבוצה של שבבי NVIDIA NVSwitch מקושרים והמעבדים הגרפיים שמחוברים אליהם. הקבוצה הזו יוצרת מארג רשת במהירות גבוהה שמאפשר תקשורת ישירה ומהירה בין המעבדים הגרפיים. בסוגי המכונות A4X Max ו-A4X, דומיין NVL72 (NVLink)‎ אחד מורכב מ-18 מכונות ו-72 מעבדי GPU.

השוואה בין A4X Max ל-A4X

בטבלה הבאה מוצגת השוואה בין התכונות השונות של סוגי המכונות A4X Max ו-A4X:

תכונה ‫A4X Max‏ (NVIDIA GB300) A4X (NVIDIA GB200)
האצת GPU למכונות A4X Max מצורפים באופן אוטומטי שבבי NVIDIA GB300 Ultra Superchip. השבבים האלה כוללים מעבדי GPU מסוג NVIDIA B300, עם זיכרון GPU כולל של עד 20TB לכל דומיין NVL72, כלומר בערך 279GB לכל GPU. למכונות A4X מצורפים באופן אוטומטי שבבי NVIDIA GB200 Superchip. השבבים האלה כוללים מעבדי GPU מסוג NVIDIA B200 ומציעים זיכרון בנפח 186GB לכל GPU.
רשת משופרת עם RoCE

במכונות A4X Max, פרוטוקול RDMA over Converged Ethernet ‏ (RoCE) משפר את ביצועי הרשת על ידי שילוב של NVIDIA ConnectX-8 (CX-8) SuperNICs עם הרשת של Google בכל מרכז הנתונים, שכוללת ארכיטקטורת rail-aligned עם שמונה מסילות. ההגדרה הזו מספקת רוחב פס של עד 3,200Gbps, שמתאים במיוחד למשימות אימון ו-HPC תובעניות בקנה מידה גדול.

לרשתות למטרות כלליות, לכל מכונה יש גם רוחב פס של עד 400Gbps.

במכונות A4X, פרוטוקול RDMA over Converged Ethernet ‏ (RoCE) משפר את ביצועי הרשת על ידי שילוב של כרטיסי רשת NVIDIA ConnectX-7 (CX-7)‎ עם הרשת של Google בכל מרכז הנתונים, שכוללת ארכיטקטורת rail-alignment בארבעה כיוונים. הארכיטקטורה הזו מספקת רוחב פס של עד 1,600Gbps, ומאפשרת תקשורת עם תפוקה גבוהה וזמן אחזור קצר לעומסי עבודה מבוזרים בקנה מידה גדול.

לרשתות למטרות כלליות, לכל מכונה יש גם רוחב פס של עד 400Gbps.
ביצועים שבבי NVIDIA GB300 Ultra Superchips מספקים ביצועי FP4 דחוסים של 15 PetaFLOPS. במשימות הסקה של FP4 בקנה מידה גדול, שבבי GB300 Ultra Superchip צפויים לספק ביצועים גבוהים ב-20% עד 40% בהשוואה לשבבי GB200 Superchip. שבבי NVIDIA GB200 Superchip מספקים ביצועי FP4 דחוסים של 10 PetaFLOPS.
תמיכה ב-Bare Metal ובמכונות וירטואליות מכונות Bare Metal בלבד רק מכונות וירטואליות
תמיכה במערכת ההפעלה מכונות A4X Max תומכות במגוון קובצי אימג' של מערכת ההפעלה Linux. עם זאת, מכיוון שמכונות Bare Metal משתמשות במנהל ההתקן של הרשת Infrastructure Data Path Function‏ (IDPF), קובץ האימג' של מערכת ההפעלה חייב לתמוך ב-IDPF. כדי להשתמש בקובץ אימג' של מערכת ההפעלה שזמין ב-Compute Engine, עיינו במאמר קובצי אימג' של מערכת ההפעלה שתומכים ב-IDPF. מכונות A4X תומכות במגוון קובצי אימג' של מערכת ההפעלה Linux. רשימה מלאה של מערכות ההפעלה הנתמכות ב-Compute Engine מופיעה במאמר תמיכה של מערכות הפעלה ב-GPU.

למכונות מסוג A4X Max ו-A4X יש את המאפיינים הבאים:

  • פלטפורמת מעבד (CPU): סוגי המכונות A4X Max ו-A4X משתמשים בפלטפורמת המעבד NVIDIA Grace עם ליבות Arm® Neoverse™ V2. למידע נוסף על הפלטפורמה, ראו פלטפורמות של מעבדים.

  • מדרגיות של NVLink: NVLink עם כמה צמתים מאפשר להגדיל את מספר המעבדים הגרפיים עד ל-72 מעבדים גרפיים בדומיין אחד, ומספק רוחב פס דו-כיווני של 1,800GB לשנייה לכל מעבד גרפי.

  • תמיכה בדיסקים: מכונות A4X Max ו-A4X תומכות ב-SSD מקומי לדיסקים מהירים לאחסון נדיף, שמועילים להזנת נתונים למעבדי GPU תוך מניעת צווארי בקבוק של קלט/פלט. ‫12,000GiB של Local SSD מתווספים באופן אוטומטי למכונות A4X Max ו-A4X.

    לאחסון עמיד, אפשר לצרף עד 512TiB של אחסון ב-Hyperdisk. מידע נוסף על סוגי דיסקים זמין במאמר בחירת סוג דיסק.

  • תמיכה בהקצאה צפופה ובתזמון שמותאם לטופולוגיה: סוגי המכונות A4X Max ו-A4X תומכים בבקשת בלוקים של קיבולת בהקצאה צפופה. המכונות המארחות מוקצות קרוב פיזית זו לזו, מוקצות כבלוקים של משאבים ומחוברות זו לזו באמצעות מארג רשת דינמי של ML כדי לצמצם את מספר הצעדים ברשת ולבצע אופטימיזציה לזמן אחזור קצר. בנוסף, במכונות A4X Max ו-A4X, אתם יכולים לקבל מידע על הטופולוגיה ברמת הצומת והאשכול, ולהשתמש בו כדי להקצות משימות.

אפשרויות תמחור וצריכה למכונות A4X Max ו-A4X

במכונות A4X Max ו-A4X אפשר להשתמש באפשרויות הצריכה וההנחה הבאות:

Cloud de Confiance מחייב מכונות A4X Max ו-A4X על מעבדי ה-GPU המצורפים, מעבדי ה-vCPU המוגדרים מראש, הזיכרון ודיסקי ה-SSD המקומיים הכלולים בחבילה. השימוש ב-Hyperdisk וברשת מחויב בנפרד מהתמחור של סוג המכונה. למידע נוסף, קראו את המאמרים אפשרויות תמחור וצריכה, תמחור של משפחת סוגי מכונות עם אופטימיזציה למאיצים ותמחור של GPU.

סוג המכונה A4X Max‏ (NVIDIA GB300)

סוגי המכונות A4X Max accelerator-optimized משתמשים ב-NVIDIA GB300 Grace Blackwell Ultra Superchips (nvidia-gb300) והם אידיאליים לאימון ולשירות של מודלים בסיסיים. סוגי המכונות A4X Max זמינים כמכונות Bare Metal.

‫A4X Max היא פלטפורמה בקנה מידה של אקסה-בייט שמבוססת על NVIDIA GB300 NVL72. לכל מכונה יש שני שקעים עם מעבדי NVIDIA Grace עם ליבות Arm Neoverse V2. המעבדים האלה מחוברים לארבעה מעבדים גרפיים מסוג NVIDIA B300 Blackwell עם תקשורת מהירה בין שבבים (NVLink-C2C). מידע נוסף על המגבלות של סוגי המכונות מופיע במאמר המגבלות של A4X Max ו-A4X.

סוג המכונה מספר מעבדי ה-vCPU זיכרון המכונה (GB) ‫SSD מקומי מצורף (GiB) מספר כרטיסי הרשת הפיזיים רוחב הפס המקסימלי של הרשת (Gbps) מספר יחידות ה-GPU מדגם NVIDIA GB300 זיכרון GPU‏ (GB HBM3e)
a4x-maxgpu-4g-metal 144 960 12,000 6 3,600 4 1,116

הערות לגבי סוגי המכונות A4X Max

ההערות הבאות רלוונטיות לטבלה שלמעלה:

  • ‫vCPU count: מעבד וירטואלי (vCPU) מיושם כ-hyper-thread יחיד של חומרה באחת מפלטפורמות המעבד (CPU) הזמינות.
  • רוחב הפס המקסימלי של הרשת: רוחב הפס המקסימלי של תעבורת הנתונים היוצאת לא יכול לחרוג מהמספר שצוין. רוחב הפס בפועל של תעבורת הנתונים היוצאת תלוי בכתובת ה-IP של היעד ובגורמים אחרים. למידע נוסף על רוחב פס ברשת, קראו את המאמר רוחב פס ברשת.
  • זיכרון GPU: הזיכרון במכשיר GPU שאפשר להשתמש בו לאחסון זמני של נתונים. הוא נפרד מהזיכרון של המכונה, ומיועד במיוחד לטפל בדרישות רוחב הפס הגבוהות יותר של עומסי עבודה שדורשים עיבוד גרפי אינטנסיבי.

סוג מכונה A4X‏ (NVIDIA GB200)

סוגי המכונות A4X עם אופטימיזציה למאיצים משתמשים ב-NVIDIA GB200 Grace Blackwell Superchips (nvidia-gb200) והם אידיאליים לאימון ולשירות של מודלים בסיסיים.

‫A4X היא פלטפורמה בקנה מידה של אקסה-בייט שמבוססת על NVIDIA GB200 NVL72. לכל מכונה יש שני שקעים עם מעבדי NVIDIA Grace עם ליבות Arm Neoverse V2. המעבדים האלה מחוברים לארבעה מעבדי NVIDIA B200 Blackwell GPU עם תקשורת מהירה בין שבבים (NVLink-C2C). מידע נוסף על המגבלות של סוגי המכונות מופיע במאמר המגבלות של A4X Max ו-A4X.

סוג המכונה מספר מעבדי ה-vCPU זיכרון המכונה (GB) ‫SSD מקומי מצורף (GiB) מספר כרטיסי הרשת הפיזיים רוחב הפס המקסימלי של הרשת (Gbps) מספר יחידות ה-GPU מדגם NVIDIA GB200 זיכרון GPU‏ (GB HBM3e)
a4x-highgpu-4g 140 884 12,000 6 2,000 4 744

הערות לגבי סוגי מכונות A4X

ההערות הבאות רלוונטיות לטבלה שלמעלה:

  • ‫vCPU count: מעבד וירטואלי (vCPU) מיושם כ-hyper-thread יחיד של חומרה באחת מפלטפורמות המעבד (CPU) הזמינות.
  • רוחב הפס המקסימלי של הרשת: רוחב הפס המקסימלי של תעבורת הנתונים היוצאת לא יכול לחרוג מהמספר שצוין. רוחב הפס בפועל של תעבורת הנתונים היוצאת תלוי בכתובת ה-IP של היעד ובגורמים אחרים. למידע נוסף על רוחב פס ברשת, קראו את המאמר רוחב פס ברשת.
  • זיכרון GPU: הזיכרון במכשיר GPU שאפשר להשתמש בו לאחסון זמני של נתונים. הוא נפרד מהזיכרון של המכונה, ומיועד במיוחד לטפל בדרישות רוחב הפס הגבוהות יותר של עומסי עבודה שדורשים עיבוד גרפי אינטנסיבי.

המגבלות של A4X Max ו-A4X

המגבלות הבאות חלות על מכונות A4X Max ו-A4X:

מכונות A4X Max

מכונות A4X

סוגי הדיסקים שנתמכים במכונות A4X Max ו-A4X

A4X Max

במכונות A4X Max אפשר להשתמש בסוגים הבאים של אחסון בלוקים:

  • ‫Hyperdisk Balanced‏ (hyperdisk-balanced): זהו סוג הדיסק היחיד שנתמך בדיסק האתחול
  • ‫Hyperdisk Throughput‏ (hyperdisk-throughput)
  • ‫Hyperdisk ML‏ (hyperdisk-ml)
  • ‫Hyperdisk Extreme‏ (hyperdisk-extreme)
  • ‫SSD מקומי: מתווסף באופן אוטומטי למכונות שנוצרות באמצעות כל אחד מסוגי המכונות של A4X Max

בטבלה הבאה מפורט המספר המקסימלי של דיסקים שנתמכים בכל מכונה:

סוגי מכונות כל סוגי ה-Hyperdisk Hyperdisk Balanced Hyperdisk Throughput Hyperdisk ML Hyperdisk Extreme ‫SSD מקומי מצורף
a4x-maxgpu-4g-metal 32 32 32 32 8 4

A4X

במכונות A4X אפשר להשתמש בסוגים הבאים של אחסון בלוקים:

  • ‫Hyperdisk Balanced‏ (hyperdisk-balanced): זהו סוג הדיסק היחיד שנתמך בדיסק האתחול
  • ‫Hyperdisk Extreme‏ (hyperdisk-extreme)
  • ‫Hyperdisk ML‏ (hyperdisk-ml)
  • ‫Local SSD: מתווסף באופן אוטומטי למכונות שנוצרות באמצעות כל אחד מסוגי המכונות של A4X

בטבלה הבאה מפורט המספר המקסימלי של דיסקים שנתמכים בכל מכונה:

סוגי מכונות כל סוגי ה-Hyperdisk Hyperdisk Balanced Hyperdisk Balanced High Availability Hyperdisk Throughput Hyperdisk ML Hyperdisk Extreme ‫SSD מקומי מצורף
a4x-highgpu-4g 128 128 0 0 128 8 4

ההערה הבאה רלוונטית לטבלה שלמעלה:

מגבלות דיסק וקיבולת

אפשר לצרף למכונה שילוב של סוגי Hyperdisk שונים, אבל קיבולת הדיסק הכוללת המקסימלית (ב-TiB) בכל סוגי הדיסקים לא יכולה לחרוג מ-512TiB לכל ה-Hyperdisks.

למידע נוסף על מגבלות הקיבולת, ראו מגבלות הגודל והחיבור של Hyperdisk.

חוויית התחזוקה במכונות A4X Max ו-A4X

במהלך מחזור החיים של מכונה ב-Compute Engine, המכונה המארחת שבה פועלת המכונה שלכם עוברת כמה אירועים במארח. אירוע במארח יכול לכלול תחזוקה שוטפת של התשתית של Compute Engine, או במקרים נדירים, שגיאה במארח. בנוסף, Compute Engine מבצע ברקע שדרוגים קלים ל-hypervisor ולרשת, שלא משבשים את הפעילות.

בטבלה הבאה מתוארות התכונות של תחזוקת המארח לסוגי המכונות A4X Max ו-A4X:

סוג המכונה מספר יחידות ה-GPU תדירות אופיינית של אירועי תחזוקה מתוזמנים התנהגות התחזוקה התראה מראש על פעולות תחזוקה מתוכננות תחזוקה על פי דרישה סימולציה של תחזוקה
‫A4X Max ו-A4X 4 90 ימים לפחות מסתיים ב- שמירת נתונים ב-SSD מקומי 90 ימים כן לא

ההערות הבאות רלוונטיות לטבלה שלמעלה:

  • תדירות אופיינית של אירועי תחזוקה מתוזמנים:

    תדירויות התחזוקה שמוצגות בטבלה הקודמת הן הערכות, ולא הבטחות. יכול להיות ש-Compute Engine יבצע תחזוקה בתדירות גבוהה יותר מדי פעם.

למידע נוסף על תחזוקת מארחים ב-AI Hypercomputer, קראו את המאמר הסבר על תחזוקת מארחים במרכז העזרה של AI Hypercomputer.

סדרת המכונות A4

בסדרת המכונות A4 יש סוגי מכונות עם עד 224 יחידות vCPU וזיכרון בנפח 3,968GB. מכונות A4 מספקות ביצועים טובים עד פי 3 מסוגי מכונות GPU קודמים, ברוב עומסי העבודה עם האצת GPU. סדרת המכונות A4 מומלצת לעומסי עבודה של אימון ML, במיוחד בקנה מידה גדול – לדוגמה, מאות או אלפי יחידות GPU. סדרת המכונות A4 זמינה בסוג מכונה אחד.

מכונות וירטואליות שנוצרו באמצעות סוג המכונה A4 מספקות את התכונות הבאות:

  • האצת GPU באמצעות מעבדי NVIDIA B200 GPU: מעבדי NVIDIA B200 GPU מצורפים באופן אוטומטי למכונות A4, שמציעות זיכרון GPU בנפח 180GB לכל GPU.

  • ‫5th Generation Intel Xeon Scalable Processor (Emerald Rapids): תדר טורבו מקסימלי של עד 4.0GHz לליבה אחת. מידע נוסף על המעבד הזה זמין במאמר פלטפורמת מעבד (CPU).

  • מדרגיות של NVLink: מעבדי GPU מסוג NVIDIA B200 מספקים רוחב פס של GPU NVLink בנפח של 1,800GB לשנייה, באופן דו-כיווני לכל GPU.

    בטופולוגיית NVLink של "כולם עם כולם" בין 8 מעבדי GPU במערכת, רוחב הפס המצטבר של NVLink הוא עד 14.4TBps.

  • רשת משופרת עם RoCE: פרוטוקול RDMA over Converged Ethernet‏ (RoCE) משפר את ביצועי הרשת על ידי שילוב של כרטיסי רשת (NIC) מסוג NVIDIA ConnectX-7 עם רשת בארכיטקטורת rail-aligned עם 4 מסילות בכל מרכז הנתונים של Google. באמצעות RDMA over Converged Ethernet‏ (RoCE), במכונות A4 אפשר להגיע לקצב העברת נתונים גבוה בהרבה בין מכונות באשכול בהשוואה לרוב מכונות A3, חוץ מאלה שפועלות בסוג המכונה A3 Ultra.

  • מהירויות רשת גבוהות יותר: מהירויות רשת גבוהות עד פי 4 בהשוואה למכונות A2 מהדור הקודם.

    למידע נוסף על רשתות, ראו רוחבי פס של רשתות ו-GPU.

  • אופטימיזציה של וירטואליזציה להעברת נתונים ולשחזור: הטופולוגיה של Peripheral Component Interconnect Express (PCIe) במכונות A4 מספקת מידע מדויק יותר על המיקום, שעומסי העבודה יכולים להשתמש בו כדי לבצע אופטימיזציה של העברת הנתונים.

    המעבדים הגרפיים גם חושפים את Function Level Reset‏ (FLR) לשחזור חלק מתקלות, ותומכים בפעולות אטומיות לשיפורים בו-זמניים בתרחישים מסוימים.

  • תמיכה בדיסקים: מכונות A4 תומכות ב-SSD מקומי לדיסקי אחסון נדיף (scratch disk) מהירים, שמועילים להזנת נתונים למעבדי GPU תוך מניעת צווארי בקבוק של קלט/פלט. לאחסון עמיד, אפשר לצרף אמצעי אחסון ב-Hyperdisk.

    ‫12,000GiB של Local SSD מתווספים אוטומטית למכונות A4. לעומסי עבודה שדורשים אחסון בלוקים עמיד, אפשר גם לצרף עד 512 TiB של Hyperdisk למכונות A4. למידע נוסף על סוגי דיסקים, קראו את המאמר בחירת סוג דיסק.

  • תמיכה בהקצאה צפופה ובתזמון שמותאם לטופולוגיה: כשמקצים מכונות A4, אפשר לבקש בלוקים של קיבולת בהקצאה צפופה. המכונות המארחות מוקצות קרוב פיזית זו לזו, מוקצות כבלוקים של משאבים ומחוברות ביניהן באמצעות מארג רשת דינמי של למידת מכונה כדי לצמצם את מספר הדילוגים ברשת ולבצע אופטימיזציה לזמן האחזור הנמוך ביותר. בנוסף, אתם יכולים לקבל מידע על הטופולוגיה ברמת הצומת והאשכול, ולהשתמש בו כדי להקצות משימות.

אפשרויות תמחור וצריכה למכונות A4

במכונות A4 אפשר להשתמש באפשרויות הבאות לצריכה ולהנחות:

ב-Cloud de Confiance , החיוב על מכונות A4 הוא לפי יחידות ה-GPU שמחוברות אליהן, ה-vCPU שהוגדרו מראש, הזיכרון והדיסקים המקומיים של SSD שמצורפים אליהן. השימוש ב-Hyperdisk וברשת מחויב בנפרד מהתמחור של סוג המכונה. למידע נוסף, קראו את המאמרים אפשרויות תמחור וצריכה, תמחור של סוגי מכונות ממשפחת Accelerator-optimized ותמחור של GPU.

סוג מכונה A4‏ (NVIDIA B200)

סוגי המכונות A4 עם אופטימיזציה למאיצים כוללים מעבדי GPU מסוג NVIDIA B200 Blackwell (nvidia-b200), והם מתאימים במיוחד לאימון ולשימוש במודלים בסיסיים. מידע נוסף על המגבלות של סוגי המכונות מופיע במאמר מגבלות של A4.

סוג המכונה מספר מעבדי ה-vCPU זיכרון המכונה (GB) ‫SSD מקומי מצורף (GiB) מספר כרטיסי הרשת הפיזיים רוחב הפס המקסימלי של הרשת (Gbps) מספר מעבדי GPU מסוג NVIDIA B200 Blackwell זיכרון GPU‏ (GB HBM3e)
a4-highgpu-8g 224 3,968 12,000 10 3,600 8 1,440

הערות לגבי סוגי מכונות A4

ההערות הבאות רלוונטיות לטבלה שלמעלה:

  • ‫vCPU count: מעבד וירטואלי (vCPU) מיושם כ-hyper-thread יחיד של חומרה באחת מפלטפורמות המעבד (CPU) הזמינות.
  • רוחב הפס המקסימלי של הרשת: רוחב הפס המקסימלי של תעבורת הנתונים היוצאת לא יכול לחרוג מהמספר שצוין. רוחב הפס בפועל של תעבורת הנתונים היוצאת תלוי בכתובת ה-IP של היעד ובגורמים אחרים. למידע נוסף על רוחב פס של רשת, ראו רוחב פס של רשת.
  • זיכרון GPU: הזיכרון במכשיר GPU שאפשר להשתמש בו לאחסון זמני של נתונים. הוא נפרד מהזיכרון של המכונה, ומיועד במיוחד לטפל בדרישות רוחב הפס הגבוהות יותר של עומסי עבודה שדורשים עיבוד גרפי אינטנסיבי.

מגבלות של A4

סוגי הדיסקים שנתמכים במכונות A4

במכונות A4 אפשר להשתמש בסוגים הבאים של אחסון בלוקים:

  • ‫Hyperdisk Balanced ‏ (hyperdisk-balanced): זהו סוג הדיסק היחיד שנתמך בדיסק האתחול
  • ‫Hyperdisk Extreme‏ (hyperdisk-extreme)
  • ‫Hyperdisk ML‏ (hyperdisk-ml)
  • ‫Local SSD: מתווסף אוטומטית למכונות שנוצרות באמצעות כל אחד מסוגי המכונות של A4

בטבלה הבאה מפורט המספר המקסימלי של דיסקים שנתמכים בכל מכונה:

סוגי מכונות כל סוגי ה-Hyperdisk Hyperdisk Balanced Hyperdisk Throughput Hyperdisk ML Hyperdisk Extreme ‫SSD מקומי מצורף
a4-highgpu-8g 128 128 לא רלוונטי 128 8 32

ההערה הבאה רלוונטית לטבלה שלמעלה:

מגבלות דיסק וקיבולת

אפשר לצרף למכונה שילוב של סוגי Hyperdisk שונים, אבל קיבולת הדיסק הכוללת המקסימלית (ב-TiB) בכל סוגי הדיסקים לא יכולה לחרוג מ-512TiB לכל ה-Hyperdisks.

למידע נוסף על מגבלות הקיבולת, ראו מגבלות הגודל והחיבור של Hyperdisk.

חוויית התחזוקה במכונות A4

במהלך מחזור החיים של מכונה ב-Compute Engine, המכונה המארחת שבה פועלת המכונה שלכם עוברת כמה אירועים במארח. אירוע במארח יכול לכלול תחזוקה שוטפת של התשתית של Compute Engine, או במקרים נדירים, שגיאה במארח. בנוסף, Compute Engine מבצע ברקע שדרוגים קלים ל-hypervisor ולרשת, שלא משבשים את הפעילות.

בטבלה הבאה מתוארות התכונות של תחזוקת המארח לסוגי המכונות A4:

סוג המכונה מספר יחידות ה-GPU תדירות אופיינית של אירועי תחזוקה מתוזמנים התנהגות התחזוקה התראה מראש על פעולות תחזוקה מתוכננות תחזוקה על פי דרישה סימולציה של תחזוקה
A4 8 90 ימים לפחות מסתיים ב- שמירת נתונים ב-SSD מקומי 90 ימים כן לא

ההערות הבאות רלוונטיות לטבלה שלמעלה:

  • תדירות אופיינית של אירועי תחזוקה מתוזמנים:

    תדירויות התחזוקה שמוצגות בטבלה הקודמת הן הערכות, ולא הבטחות. יכול להיות ש-Compute Engine יבצע תחזוקה בתדירות גבוהה יותר מדי פעם.

למידע נוסף על תחזוקת מארחים ב-AI Hypercomputer, קראו את המאמר הסבר על תחזוקת מארחים במרכז העזרה של AI Hypercomputer.

סדרת המכונות A3

בסדרת המכונות A3 יש עד 224 מעבדי vCPU וזיכרון בנפח 2,944GB. סדרת המכונות הזו מותאמת לעומסי עבודה של HPC, לאימון ML שמוגבל לרשת ולעומסי עבודה שדורשים הרבה משאבי מעבד וזיכרון. סדרת המכונות A3 זמינה בסוגי המכונות A3 Ultra,‏ A3 Mega,‏ A3 High ו-A3 Edge.

בטבלה הבאה מוצגת השוואה בין התכונות השונות של סוגי המכונות מסדרת A3:

תכונה ‫A3 Ultra‏ (NVIDIA H200) ‫A3 Mega,‏ High ו-Edge‏ (NVIDIA H100)
האצת GPU

מחוברים מעבדי GPU מסוג NVIDIA H200 SXM, שמציעים זיכרון GPU בנפח 141GB לכל GPU, ומספקים זיכרון גדול ומהיר יותר לתמיכה במודלי שפה גדולים (LLM) ובעומסי עבודה של HPC.

מעבדי GPU מסוג NVIDIA H100 SXM, עם זיכרון GPU בנפח 80GB לכל מעבד GPU, שמתאימים במיוחד למודלים גדולים של שפה שמבוססים על טרנספורמרים, למסדי נתונים ול-HPC.
מעבדי Intel Xeon Scalable

מעבד Intel Xeon Scalable מדור חמישי (Emerald Rapids), שמציע תדר טורבו מקסימלי של עד 4.0GHz לליבה אחת. מידע נוסף על המעבד הזה זמין במאמר פלטפורמות של מעבדים.

מעבד Intel Xeon Scalable מדור רביעי (Sapphire Rapids), שמציע תדר טורבו מקסימלי של עד 3.3GHz לליבה אחת. מידע נוסף על המעבד הזה זמין במאמר פלטפורמות של מעבדים.
רשת משופרת

בסוג המכונה הזה, טכנולוגיית RDMA over Converged Ethernet ‏ (RoCE) משפרת את ביצועי הרשת על ידי שילוב של כרטיסי רשת (NIC) מסוג NVIDIA ConnectX-7 עם רשת בארכיטקטורת rail-aligned עם ארבעה נתיבים בכל מרכז הנתונים של Google. באמצעות RDMA over Converged Ethernet‏ (RoCE), סוג המכונה a3-ultragpu-8g משיג תפוקה גבוהה בהרבה בין מכונות באשכול בהשוואה לסוגי מכונות אחרים של A3.
  • בסוגי המכונות A3 Mega, ‏GPUDirect-TCPXO משפר עוד יותר את GPUDirect-TCPX על ידי העברת פרוטוקול ה-TCP. כשמשתמשים ב-GPUDirect-TCPXO, רוחב הפס של הרשת במכונות מסוג a3-megagpu-8g הוא כפול בהשוואה למכונות מסוג A3 High ו-A3 Edge.
  • בסוגי המכונות A3 Edge (a3-edgegpu-8g)‎ ו-A3 High (a3-highgpu-8g)‎, ‏GPUDirect-TCPX משפר את ביצועי הרשת בכך שהוא מאפשר להעביר את המטען הייעודי (payload) של חבילות הנתונים ישירות מזיכרון ה-GPU לממשק הרשת. באמצעות GPUDirect-TCPX, סוגי המכונות האלה משיגים תפוקה גבוהה בהרבה בין מכונות באשכול בהשוואה לסוגי המכונות A2 או G2 שעברו אופטימיזציה למאיצים.
מהירויות רשת משופרות

מהירות הרשת גבוהה עד פי 4 בהשוואה לסדרת המכונות A2 מהדור הקודם.

מידע נוסף על רשתות זמין במאמר רוחבי פס של רשתות ו-GPU.

מהירות הרשת גבוהה עד פי 2.5 בהשוואה לסדרת המכונות A2 מהדור הקודם.

מידע נוסף על רשתות זמין במאמר רוחבי פס של רשתות ו-GPU.

לכל סוגי המכונות מסדרת A3 יש את המאפיינים הבאים:

  • מדרגיות של NVLink: מעבדי GPU מסוג NVIDIA H200 ו-H100 מספקים רוחב פס מקסימלי של GPU NVLink של 450GBps, באופן חד-כיווני. באמצעות טופולוגיית NVLink מסוג all-to-all, מערכת עם 8 מעבדי GPU מגיעה לרוחב פס מצטבר של עד 7.2TBps.

  • אופטימיזציה של וירטואליזציה: הטופולוגיה של Peripheral Component Interconnect Express (PCIe) במכונות מסוג A3 מספקת מידע מדויק יותר על המיקום, שבו אפשר להשתמש בעומסי העבודה כדי לבצע אופטימיזציה של העברות הנתונים. המעבדים הגרפיים גם חושפים את Function Level Reset‏ (FLR) לשחזור תקין מכשלים, ותומכים בפעולות אטומיות לשיפורים בו-זמניים בתרחישים מסוימים.

  • תמיכה בדיסקים: מכונות A3 תומכות ב-SSD מקומי לדיסקי אחסון נדיף (scratch disk) מהירים, שמועילים להזנת נתונים למעבדי GPU תוך מניעת צווארי בקבוק של קלט/פלט. לאחסון עמיד, אתם יכולים לצרף אמצעי אחסון של Persistent Disk ו-Hyperdisk.

    כונן SSD מקומי מחובר באופן הבא:

    • ‫12,000GiB של Local SSD מתווספים אוטומטית למכונות A3 Ultra.
    • ‫6,000GiB של Local SSD מתווספים באופן אוטומטי למכונות A3 Mega,‏ High ו-Edge.

    לעומסי עבודה שדורשים אחסון בלוקים עמיד, אפשר גם לצרף עד 512TiB של Persistent Disk ו-Hyperdisk לסוגי המכונות בסדרות האלה. בסוגי מכונות מסוימים יש תמיכה גם ב-Persistent Disk בנפח של עד 257 TiB. מידע נוסף על סוגי דיסקים זמין במאמר בחירת סוג דיסק.

  • תמיכה במדיניות למיקום קומפקטי: מאפשרת לכם לשלוט טוב יותר במיקום הפיזי של המכונות שלכם במרכזי הנתונים. המיקום הזה מאפשר זמן אחזור קצר יותר ורוחב פס גבוה יותר למכונות שנמצאות באזור זמינות אחד. מידע נוסף זמין במאמר מידע על מדיניות למיקום קומפקטי.

אפשרויות תמחור וצריכה של מכונות A3

במכונות A3 אפשר להשתמש באפשרויות הצריכה וההנחה הבאות:

ב-Cloud de Confiance , החיוב על מכונות A3 הוא לפי יחידות ה-GPU שמצורפות אליהן, ה-vCPU שהוגדרו מראש, הזיכרון והדיסקים המקומיים של SSD שכלולים בחבילה. החיוב על שימוש ב-Persistent Disk, ב-Hyperdisk וברשת מתבצע בנפרד מהתמחור של סוג המכונה. למידע נוסף, קראו את המאמרים אפשרויות תמחור וצריכה, תמחור של משפחת סוגי מכונות עם אופטימיזציה למאיצים ותמחור של GPU.

סוג המכונה A3 Ultra‏ (NVIDIA H200)

למכונות מסוג A3 Ultra יש מעבדי NVIDIA H200 SXM GPU (nvidia-h200-141gb) מצורפים, והן מספקות את ביצועי הרשת הכי גבוהים בסדרת A3. סוגי המכונות A3 Ultra מתאימים במיוחד לאימון ולשימוש במודלים בסיסיים. מידע על המגבלות של סוגי המכונות מופיע במאמר המגבלות של A3 Ultra.

סוג המכונה מספר מעבדי ה-vCPU זיכרון המכונה (GB) ‫SSD מקומי מצורף (GiB) מספר כרטיסי הרשת הפיזיים רוחב הפס המקסימלי של הרשת (Gbps) מספר יחידות ה-GPU מסוג NVIDIA H200 זיכרון GPU‏ (GB HBM3e)
a3-ultragpu-8g 224 2,952 12,000 10 3,600 8 1128

הערות לגבי סוג המכונה A3 Ultra

ההערות הבאות רלוונטיות לטבלה שלמעלה:

  • ‫vCPU count: מעבד וירטואלי (vCPU) מיושם כ-hyper-thread יחיד של חומרה באחת מפלטפורמות המעבד (CPU) הזמינות.
  • רוחב הפס המקסימלי של הרשת: רוחב הפס המקסימלי של תעבורת הנתונים היוצאת לא יכול לחרוג מהמספר שצוין. רוחב הפס בפועל של תעבורת הנתונים היוצאת תלוי בכתובת ה-IP של היעד ובגורמים אחרים. למידע נוסף על רוחב פס ברשת, קראו את המאמר רוחב פס ברשת.
  • זיכרון GPU: הזיכרון במכשיר GPU שאפשר להשתמש בו לאחסון זמני של נתונים. הוא נפרד מהזיכרון של המכונה, ומיועד במיוחד לטפל בדרישות רוחב הפס הגבוהות יותר של עומסי עבודה שדורשים עיבוד גרפי אינטנסיבי.

המגבלות של A3 Ultra

סוג המכונה A3 Mega‏ (NVIDIA H100)

סוגי המכונות A3 Mega כוללים מעבדי NVIDIA H100 SXM GPU, והם מתאימים במיוחד לאימון מודלים גדולים ולהסקת מסקנות בכמה מארחים. מידע על המגבלות של סוגי המכונות מופיע במאמר המגבלות של A3 Mega.
סוג המכונה מספר מעבדי ה-vCPU זיכרון המכונה (GB) ‫SSD מקומי מצורף (GiB) מספר כרטיסי הרשת הפיזיים רוחב הפס המקסימלי של הרשת (Gbps) מספר מעבדי GPU מסוג NVIDIA H100 זיכרון GPU‏ (GB HBM3)
a3-megagpu-8g 208 1,872 6,000 9 1,800 8 640

הערות לגבי סוג המכונה A3 Mega

ההערות הבאות רלוונטיות לטבלה שלמעלה:

  • ‫vCPU count: מעבד וירטואלי (vCPU) מיושם כ-hyper-thread יחיד של חומרה באחת מפלטפורמות המעבד (CPU) הזמינות.
  • רוחב הפס המקסימלי של הרשת: רוחב הפס המקסימלי של תעבורת הנתונים היוצאת לא יכול לחרוג מהמספר שצוין. רוחב הפס בפועל של תעבורת הנתונים היוצאת תלוי בכתובת ה-IP של היעד ובגורמים אחרים. למידע נוסף על רוחב פס ברשת, קראו את המאמר רוחב פס ברשת.
  • זיכרון GPU: הזיכרון במכשיר GPU שאפשר להשתמש בו לאחסון זמני של נתונים. הוא נפרד מהזיכרון של המכונה, ומיועד במיוחד לטפל בדרישות רוחב הפס הגבוהות יותר של עומסי עבודה שדורשים עיבוד גרפי אינטנסיבי.

מגבלות של A3 Mega‏ (NVIDIA H100)

סוג המכונה A3 High‏ (NVIDIA H100)

למכונות מסוג A3 High יש מעבדי GPU מסוג NVIDIA H100 SXM, והן מתאימות גם להסקת מסקנות ממודלים גדולים וגם לכוונון מודלים. מידע נוסף על המגבלות של סוגי המכונות מופיע במאמר המגבלות של A3 High.
סוג המכונה מספר מעבדי ה-vCPU זיכרון המכונה (GB) ‫SSD מקומי מצורף (GiB) מספר כרטיסי הרשת הפיזיים רוחב הפס המקסימלי של הרשת (Gbps) מספר מעבדי GPU מסוג NVIDIA H100 זיכרון GPU‏ (GB HBM3)
a3-highgpu-1g 26 234 750 1 25 1 80
a3-highgpu-2g 52 468 1,500 1 50 2 160
a3-highgpu-4g 104 936 3,000 1 100 4 320
a3-highgpu-8g 208 1,872 6,000 5 1,000 8 640

הערות לגבי סוג המכונה A3 High

ההערות הבאות רלוונטיות לטבלה שלמעלה:

  • ‫vCPU count: מעבד וירטואלי (vCPU) מיושם כ-hyper-thread יחיד של חומרה באחת מפלטפורמות המעבד (CPU) הזמינות.
  • רוחב הפס המקסימלי של הרשת: רוחב הפס המקסימלי של תעבורת הנתונים היוצאת לא יכול לחרוג מהמספר שצוין. רוחב הפס בפועל של תעבורת הנתונים היוצאת תלוי בכתובת ה-IP של היעד ובגורמים אחרים. למידע נוסף על רוחב פס ברשת, קראו את המאמר רוחב פס ברשת.
  • זיכרון GPU: הזיכרון במכשיר GPU שאפשר להשתמש בו לאחסון זמני של נתונים. הוא נפרד מהזיכרון של המכונה, ומיועד במיוחד לטפל בדרישות רוחב הפס הגבוהות יותר של עומסי עבודה שדורשים עיבוד גרפי אינטנסיבי.

המגבלות של A3 High

סוג מכונה A3 Edge‏ (NVIDIA H100)

סוגי המכונות A3 Edge כוללים מעבדי GPU מסוג NVIDIA H100 SXM, והם מיועדים במיוחד להצגה וזמינים בקבוצה מוגבלת של אזורים. מידע נוסף על המגבלות של סוגי המכונות מופיע במאמר המגבלות של A3 Edge.
סוג המכונה מספר מעבדי ה-vCPU זיכרון המכונה (GB) ‫SSD מקומי מצורף (GiB) מספר כרטיסי הרשת הפיזיים רוחב הפס המקסימלי של הרשת (Gbps) מספר מעבדי GPU מסוג NVIDIA H100 זיכרון GPU‏ (GB HBM3)
a3-edgegpu-8g 208 1,872 6,000 5 ‫600 (asia-south1 ו-northamerica-northeast2) או 400 (כל שאר האזורים של A3 Edge) 8 640

הערות לגבי סוג המכונה A3 Edge

ההערות הבאות רלוונטיות לטבלה שלמעלה:

  • ‫vCPU count: מעבד וירטואלי (vCPU) מיושם כ-hyper-thread יחיד של חומרה באחת מפלטפורמות המעבד (CPU) הזמינות.
  • רוחב הפס המקסימלי של הרשת: רוחב הפס המקסימלי של תעבורת הנתונים היוצאת לא יכול לחרוג מהמספר שצוין. רוחב הפס בפועל של תעבורת הנתונים היוצאת תלוי בכתובת ה-IP של היעד ובגורמים אחרים. למידע נוסף על רוחב פס ברשת, קראו את המאמר רוחב פס ברשת.
  • זיכרון GPU: הזיכרון במכשיר GPU שאפשר להשתמש בו לאחסון זמני של נתונים. הוא נפרד מהזיכרון של המכונה, ומיועד במיוחד לטפל בדרישות רוחב הפס הגבוהות יותר של עומסי עבודה שדורשים עיבוד גרפי אינטנסיבי.

מגבלות של A3 Edge

סוגי הדיסקים שנתמכים במכונות A3

A3 Ultra

במכונות A3 Ultra אפשר להשתמש בסוגים הבאים של אחסון בלוקים:

  • ‫Hyperdisk Balanced‏ (hyperdisk-balanced): זהו סוג הדיסק היחיד שנתמך בדיסק האתחול
  • ‫Hyperdisk Balanced High Availability‏ (hyperdisk-balanced-high-availability)
  • ‫Hyperdisk Extreme‏ (hyperdisk-extreme)
  • ‫Hyperdisk ML‏ (hyperdisk-ml)
  • ‫Local SSD: מתווסף באופן אוטומטי למכונות שנוצרות באמצעות כל אחד מסוגי המכונות של A3

בטבלה הבאה מפורט המספר המקסימלי של דיסקים שנתמכים בכל מכונה:

סוגי מכונות כל סוגי ה-Hyperdisk Hyperdisk Balanced Hyperdisk Balanced High Availability Hyperdisk Throughput Hyperdisk ML Hyperdisk Extreme דיסקים מסוג SSD מקומיים מצורפים
a3-ultragpu-8g 128 128 128 לא רלוונטי 128 8 32

ההערה הבאה רלוונטית לטבלה שלמעלה:

A3 Mega

במכונות A3 Mega אפשר להשתמש בסוגים הבאים של אחסון בלוקים:

  • דיסק אחסון מתמיד מאוזן (pd-balanced)
  • דיסק מתמיד (SSD (performance) Persistent Disk) (pd-ssd)
  • ‫Hyperdisk Balanced‏ (hyperdisk-balanced)
  • ‫Hyperdisk Balanced High Availability‏ (hyperdisk-balanced-high-availability)
  • ‫Hyperdisk ML‏ (hyperdisk-ml)
  • ‫Hyperdisk Extreme‏ (hyperdisk-extreme)
  • ‫Hyperdisk Throughput‏ (hyperdisk-throughput)
  • ‫SSD מקומי: מתווסף באופן אוטומטי למכונות שנוצרות באמצעות כל אחד מסוגי המכונות של A3

בטבלה הבאה מפורט המספר המקסימלי של דיסקים שנתמכים בכל מכונה:

סוגי מכונות כל סוגי ה-Hyperdisk Hyperdisk Balanced Hyperdisk Balanced High Availability Hyperdisk Throughput Hyperdisk ML Hyperdisk Extreme דיסקים מסוג SSD מקומיים מצורפים
a3-megagpu-8g 128 32 32 64 64 8 16

ההערה הבאה רלוונטית לטבלה שלמעלה:

A3 High

במכונות A3 High אפשר להשתמש בסוגים הבאים של אחסון בלוקים:

  • דיסק אחסון מתמיד מאוזן (pd-balanced)
  • דיסק מתמיד (SSD (performance) Persistent Disk) (pd-ssd)
  • ‫Hyperdisk Balanced‏ (hyperdisk-balanced)
  • ‫Hyperdisk Balanced High Availability‏ (hyperdisk-balanced-high-availability)
  • ‫Hyperdisk ML‏ (hyperdisk-ml)
  • ‫Hyperdisk Extreme‏ (hyperdisk-extreme)
  • ‫Hyperdisk Throughput‏ (hyperdisk-throughput)
  • ‫SSD מקומי: מתווסף באופן אוטומטי למכונות שנוצרות באמצעות כל אחד מסוגי המכונות של A3

בטבלה הבאה מפורט המספר המקסימלי של דיסקים שנתמכים בכל מכונה:

סוגי מכונות כל סוגי ה-Hyperdisk Hyperdisk Balanced Hyperdisk Balanced High Availability Hyperdisk Throughput Hyperdisk ML Hyperdisk Extreme דיסקים מסוג SSD מקומיים מצורפים
a3-highgpu-1g 128 32 32 64 64 לא רלוונטי 2
a3-highgpu-2g 128 32 32 64 64 לא רלוונטי 4
a3-highgpu-4g 128 32 32 64 64 8 8
a3-highgpu-8g 128 32 32 64 64 8 16

ההערה הבאה רלוונטית לטבלה שלמעלה:

A3 Edge

במכונות A3 Edge אפשר להשתמש בסוגים הבאים של אחסון בלוקים:

  • דיסק אחסון מתמיד מאוזן (pd-balanced)
  • דיסק מתמיד (SSD (performance) Persistent Disk) (pd-ssd)
  • ‫Hyperdisk Balanced‏ (hyperdisk-balanced)
  • ‫Hyperdisk Balanced High Availability‏ (hyperdisk-balanced-high-availability)
  • ‫Hyperdisk ML‏ (hyperdisk-ml)
  • ‫Hyperdisk Extreme‏ (hyperdisk-extreme)
  • ‫Hyperdisk Throughput‏ (hyperdisk-throughput)
  • ‫SSD מקומי: מתווסף באופן אוטומטי למכונות שנוצרות באמצעות כל אחד מסוגי המכונות של A3

בטבלה הבאה מפורט המספר המקסימלי של דיסקים שנתמכים בכל מכונה:

סוגי מכונות כל סוגי ה-Hyperdisk Hyperdisk Balanced Hyperdisk Balanced High Availability Hyperdisk Throughput Hyperdisk ML Hyperdisk Extreme ‫SSD מקומי מצורף
a3-edgegpu-8g 128 32 32 64 64 8 16

ההערה הבאה רלוונטית לטבלה שלמעלה:

מגבלות דיסק וקיבולת

אם סוג המכונה תומך בכך, אפשר לצרף למכונה שילוב של נפחי Hyperdisk ו-Persistent Disk, אבל חלות ההגבלות הבאות:

  • המספר הכולל של אמצעי האחסון של Hyperdisk ו-Persistent Disk לא יכול להיות יותר מ-128 לכל מכונה.

  • קיבולת הדיסק הכוללת המקסימלית (ב-TiB) בכל סוגי הדיסקים לא יכולה לחרוג מהערכים הבאים:

    • בסוגי מכונות עם פחות מ-32 יחידות vCPU:

      • ‫257 TiB לכל ה-Hyperdisk או לכל הדיסקים המתמידים
      • ‫257 TiB לשילוב של Hyperdisk ו-Persistent Disk

    • בסוגי מכונות עם 32 מעבדי vCPU או יותר:

      • ‫512 TiB לכל Hyperdisk
      • ‫512 TiB לשילוב של Hyperdisk ו-Persistent Disk
      • ‫257 TiB לכל Persistent Disk

למידע נוסף על מגבלות הקיבולת, ראו מגבלות הגודל והחיבור של Hyperdisk והקיבולת המקסימלית של Persistent Disk.

חוויית התחזוקה במכונות A3

במהלך מחזור החיים של מכונה ב-Compute Engine, המכונה המארחת שבה פועלת המכונה שלכם עוברת כמה אירועים במארח. אירוע במארח יכול לכלול תחזוקה שוטפת של התשתית של Compute Engine, או במקרים נדירים, שגיאה במארח. בנוסף, Compute Engine מבצע ברקע שדרוגים קלים ל-hypervisor ולרשת, שלא משבשים את הפעילות.

בטבלה הבאה מתוארות התכונות של תחזוקת המארח לסוגי המכונות A3:

סוג המכונה מספר יחידות ה-GPU תדירות אופיינית של אירועי תחזוקה מתוזמנים התנהגות התחזוקה התראה מראש על פעולות תחזוקה מתוכננות תחזוקה על פי דרישה סימולציה של תחזוקה
A3 Ultra 8 90 ימים לפחות מסתיים ב- שמירת נתונים ב-SSD מקומי 90 ימים כן לא
‫A3 Mega ו-A3 High 8 30 ימים לפחות סיום והפעלה מחדש 7 ימים כן כן
A3 High 1, 2, 4 30 ימים לפחות סיום והפעלה מחדש 7 ימים לא כן
A3 Edge 8 30 ימים לפחות סיום והפעלה מחדש 7 ימים כן כן

ההערות הבאות רלוונטיות לטבלה שלמעלה:

  • תדירות אופיינית של אירועי תחזוקה מתוזמנים:

    תדירויות התחזוקה שמוצגות בטבלה הקודמת הן הערכות, ולא הבטחות. יכול להיות ש-Compute Engine יבצע תחזוקה בתדירות גבוהה יותר מדי פעם.

  • ‫A3 Mega ו-A3 High: תדירות התחזוקה המתוזמנת וחלונות ההתראות לא כוללים מכונות שמכוסות בהסכמי תחזוקה ספציפיים של לקוחות.

למידע נוסף על תחזוקת מארחים ב-AI Hypercomputer, קראו את המאמר הסבר על תחזוקת מארחים במרכז העזרה של AI Hypercomputer.

סדרת המכונות A2

סדרת המכונות A2 זמינה בסוגי המכונות A2 Standard ו-A2 Ultra. לסוגי המכונות האלה יש 12 עד 96 מעבדי vCPU ועד 1,360GB של זיכרון.

למכונות וירטואליות שנוצרו באמצעות סוגי המכונות A2 יש את המאפיינים הבאים:

  • האצת GPU: לכל מכונה מסוג A2 יש מעבדי GPU מסוג NVIDIA A100. הן זמינות גם ב-A100 40GB וגם ב-A100 80GB.

  • מדרגיות של NVLink: מעבדי GPU של NVIDIA A100 מספקים רוחב פס של NVLink מ-GPU ל-GPU של 600GBps. לדוגמה, למערכות עם 16 מעבדי GPU יש רוחב פס מצטבר של NVLink בנפח של עד 9.6TBps. אפשר להשתמש ב-16 יחידות ה-GPU האלה כמאיץ יחיד עם ביצועים גבוהים, עם מרחב זיכרון מאוחד, כדי לספק עד 10 petaFLOPS של כוח מחשוב ועד 20 petaFLOPS של כוח מחשוב להסקת מסקנות, שאפשר להשתמש בהם לעומסי עבודה של בינה מלאכותית, למידה עמוקה ולמידת מכונה.

  • מהירויות מחשוב משופרות: מעבדי ה-GPU המצורפים מסוג NVIDIA A100 מציעים שיפורים של עד פי 10 במהירות המחשוב בהשוואה למעבדי ה-GPU מהדור הקודם מסוג NVIDIA V100.

    בסדרת המכונות A2, רוחב הפס של הרשת יכול להגיע עד 100Gbps.

  • תמיכה בדיסקים: מכונות A2 תומכות ב-SSD מקומי עבור דיסקי אחסון נדיף (scratch disk) מהירים, שמועילים להזנת נתונים למעבדי GPU תוך מניעת צווארי בקבוק של קלט/פלט. לאחסון עמיד, אפשר לצרף נפחים של Persistent Disk ו-Hyperdisk.

    התמיכה ב-SSD מקומי היא באופן הבא:

    • במכונות מסוג A2 Standard, אפשר להוסיף עד 3,000GiB של Local SSD כשיוצרים מכונה.
    • במכונות מסוג A2 Ultra, כשיוצרים מכונה, כונן SSD מקומי מצורף באופן אוטומטי.

    לעומסי עבודה שדורשים אחסון בלוקים (block storage) עמיד, אפשר לצרף למכונות A2 נפחים של Persistent Disk עד 257 TiB ונפחים של Hyperdisk עד 512 TiB. מידע נוסף על סוגי דיסקים זמין במאמר בחירת סוג דיסק.

  • תמיכה במדיניות למיקום קומפקטי: מאפשרת לכם לשלוט יותר במיקום הפיזי של המכונות במרכזי הנתונים. כך אפשר להקטין את זמן האחזור ולהגדיל את רוחב הפס במכונות שנמצאות באזור זמינות אחד. מידע נוסף זמין במאמר הפחתת זמן האחזור באמצעות מדיניות למיקום קומפקטי.

אפשרויות תמחור וצריכה של מכונות A2

במכונות A2 אפשר להשתמש באפשרויות הצריכה וההנחה הבאות:

ב-Cloud de Confiance , החיוב על מכונות A2 הוא על יחידות ה-GPU שמחוברות אליהן, על ה-vCPU שהוגדרו מראש, על הזיכרון ועל הדיסקים המקומיים של SSD שכלולים בחבילה (ב-A2 Ultra). החיוב על Persistent Disk,‏ Hyperdisk, דיסקים נוספים של Local SSD (ל-A2 Standard) ושימוש ברשת מתבצע בנפרד מהתמחור של סוג המכונה. למידע נוסף, קראו את המאמרים אפשרויות תמחור וצריכה, תמחור של משפחת סוגי מכונות עם אופטימיזציה למאיצים ותמחור של GPU.

סוגי המכונות הבאים זמינים לסדרת המכונות A2.

סוגי מכונות A2 Ultra‏ (NVIDIA A100 80GB)

לסוגי המכונות האלה יש מספר קבוע של מעבדי GPU מסוג A100 80GB. כונן SSD מקומי מצורף באופן אוטומטי למכונות שנוצרו באמצעות סוגי המכונות של A2 Ultra. מידע על המגבלות של סוגי המכונות מופיע במאמר המגבלות של A2 Ultra.

סוג המכונה מספר מעבדי ה-vCPU זיכרון המכונה (GB) ‫SSD מקומי מצורף (GiB) רוחב הפס המקסימלי של הרשת (Gbps) מספר מעבדי GPU מסוג NVIDIA A100 80GB זיכרון GPU‏ (GB HBM2e)
a2-ultragpu-1g 12 170 375 24 1 80
a2-ultragpu-2g 24 340 750 32 2 160
a2-ultragpu-4g 48 680 1,500 50 4 320
a2-ultragpu-8g 96 1,360 3,000 100 8 640

הערות לגבי סוג המכונה A2 Ultra

ההערות הבאות רלוונטיות לטבלה שלמעלה:

  • ‫vCPU count: מעבד וירטואלי (vCPU) מיושם כ-hyper-thread יחיד של חומרה באחת מפלטפורמות המעבד (CPU) הזמינות.
  • רוחב הפס המקסימלי של הרשת: רוחב הפס המקסימלי של תעבורת הנתונים היוצאת לא יכול לחרוג מהמספר שצוין. רוחב הפס בפועל של תעבורת הנתונים היוצאת תלוי בכתובת ה-IP של היעד ובגורמים אחרים. למידע נוסף על רוחב פס ברשת, קראו את המאמר רוחב פס ברשת.
  • זיכרון GPU: הזיכרון במכשיר GPU שאפשר להשתמש בו לאחסון זמני של נתונים. הוא נפרד מהזיכרון של המכונה, ומיועד במיוחד לטפל בדרישות רוחב הפס הגבוהות יותר של עומסי עבודה שדורשים עיבוד גרפי אינטנסיבי.

מגבלות של A2 Ultra

  • אפשר לבקש קיבולת רק באמצעות אפשרויות הצריכה הנתמכות לסוג מכונה A2 Ultra.
  • לא מקבלים הנחות על שימוש קבוע והנחות גמישות תמורת התחייבות לשימוש על מכונות מסוג A2 Ultra.
  • אפשר להשתמש בסוג המכונה A2 Ultra רק באזורים ובאזורי זמינות מסוימים.
  • סוג המכונה A2 Ultra זמין רק בפלטפורמת Cascade Lake.
  • אם המכונה משתמשת בסוג מכונה A2 Ultra, אי אפשר לשנות את סוג המכונה. אם אתם צריכים להשתמש בסוג מכונה אחר של A2 Ultra, או בכל סוג מכונה אחר, אתם צריכים ליצור מכונה חדשה.
  • אי אפשר לשנות סוג מכונה אחר לסוג מכונה A2 Ultra. אם אתם צריכים מכונה שמשתמשת בסוג מכונה A2 Ultra, אתם צריכים ליצור מכונה חדשה.
  • אי אפשר לבצע אתחול מהיר של כונני ה-SSD המקומיים שמחוברים למכונות Windows שמשתמשות בסוגי המכונות A2 Ultra. כדי לפרמט את כונני ה-SSD המקומיים האלה, צריך לבצע פרמוט מלא באמצעות הכלי diskpart ולציין את format fs=ntfs label=tmpfs.

סוגי מכונות A2 Standard‏ (NVIDIA A100 40GB)

לסוגי המכונות האלה יש מספר קבוע של מעבדי GPU מסוג A100 40GB. אפשר גם להוסיף דיסקים מסוג Local SSD כשיוצרים מכונה מסוג A2 Standard. כדי לדעת כמה דיסקים אפשר לחבר, קראו את המאמר סוגי מכונות שצריך לבחור בהם מספר של דיסקי SSD מקומיים. מידע נוסף על המגבלות של סוגי המכונות מופיע במאמר מגבלות של מכונות A2 Standard.

סוג המכונה מספר מעבדי ה-vCPU זיכרון המכונה (GB) תמיכה ב-SSD מקומי רוחב הפס המקסימלי של הרשת (Gbps) מספר מעבדי GPU מסוג NVIDIA A100 40GB זיכרון GPU‏ (GB HBM2)
a2-highgpu-1g 12 85 כן 24 1 40
a2-highgpu-2g 24 170 כן 32 2 80
a2-highgpu-4g 48 340 כן 50 4 160
a2-highgpu-8g 96 680 כן 100 8 320
a2-megagpu-16g 96 1,360 כן 100 16 640

הערות לגבי סוגי מכונות A2 Standard

ההערות הבאות רלוונטיות לטבלה שלמעלה:

  • ‫vCPU count: מעבד וירטואלי (vCPU) מיושם כ-hyper-thread יחיד של חומרה באחת מפלטפורמות המעבד (CPU) הזמינות.
  • רוחב הפס המקסימלי של הרשת: רוחב הפס המקסימלי של תעבורת הנתונים היוצאת לא יכול לחרוג מהמספר שצוין. רוחב הפס בפועל של תעבורת הנתונים היוצאת תלוי בכתובת ה-IP של היעד ובגורמים אחרים. למידע נוסף על רוחב פס ברשת, קראו את המאמר רוחב פס ברשת.
  • זיכרון GPU: הזיכרון במכשיר GPU שאפשר להשתמש בו לאחסון זמני של נתונים. הוא נפרד מהזיכרון של המכונה, ומיועד במיוחד לטפל בדרישות רוחב הפס הגבוהות יותר של עומסי עבודה שדורשים עיבוד גרפי אינטנסיבי.

מגבלות של A2 Standard

סוגי הדיסקים הנתמכים במכונות A2

במכונות A2 אפשר להשתמש בסוגים הבאים של אחסון בלוקים:

  • ‫Hyperdisk ML‏ (hyperdisk-ml)
  • דיסק אחסון מתמיד מאוזן (pd-balanced)
  • דיסק מתמיד (SSD (performance) Persistent Disk) (pd-ssd)
  • דיסק מתמיד סטנדרטי (pd-standard)
  • ‫SSD מקומי: מצורף באופן אוטומטי למכונות שנוצרו באמצעות סוגי המכונות A2 Ultra.

A2 Ultra

בטבלה הבאה מפורט המספר המקסימלי של דיסקים שנתמכים בכל מכונה:

סוגי מכונות כל הדיסקים Hyperdisk ML ‫SSD מקומי מצורף
a2-ultragpu-1g 128 32 1
a2-ultragpu-2g 128 48 2
a2-ultragpu-4g 128 64 4
a2-ultragpu-8g 128 64 8

ההערות הבאות רלוונטיות לטבלה שלמעלה:

  • כל הדיסקים: המגבלה הזו חלה על Persistent Disk ו-Hyperdisk, ולא כוללת דיסקים מסוג Local SSD.
  • תמחור דיסקים: החיוב על שימוש ב-Hyperdisk וב-Persistent Disk מתבצע בנפרד מתמחור סוגי המכונות. למידע על מחירי הדיסקים, קראו את המאמר מחירי Persistent Disk ו-Hyperdisk.

A2 Standard

בטבלה הבאה מפורט המספר המקסימלי של דיסקים שנתמכים בכל מכונה:

סוגי מכונות כל הדיסקים Hyperdisk ML אחסון SSD מקומי
a2-highgpu-1g 128 32 8
a2-highgpu-2g 128 48 8
a2-highgpu-4g 128 64 8
a2-highgpu-8g 128 64 8
a2-megagpu-16g 128 64 8

ההערות הבאות רלוונטיות לטבלה שלמעלה:

  • כל הדיסקים: המגבלה הזו חלה על Persistent Disk ו-Hyperdisk, ולא כוללת דיסקים מסוג Local SSD.
  • תמחור דיסקים: החיוב על שימוש ב-Hyperdisk וב-Persistent Disk מתבצע בנפרד מתמחור סוגי המכונות. למידע על מחירי הדיסקים, קראו את המאמר מחירי Persistent Disk ו-Hyperdisk.

אם סוג המכונה תומך בכך, אפשר לצרף למכונה שילוב של נפחי Hyperdisk ו-Persistent Disk, אבל חלות ההגבלות הבאות:

  • המספר הכולל של אמצעי האחסון של Hyperdisk ו-Persistent Disk לא יכול להיות יותר מ-128 לכל מכונה.

  • קיבולת הדיסק הכוללת המקסימלית (ב-TiB) בכל סוגי הדיסקים לא יכולה לחרוג מהערכים הבאים:

    • בסוגי מכונות עם פחות מ-32 יחידות vCPU:

      • ‫257 TiB לכל ה-Hyperdisk או לכל הדיסקים המתמידים
      • ‫257 TiB לשילוב של Hyperdisk ו-Persistent Disk

    • בסוגי מכונות עם 32 מעבדי vCPU או יותר:

      • ‫512 TiB לכל Hyperdisk
      • ‫512 TiB לשילוב של Hyperdisk ו-Persistent Disk
      • ‫257 TiB לכל Persistent Disk

למידע נוסף על מגבלות הקיבולת, ראו מגבלות הגודל והחיבור של Hyperdisk והקיבולת המקסימלית של Persistent Disk.

חוויית התחזוקה במכונות A2

במהלך מחזור החיים של מכונה ב-Compute Engine, המכונה המארחת שבה פועלת המכונה שלכם עוברת כמה אירועים במארח. אירוע במארח יכול לכלול תחזוקה שוטפת של התשתית של Compute Engine, או במקרים נדירים, שגיאה במארח. בנוסף, Compute Engine מבצע ברקע שדרוגים קלים ל-hypervisor ולרשת, שלא משבשים את הפעילות.

בטבלה הבאה מתוארות התכונות של תחזוקת המארח לסוגי המכונות A2:

סוג המכונה מספר יחידות ה-GPU תדירות אופיינית של אירועי תחזוקה מתוזמנים התנהגות התחזוקה התראה מראש על פעולות תחזוקה מתוכננות תחזוקה על פי דרישה סימולציה של תחזוקה
A2 Ultra 1, 2, 4, 8 30 ימים לפחות סיום והפעלה מחדש 7 ימים כן (8 מעבדי GPU בלבד) כן
A2 Standard ‫1, 2, 4, 8 או 16 30 ימים לפחות סיום והפעלה מחדש 7 ימים כן (רק 8 ו-16 מעבדי GPU) כן

ההערות הבאות רלוונטיות לטבלה שלמעלה:

  • תדירות אופיינית של אירועי תחזוקה מתוזמנים:

    תדירויות התחזוקה שמוצגות בטבלה הקודמת הן הערכות, ולא הבטחות. יכול להיות ש-Compute Engine יבצע תחזוקה בתדירות גבוהה יותר מדי פעם.

סדרת המכונות G4

סדרת המכונות G4 משתמשת בפלטפורמת המעבד AMD EPYC Turin וכוללת מעבדי GPU מסוג NVIDIA RTX PRO 6000 Blackwell Server Edition. סדרת המכונות הזו מציעה שיפורים משמעותיים לעומת סדרת המכונות G2 מהדור הקודם, עם הרבה יותר זיכרון GPU, רוחב פס מוגבר של זיכרון GPU ורוחב פס גבוה יותר של רשת.

למכונות G4 יש עד 384 מעבדי vCPU, זיכרון בנפח 1,440GB ודיסקים מסוג Titanium SSD בנפח 12TiB. בנוסף, מכונות G4 מספקות ביצועי רשת סטנדרטיים של עד 400Gbps.

סדרת המכונות הזו מיועדת במיוחד לעומסי עבודה כמו עומסי עבודה של סימולציה ב-NVIDIA Omniverse, אפליקציות שדורשות משאבים גרפיים רבים, המרת קידוד של וידאו ומחשבים וירטואליים. סדרת המכונות G4 מספקת גם פתרון זול להסקת מסקנות ולכוונון מודלים במארח יחיד, בהשוואה לסוגי המכונות מסדרה A.

מכונות שמשתמשות בסוג המכונה G4 מספקות את התכונות הבאות:

  • האצת GPU באמצעות מעבדי GPU מסוג NVIDIA RTX PRO 6000 Blackwell Server Edition: במכונות G4 מצורפים באופן אוטומטי מעבדי GPU מסוג NVIDIA RTX PRO 6000 Blackwell Server Edition, שמציעים זיכרון GPU בנפח של 96GB לכל GPU.

  • פלטפורמת מעבד AMD EPYC Turin מדור חמישי: הפלטפורמה הזו מציעה תדר מקסימלי של עד 4.1GHz. מידע נוסף על המעבד הזה זמין במאמר פלטפורמת מעבד (CPU).

  • ביצועים גרפיים מהדור הבא: מעבדי ה-GPU מסוג NVIDIA RTX PRO 6000 מספקים ביצועים משופרים ושדרוגי תכונות משמעותיים בהשוואה למעבדי ה-GPU מסוג NVIDIA L4 שמחוברים לסדרת המכונות G2. אלה השדרוגים:

    • ‫Tensor Cores מדור חמישי: הליבות האלה תומכות בדיוק FP4 וב-DLSS 4 Multi Frame Generation. המעבדים הגרפיים NVIDIA RTX PRO 6000 כוללים ליבות Tensor מהדור החמישי, ולכן הם מציעים ביצועים משופרים להאצת משימות כמו פיתוח מקומי של מודלי LLM ויצירת תוכן, בהשוואה למעבדים הגרפיים NVIDIA L4.
    • ליבות RT מדור רביעי: הליבות האלה מספקות ביצועים של ניתוב קרניים עד פי שניים מהדור הקודם של מעבדי NVIDIA L4 GPU, ומאיצות את הרינדור של עומסי עבודה בתכנון ובייצור.
    • מספר הליבות: ה-GPU מדגם NVIDIA RTX PRO 6000 כולל 24,064 ליבות CUDA,‏ 752 ליבות Tensor מהדור החמישי ו-188 ליבות RT מהדור הרביעי. העדכון הזה מייצג עלייה משמעותית לעומת דורות קודמים, כמו L4 GPU, שכולל 7,680 ליבות CUDA ו-240 ליבות Tensor.

  • שיתוף GPU: יש כמה אפשרויות שמאפשרות לכמה עומסי עבודה לגשת ל-GPU פיזי אחד. שיתוף GPU שימושי לעומסי עבודה שלא דורשים משאבים של GPU מלא, ועוזר לכם לבצע אופטימיזציה של העלויות. אלה האפשרויות לשיתוף GPU שזמינות למכונות G4:

    • תמיכה ב-GPU חלקי (vGPU): התכונה הזו מאפשרת לשתף GPU פיזי אחד בין כמה מכונות וירטואליות (VM). יחידות vGPU מספקות בידוד אבטחה לדיירים מרובים, כי כל vGPU הוא מכונה וירטואלית נפרדת. כדי להשתמש ב-vGPU, ‏Compute Engine מספק את התבניות הבאות של מכונות וירטואליות: g4-standard-6 (1/8 GPU),‏ g4-standard-12 (1/4 GPU) ו-g4-standard-24 (1/2 GPU).
    • מעבד גרפי עם כמה מכונות (MIG): התכונה הזו מאפשרת לחלק מעבד גרפי אחד לעד ארבע מכונות מבודדות לחלוטין במכונה וירטואלית אחת. האפשרות הזו לא מציעה בידוד אבטחה של ריבוי דיירים, כי כל המחיצות שייכות למכונה וירטואלית אחת.

  • תמיכה ב-Peripheral Component Interconnect Express (PCIe) Gen 5: מכונות G4 תומכות ב-PCI Express Gen 5, שמשפר את מהירות העברת הנתונים מזיכרון המעבד (CPU) ל-GPU בהשוואה ל-PCIe Gen 3 שמשמש את מכונות G2.

  • תמיכה בדיסקים: מכונות G4 תומכות ב-Titanium SSD לדיסקים מהירים לאחסון נתונים (scratch disks), שמועילים להזנת נתונים ליחידות ה-GPU תוך מניעת צווארי בקבוק של קלט/פלט. לאחסון עמיד, אפשר לצרף אמצעי אחסון ב-Hyperdisk.

    במכונות G4 אפשר לצרף עד 12,000GiB של Titanium SSD. לעומסי עבודה שדורשים אחסון בלוקים עמיד, מכונות G4 תומכות גם בצירוף של עד 512 TiB של Hyperdisk. מידע נוסף על סוגי דיסקים זמין במאמר בחירת סוג דיסק.

  • תקשורת GPU מסוג Peer-to-Peer ‏ (P2P): מכונות G4 תומכות בתקשורת GPU מסוג P2P, שמאפשרת העברת נתונים ישירה בין מעבדי GPU באותה מכונה. כך אפשר לשפר משמעותית את הביצועים של עומסי עבודה עם כמה מעבדי GPU, כי זמן האחזור של העברת הנתונים מתקצר ומשאבי המעבד מתפנים. מידע נוסף זמין במאמר תקשורת בין עמיתים (P2P) ב-G4 GPU.

  • תמיכה במדיניות למיקום קומפקטי: התכונה הזו מאפשרת לכם לשלוט במיקום הפיזי של המכונות במרכזי הנתונים. מדיניות למיקום קומפקטי עוזרת למקם מכונות קרוב זו לזו כדי לצמצם את זמן האחזור ברשת, וזה שימושי לעומסי עבודה שרגישים לזמן אחזור, כמו מחשוב עתיר ביצועים (HPC) או למידת מכונה (ML). מידע נוסף זמין במאמר הפחתת זמן האחזור באמצעות מדיניות למיקום קומפקטי.

אפשרויות תמחור וצריכה של מכונות G4

במכונות G4 אפשר להשתמש באפשרויות הצריכה וההנחה הבאות:

‫Cloud de Confiance מחייבת מכונות G4 על ה-GPU, ה-vCPU שהוגדרו מראש והזיכרון שמצורפים אליהן. החיוב על שימוש ב-Hyperdisk, בדיסקים של Titanium SSD וברשת מתבצע בנפרד מהתמחור של סוגי המכונות. למידע נוסף, קראו את המאמרים אפשרויות תמחור וצריכה, תמחור של סוגי מכונות ממשפחת Accelerator-optimized ותמחור של GPU.

סוגי מכונות G4‏ (NVIDIA RTX PRO 6000)

סוגי המכונות G4 accelerator-optimized משתמשים ב- מעבדים גרפיים NVIDIA RTX PRO 6000 Blackwell Server Edition (nvidia-rtx-pro-6000) ומתאימים לעומסי עבודה של סימולציה ב-NVIDIA Omniverse, לאפליקציות שדורשות עיבוד גרפי אינטנסיבי, להמרת קידוד של וידאו ולמחשבים וירטואליים. בנוסף, סוגי המכונות G4 מספקים פתרון זול להסקת מסקנות במארח יחיד ולכוונון מודלים בהשוואה לסוגי המכונות מסדרה A.

אפשר גם להוסיף דיסקים של Titanium SSD כשיוצרים מכונה מסוג G4. כדי לדעת כמה דיסקים אפשר לחבר, קראו את המאמר סוגי מכונות שצריך לבחור בהם מספר של דיסקי SSD מקומיים. מידע על המגבלות של סוגי המכונות מופיע במאמר המגבלות של G4.

סוג המכונה מספר מעבדי ה-vCPU זיכרון המכונה (GB) הנפח המקסימלי של Titanium SSD שנתמך (GiB) מספר כרטיסי הרשת הפיזיים רוחב הפס המקסימלי של הרשת (Gbps) מספר יחידות ה-GPU מסוג NVIDIA RTX PRO 6000 זיכרון GPU‏ (GB GDDR7)
g4-standard-6 6 22 0 1 20 1/8 12
g4-standard-12 12 45 375 1 20 1/4 24
g4-standard-24 24 90 750 1 20 1/2 48
g4-standard-48 48 180 1,500 1 50 1 96
g4-standard-96 96 360 3,000 1 100 2 192
g4-standard-192 192 720 6,000 1 200 4 384
g4-standard-384 384 1,440 12,000 2 400 8 768

הערות לגבי סוגי מכונות G4

ההערות הבאות רלוונטיות לטבלה שלמעלה:

  • ‫vCPU count: מעבד וירטואלי (vCPU) מיושם כ-hyper-thread יחיד של חומרה באחת מפלטפורמות המעבד (CPU) הזמינות.
  • רוחב הפס המקסימלי של הרשת: רוחב הפס המקסימלי של תעבורת הנתונים היוצאת לא יכול לחרוג מהמספר שצוין. רוחב הפס בפועל של תעבורת הנתונים היוצאת תלוי בכתובת ה-IP של היעד ובגורמים אחרים. מידע נוסף על רוחב פס של רשת זמין במאמר רוחב פס של רשת.
  • זיכרון GPU: הזיכרון במכשיר GPU שאפשר להשתמש בו לאחסון זמני של נתונים. הוא נפרד מהזיכרון של המכונה, ומיועד במיוחד לטפל בדרישות רוחב הפס הגבוהות יותר של עומסי עבודה שדורשים עיבוד גרפי אינטנסיבי.

מגבלות של G4

סוגי הדיסקים שנתמכים במכונות G4

במכונות G4 אפשר להשתמש בסוגי האחסון הבאים:

  • ‫Hyperdisk Balanced (hyperdisk-balanced): זהו סוג הדיסק היחיד שנתמך בדיסק האתחול
  • ‫Hyperdisk Balanced High Availability‏ (hyperdisk-balanced-high-availability)
  • ‫Hyperdisk Extreme‏ (hyperdisk-extreme): סוג הדיסק הזה נתמך רק במכונות G4 שמחוברים אליהן שני מעבדי GPU או יותר
  • ‫Hyperdisk ML‏ (hyperdisk-ml)
  • ‫Hyperdisk Throughput‏ (hyperdisk-throughput)
  • ‫Titanium SSD: אפשר להוסיף Titanium SSD למכונות שנוצרו באמצעות סוגי המכונות G4.

בטבלה הבאה מפורט המספר המקסימלי של דיסקים שנתמכים בכל מכונה:

סוגי מכונות כל סוגי ה-Hyperdisk Hyperdisk Balanced Hyperdisk Balanced High Availability Hyperdisk Extreme Hyperdisk ML Hyperdisk Throughput Titanium SSD
g4-standard-6 8 8 8 0 8 8 0
g4-standard-12 16 16 16 0 16 16 1
g4-standard-24 32 32 32 0 32 32 2
g4-standard-48 32 32 32 0 32 32 4
g4-standard-96 32 32 32 8 32 32 8
g4-standard-192 64 64 64 8 64 64 16
g4-standard-384 128 128 128 8 128 128 32

ההערה הבאה רלוונטית לטבלה שלמעלה:

אפשר לצרף למכונה שילוב של סוגי Hyperdisk שונים, אבל קיבולת הדיסק הכוללת המקסימלית (ב-TiB) בכל סוגי הדיסקים לא יכולה לחרוג מ-512TiB לכל ה-Hyperdisks.

למידע נוסף על מגבלות הקיבולת, ראו מגבלות הגודל והחיבור של Hyperdisk.

תקשורת מקצה לקצה (P2P) של GPU

מכונות G4 משפרות את הביצועים של עומסי עבודה עם כמה מעבדי GPU, באמצעות תקשורת ישירה בין מעבדי GPU (P2P), שנתמכת רק בסוגי מכונות עם שני מעבדי GPU או יותר. הגישה הזו מאפשרת למעבדי GPU שמחוברים לאותו מכונה מסוג G4 להחליף נתונים ישירות דרך אפיק ה-PCIe, בלי צורך להעביר נתונים דרך הזיכרון הראשי של המעבד (CPU). הנתיב הישיר הזה מקצר את זמן האחזור, מפחית את ניצול המעבד (CPU) ומגדיל את רוחב הפס האפקטיבי בין יחידות ה-GPU. תקשורת P2P מאיצה באופן משמעותי אפליקציות עם כמה מעבדי GPU, כמו אימון של למידת מכונה (ML) ומחשוב עתיר ביצועים (HPC).

מכיוון שמכונות G4 משתמשות בתקשורת GPU P2P כברירת מחדל, אתם מקבלים את היתרונות הבאים בלי לשנות את קוד האפליקציה. עם זאת, באפליקציות שמשתמשות ב-NVIDIA Collective Communication Library‏ (NCCL), כדי ליהנות מכל השיפורים בביצועים של תקשורת P2P, צריך להגדיר את NCCL לשימוש ב-P2P.

יתרונות מרכזיים וביצועים

  • האצת עומסי עבודה של כמה מעבדי GPU במכונות G4 עם שני מעבדי GPU או יותר: זמני ריצה מהירים יותר לאפליקציות שפועלות במכונות מסוג g4-standard-96,‏ g4-standard-192 ו-g4-standard-384.
  • תקשורת ברוחב פס גבוה: מאפשרת העברת נתונים במהירות גבוהה בין מעבדי GPU.

  • שיפור הביצועים של NCCL: שיפור משמעותי בביצועים של אפליקציות שמשתמשות ב-NVIDIA Collective Communication Library‏ (NCCL), בהשוואה לתקשורת שלא משתמשת ב-P2P. ה-hypervisor של Google מבודד באופן מאובטח את התקשורת הזו בין המכונות שלכם.

    • במכונות עם ארבעה מעבדי GPU‏ (g4-standard-192), כל מעבדי ה-GPU נמצאים בצומת NUMA אחד, מה שמאפשר תקשורת P2P יעילה ביותר. זה יכול לשפר את הביצועים עד פי 2.04 בקולקטיבים כמו Allgather,‏ Allreduce ו-ReduceScatter.
    • במכונות עם שמונה מעבדי GPU‏ (g4-standard-384), מעבדי ה-GPU מפוזרים בין שני צומתי NUMA. תקשורת P2P מואצת לתנועה בתוך הצמתים האלה וביניהם, עם שיפורים בביצועים של עד פי 2.19 לאותם קולקטיבים.

הגדרת NCCL לשימוש ב-P2P

כדי להגדיר את NCCL לשימוש ב-P2P, לפני שמריצים את עומסי העבודה, מגדירים את משתנה הסביבה NCCL_P2P_LEVEL במכונת G4 בהתאם לסוג המכונה:

  • עבור מופעי G4 עם 2 או 4 מעבדים גרפיים (g4-standard-96, g4-standard-192): הגדר NCCL_P2P_LEVEL=PHB
  • במכונות G4 עם 8 מעבדי GPU‏ (g4-standard-384): מגדירים את NCCL_P2P_LEVEL=SYS

מגדירים את משתנה הסביבה באמצעות אחת מהאפשרויות הבאות:

  • בשורת הפקודה, מריצים את פקודת הייצוא המתאימה, כמו export NCCL_P2P_LEVEL=SYS, בסשן המעטפת שבו מתכננים להריץ את האפליקציה. כדי שההגדרה הזו תהיה קבועה, מוסיפים את הפקודה הזו לסקריפט לטעינה בזמן ההפעלה של המעטפת, כמו ~/.bashrc.
  • מוסיפים את ההגדרה המתאימה, כמו NCCL_P2P_LEVEL=SYS, לקובץ התצורה של NCCL שנמצא ב-/etc/nccl.conf.

חוויית התחזוקה במכונות G4

במהלך מחזור החיים של מכונה ב-Compute Engine, המכונה המארחת שבה פועלת המכונה שלכם עוברת כמה אירועים במארח. אירוע במארח יכול לכלול תחזוקה שוטפת של התשתית של Compute Engine, או במקרים נדירים, שגיאה במארח. בנוסף, Compute Engine מבצע ברקע שדרוגים קלים ל-hypervisor ולרשת, שלא משבשים את הפעילות.

בטבלה הבאה מתוארות התכונות של תחזוקת המארח לסוגי המכונות G4:

סוג המכונה מספר יחידות ה-GPU תדירות אופיינית של אירועי תחזוקה מתוזמנים התנהגות התחזוקה התראה מראש על פעולות תחזוקה מתוכננות תחזוקה על פי דרישה סימולציה של תחזוקה
G4 ‫1, 2 או 4 30 ימים לפחות סוגרים את האפליקציה ומפעילים אותה מחדש. אם מחוברים דיסקים של Local SSD, המכונה מסתיימת עם שמירת נתונים של Local SSD. 7 ימים לא כן
G4 8 90 ימים לפחות סוגרים את האפליקציה ומפעילים אותה מחדש. אם מחוברים דיסקים של Local SSD, המכונה מסתיימת עם שמירת נתונים של Local SSD. 30 ימים כן כן

ההערות הבאות רלוונטיות לטבלה שלמעלה:

  • תדירות אופיינית של אירועי תחזוקה מתוזמנים:

    תדירויות התחזוקה שמוצגות בטבלה הקודמת הן הערכות, ולא הבטחות. יכול להיות ש-Compute Engine יבצע תחזוקה בתדירות גבוהה יותר מדי פעם.

סדרת המכונות G2

סדרת המכונות G2 זמינה בסוגי מכונות לשימוש סטנדרטי (standard) עם 4 עד 96 מעבדי vCPU וזיכרון של עד 432GB. סדרת המכונות הזו מותאמת לעומסי עבודה של הסקות וגרפיקה. סדרת המכונות G2 זמינה בסוג מכונה סטנדרטי אחד עם כמה הגדרות אישיות.

מכונות שנוצרו באמצעות סוגי המכונות G2 מספקות את התכונות הבאות:

  • האצת GPU: לכל סוג מכונה G2 יש מעבדי GPU מסוג NVIDIA L4.

  • שיפור קצבי ההיקש: סוג המכונה G2 תומך בסוג הנתונים FP8 (נקודה צפה של 8 ביט), שמאיץ את קצבי ההיקש של ML ומפחית את דרישות הזיכרון.

  • ביצועים גרפיים מהדור הבא: מעבדי NVIDIA L4 GPU משפרים את הביצועים הגרפיים עד פי 3 באמצעות ליבות RT מהדור השלישי וטכנולוגיית NVIDIA DLSS 3 (Deep Learning Super Sampling).

  • רוחב פס גבוה ברשת: במכונות מסוג G2, רוחב הפס ברשת יכול להגיע עד 100Gbps.

  • תמיכה בדיסקים: מכונות G2 תומכות ב-SSD מקומי לדיסקי אחסון נדיף (scratch disk) מהירים, שמועילים להזנת נתונים למעבדי GPU תוך מניעת צווארי בקבוק של קלט/פלט. לאחסון עמיד, אפשר לצרף נפחים של Persistent Disk ו-Hyperdisk.

    אפשר להוסיף עד 3,000 GiB של Local SSD למכונות G2. לעומסי עבודה שדורשים אחסון בלוקים (block storage) עמיד, אפשר לצרף אמצעי אחסון של Hyperdisk ו-Persistent Disk למכונות G2. קיבולת האחסון המקסימלית תלויה במספר המעבדים הווירטואליים (vCPU) של המכונה. מידע נוסף על סוגי דיסקים זמין במאמר בחירת סוג דיסק.

  • תמיכה במדיניות למיקום קומפקטי: מאפשרת לכם לשלוט יותר במיקום הפיזי של המכונות במרכזי הנתונים. כך אפשר להקטין את זמן האחזור ולהגדיל את רוחב הפס במכונות שנמצאות באזור זמינות אחד. מידע נוסף זמין במאמר הפחתת זמן האחזור באמצעות מדיניות למיקום קומפקטי.

אפשרויות תמחור וצריכה של מכונות G2

במכונות G2 אפשר להשתמש באפשרויות הבאות לצריכה ולהנחות:

ב-Cloud de Confiance , החיוב על מכונות G2 הוא לפי יחידות ה-GPU שמחוברות אליהן, מעבדי ה-vCPU שהוגדרו מראש והזיכרון. השימוש ב-Persistent Disk, ב-Hyperdisk, בדיסקים של Local SSD וברשת מחויב בנפרד מהתמחור של סוג המכונה. למידע נוסף, קראו את המאמרים אפשרויות תמחור וצריכה, תמחור של סוגי מכונות ממשפחת Accelerator-optimized ותמחור של GPU.

סוגי מכונות G2‏ (NVIDIA L4)

לסוגי המכונות G2 עם אופטימיזציה למאיצים מצורפים מעבדי GPU מסוג NVIDIA L4, והם אידיאליים לעומסי עבודה של הסקת מסקנות עם אופטימיזציה לעלויות, עומסי עבודה עם הרבה גרפיקה ועומסי עבודה של מחשוב עתיר ביצועים.

לכל סוג מכונה של G2 יש גם זיכרון שמוגדר כברירת מחדל וטווח זיכרון בהתאמה אישית. טווח הזיכרון בהתאמה אישית מגדיר את נפח הזיכרון שאפשר להקצות למכונה לכל סוג מכונה. אפשר גם להוסיף דיסקים מסוג Local SSD כשיוצרים מכונה מסוג G2. כדי לדעת כמה דיסקים אפשר לחבר, קראו את המאמר סוגי מכונות שצריך לבחור בהם מספר של כונני SSD מקומיים.

מידע נוסף על המגבלות של סוגי המכונות מופיע במאמר מגבלות של G2.

סוג המכונה מספר מעבדי ה-vCPU זיכרון ברירת המחדל של המכונה (GB) טווח זיכרון מותאם אישית למכונה (GB) נפח מקסימלי נתמך של כונן SSD מקומי (GiB) רוחב הפס המקסימלי של הרשת (Gbps) מספר יחידות ה-GPU מסוג NVIDIA L4 זיכרון GPU (GB GDDR6)
g2-standard-4 4 16 ‫16 עד 32 375 10 1 24
g2-standard-8 8 32 32 עד 54 375 16 1 24
g2-standard-12 12 48 48 עד 54 375 16 1 24
g2-standard-16 16 64 ‫54 עד 64 375 32 1 24
g2-standard-24 24 96 96 עד 108 750 32 2 48
g2-standard-32 32 128 96 עד 128 375 32 1 24
g2-standard-48 48 192 192 עד 216 1,500 50 4 96
g2-standard-96 96 384 ‫384 עד 432 3,000 100 8 192

הערות לגבי סוגי מכונות G2

ההערות הבאות רלוונטיות לטבלה שלמעלה:

  • ‫vCPU count: מעבד וירטואלי (vCPU) מיושם כ-hyper-thread יחיד של חומרה באחת מפלטפורמות המעבד (CPU) הזמינות.
  • רוחב הפס המקסימלי של הרשת: רוחב הפס המקסימלי של תעבורת הנתונים היוצאת לא יכול לחרוג מהמספר שצוין. רוחב הפס בפועל של תעבורת הנתונים היוצאת תלוי בכתובת ה-IP של היעד ובגורמים אחרים. למידע נוסף על רוחב פס ברשת, קראו את המאמר רוחב פס ברשת.
  • זיכרון GPU: הזיכרון במכשיר GPU שאפשר להשתמש בו לאחסון זמני של נתונים. הוא נפרד מהזיכרון של המכונה, ומיועד במיוחד לטפל בדרישות רוחב הפס הגבוהות יותר של עומסי עבודה שדורשים עיבוד גרפי אינטנסיבי.

מגבלות של G2

סוגי הדיסקים שנתמכים במכונות G2

במכונות G2 אפשר להשתמש בסוגים הבאים של אחסון בלוקים:

  • דיסק אחסון מתמיד מאוזן (pd-balanced)
  • דיסק מתמיד (SSD (performance) Persistent Disk) (pd-ssd)
  • ‫Hyperdisk ML‏ (hyperdisk-ml)
  • ‫Hyperdisk Throughput‏ (hyperdisk-throughput)
  • ‫Local SSD: אפשר להוסיף Local SSD למכונות שנוצרו באמצעות סוגי המכונות G2.

בטבלה הבאה מפורט המספר המקסימלי של דיסקים שנתמכים בכל מכונה:

סוגי מכונות כל הדיסקים Hyperdisk ML Hyperdisk Throughput אחסון SSD מקומי
g2-standard-4 128 24 24 1
g2-standard-8 128 32 32 1
g2-standard-12 128 32 32 1
g2-standard-16 128 48 48 1
g2-standard-24 128 48 48 2
g2-standard-32 128 64 64 1
g2-standard-48 128 64 64 4
g2-standard-96 128 64 64 8

ההערות הבאות רלוונטיות לטבלה שלמעלה:

  • כל הדיסקים: המגבלה הזו חלה על Persistent Disk ו-Hyperdisk, ולא כוללת דיסקים מסוג Local SSD.
  • תמחור דיסקים: החיוב על שימוש ב-Hyperdisk וב-Persistent Disk מתבצע בנפרד מתמחור סוגי המכונות. למידע על מחירי הדיסקים, קראו את המאמר מחירי Persistent Disk ו-Hyperdisk.

אם סוג המכונה תומך בכך, אפשר לצרף למכונה שילוב של נפחי Hyperdisk ו-Persistent Disk, אבל חלות ההגבלות הבאות:

  • המספר הכולל של אמצעי האחסון של Hyperdisk ו-Persistent Disk לא יכול להיות יותר מ-128 לכל מכונה.

  • קיבולת הדיסק הכוללת המקסימלית (ב-TiB) בכל סוגי הדיסקים לא יכולה לחרוג מהערכים הבאים:

    • בסוגי מכונות עם פחות מ-32 יחידות vCPU:

      • ‫257 TiB לכל ה-Hyperdisk או לכל הדיסקים המתמידים
      • ‫257 TiB לשילוב של Hyperdisk ו-Persistent Disk

    • בסוגי מכונות עם 32 מעבדי vCPU או יותר:

      • ‫512 TiB לכל Hyperdisk
      • ‫512 TiB לשילוב של Hyperdisk ו-Persistent Disk
      • ‫257 TiB לכל Persistent Disk

למידע נוסף על מגבלות הקיבולת, ראו מגבלות הגודל והחיבור של Hyperdisk והקיבולת המקסימלית של Persistent Disk.

חוויית התחזוקה במכונות G2

במהלך מחזור החיים של מכונה ב-Compute Engine, המכונה המארחת שבה פועלת המכונה שלכם עוברת כמה אירועים במארח. אירוע במארח יכול לכלול תחזוקה שוטפת של התשתית של Compute Engine, או במקרים נדירים, שגיאה במארח. בנוסף, Compute Engine מבצע ברקע שדרוגים קלים ל-hypervisor ולרשת, שלא משבשים את הפעילות.

בטבלה הבאה מתוארות התכונות של תחזוקת המארח לסוגי המכונות G2:

סוג המכונה מספר יחידות ה-GPU תדירות אופיינית של אירועי תחזוקה מתוזמנים התנהגות התחזוקה התראה מראש על פעולות תחזוקה מתוכננות תחזוקה על פי דרישה סימולציה של תחזוקה
G2 ‫1, 2, 4 או 8 30 ימים לפחות סיום והפעלה מחדש 7 ימים כן (8 מעבדי GPU בלבד) כן

ההערות הבאות רלוונטיות לטבלה שלמעלה:

  • תדירות אופיינית של אירועי תחזוקה מתוזמנים:

    תדירויות התחזוקה שמוצגות בטבלה הקודמת הן הערכות, ולא הבטחות. יכול להיות ש-Compute Engine יבצע תחזוקה בתדירות גבוהה יותר מדי פעם.

אפשרויות תמחור וצריכה

אפשרויות הצריכה מתייחסות לדרכים לקבל ולהשתמש במשאבי המחשוב. ב-Cloud de Confiance by S3NS , החיוב על סוגי מכונות שעברו אופטימיזציה למאיצים הוא על ה-GPU המצורפים, ה-vCPU שהוגדר מראש, הזיכרון ו-SSD מקומיים שמצורפים (אם רלוונטי). ההנחות על מכונות שמותאמות למאיצים משתנות בהתאם לסוג המשאב ולאפשרות הצריכה שבה אתם משתמשים. בכל שלב, משאב יכול לקבל רק סוג אחד של הנחה.

בהתאם לסוג המשאב ולאפשרות הצריכה שבחרתם, ההנחות חלות על סוגי מכונות שמותאמות למאיצים באופן הבא:

  • על פי דרישה: באפשרות הצריכה הזו, אתם יכולים לקבל הנחות גמישות תמורת התחייבות לשימוש ב-Compute רק על הוצאות שעומדות בדרישות לשימוש במכונות N1,‏ G2 ו-G4, באופן הבא:

    • במכונות מסוג N1 שמחוברות ל-GPU, אתם יכולים לקבל הנחות CUD גמישות על משאבי המחשוב רק ל-vCPU, לזיכרון ולדיסקים מקומיים של SSD.
    • בסוגי המכונות G2 ו-G4, אתם יכולים לקבל הנחות CUD גמישות על משאבי המחשוב של vCPU, זיכרון, GPU ודיסקים מקומיים של SSD.

    כדי לקבל הנחות תמורת התחייבות לשימוש במשאבים לסדרות אחרות של מכונות עם אופטימיזציה למאיצים, כולל G2 ו-G4, צריך להשתמש באחת מאפשרויות ההזמנה.

  • ‫Spot: מכונות וירטואליות במודל Spot מקבלות הנחות באופן אוטומטי דרך התמחור של מכונות וירטואליות במודל Spot.

  • התחלה גמישה (Flex-start): מכונות שהוקצו באמצעות אפשרות הצריכה "התחלה גמישה" מקבלות הנחות באופן אוטומטי דרך התמחור של מתזמן משימות לפריסת workload דינמית (DWS).

  • הזמנות: אתם יכולים לקבל הנחות תמורת התחייבות לשימוש במשאבים לסוגי מכונות שמותאמים למאיצים, על ידי רכישת התחייבויות לשימוש במשאבים. בהתחייבויות לשימוש במשאבים לכל ה-GPU ולרוב הדיסקים המקומיים של SSD, צריך לצרף הזמנות למשאבים האלה.

למידע נוסף על תמחור של מכונות שעברו אופטימיזציה למאיצים, קראו את הקטע משפחת סוגי המכונות שעברו אופטימיזציה למאיצים בדף התמחור של מכונות וירטואליות.

זמינות של אפשרויות צריכה לפי סוג מכונה

בטבלה הבאה מפורטת הזמינות של כל אפשרות צריכה לפי סוגי המכונות. למידע נוסף על בחירת אפשרות צריכה, קראו את המאמר בחירת מודל צריכה במסמכי התיעוד של AI Hypercomputer.

סוג המכונה (דגם ה-GPU) על פי דרישה Spot התחלה גמישה (Flex-start) מקום שמור על פי דרישה מקומות שמורים לעתיד מקומות שמורים לעתיד במצב יומן מקומות שמורים לעתיד של גושי קיבולת
‫A4X Max (GB300)‎ ו-A4X (GB200)‎ לא לא לא לא לא לא כן
A4 (B200) לא כן כן לא לא כן כן
A3 Ultra (H200) לא כן כן לא לא כן כן
A3 Mega (H100) כן כן כן כן כן כן כן
‫A3 High עם 8 מעבדי GPU‏ (H100) כן כן כן כן כן כן כן
‫A3 High עם פחות מ-8 מעבדי GPU‏ (H100) לא כן כן לא לא לא לא
A3 Edge (H100) כן כן כן כן כן כן כן
A2 (A100) כן כן כן כן כן לא לא
G4 (RTX PRO 6000) כן כן כן כן כן לא לא
G2 (L4) כן כן כן כן כן לא לא
‫N1 עם מעבדי GPU ‏ (T4/P4/V100) כן כן כן כן כן לא לא

המאמרים הבאים