מגבלות
מאגרי מטא-נתונים עם Hive 4.2: גרסת התמונה
3.0לא תומכת ב-BigQuery Metastore, ב-BigLake Metastore או ב-Dataproc Metastore עם Hive 4.2 (אין תמיכה בשאילתות ישירות של Hive באמצעות מאגרי המטא-נתונים האלה).Delta Lake עם Hive: Delta Lake
4.x, שכלול בגרסת התמונה של Managed Service for Apache Spark3.0, לא תומך ב-Hive (אי אפשר להריץ שאילתות בטבלאות Delta Lake 4.2 ב-Hive).Iceberg עם Hive: גרסת התמונה
3.0של Managed Service for Apache Spark כוללת את Hive 4.2, שתומך ב-Iceberg דרך קטלוג REST של Iceberg.אשכולות GPU: כל גרסאות התמונות של
3.0, חוץ מ-3.0-ml-ubuntu, מאפשרותcgroups V2. מכיוון ש-YARN לא תומך בגילוי GPU כש-cgroups V2מופעל, צריך להשתמש בתמונה3.0-ml-ubuntuכשיוצרים אשכולות עם GPUs.
הערות:
גרסה
3.0היא תמונה קלה שמכילה רק רכיבי ליבה, וכך מצמצמת את החשיפה לנקודות חולשה וחשיפות נפוצות (CVE). כדי לעמוד בדרישות גבוהות יותר של תאימות אבטחה, צריך להשתמש בגרסת התמונה2.3ואילך כשיוצרים אשכול של Managed Service for Apache Spark.אם בוחרים להתקין רכיבים אופציונליים כשיוצרים אשכול של Managed Service for Apache Spark באמצעות תמונת
3.0, הרכיבים יורדו ויותקנו במהלך יצירת האשכול. הפעולה הזו עשויה להאריך את זמן ההפעלה של האשכול. כדי להימנע מהעיכוב הזה, אפשר ליצור תמונה בהתאמה אישית עם הרכיבים האופציונליים המותקנים מראש. כדי לעשות את זה, מריצים את הפקודהgenerate_custom_image.pyעם הדגל--optional-components.התמונות בגרסה 3.0 תומכות ברכיבים האופציונליים הבאים:
- Apache Flink
- Apache Hive WebHCat
- Apache Iceberg
- Apache Pig
- Apache Ranger
- Apache Solr
- מחברת Apache Zeppelin
- Apache Zookeeper
- Delta Lake
- Docker
- JupyterLab Notebook
- Trino
yarn.nodemanager.recovery.enabledו-HDFS Audit Logging מופעלים כברירת מחדל בתמונות 3.0.Pixi מותקן כחלק מהתקנת Python ומשמש להתקנת חבילות Python במקום Conda.
הגדרת ברירת המחדל של מחשבון המשאבים ב-YARN השתנתה מ-DefaultResourceCalculator ל-DominantResourceCalculator. ההגדרה החדשה משתמשת במושג של משאב דומיננטי כדי לקבוע את הקצאת המשאבים, כמו הקצאת זיכרון ומעבד. השינוי הזה משפיע על Autoscaler, שמתאים את קנה המידה על סמך השימוש הדומיננטי במשאבים של האשכול.
החל מגרסת התמונה
3.0, כשיוצרים אשכול בלי לציין סוג מכונה לצומת באשכול, Managed Service for Apache Spark מציין את הצומת עם רשימה מדורגת של סוגי מכונות וירטואליות גמישות, כמו רשימה מדורגת של סוגי מכונות מסדרות N4, N2 ו-E2, כשהרשימה מותאמת לזמינות המשאבים.