Some or all of the information on this page might not apply to Cloud de Confiance by S3NS. See Differences from Google Cloud for more details.

‫Google משתמשת בטכנולוגיית AI כדי לתרגם תוכן לשפה המועדפת עליך. בתרגומים כאלו עשויות להיות שגיאות.

הצגת מדדי DCGM של Vertex AI Inference

בדף הזה מוסבר איך לעיין במדדים של NVIDIA Data Center GPU Manager (DCGM) שמשויכים לנקודות הקצה של Vertex AI Inference.

מה זה DCGM

‫NVIDIA Data Center GPU Manager (DCGM) היא ערכת כלים של NVIDIA שמאפשרת לכם לנהל ולנטר מעבדי GPU של NVIDIA. אם נקודות הקצה שלכם משתמשות ב-GPU נתמכים, מערכת Vertex AI Inference מייצאת באופן אוטומטי מדדים של Gemini Enterprise Agent Platform DCGM אל Cloud Monitoring. המדדים האלה מספקים תמונה מקיפה של ניצול המעבד הגרפי, הביצועים והתקינות.

דרישות מוקדמות

לפני שמתחילים, מוודאים ש-Cloud Monitoring מופעל בפרויקט. מידע נוסף מופיע במאמר בנושא הפעלת Monitoring API.

שימוש במדדים של DCGM

כדי לראות את מדדי DCGM ב-Metrics Explorer:

נכנסים לדף Metrics Explorer במסוף Cloud de Confiance .

לדף Metrics Explorer
בקטע בחירת מדד, בוחרים באפשרות יעד Prometheus.
בקטע Active metric categories (קטגוריות פעילות של מדדים), בוחרים באפשרות Vertex.
בקטע Active metrics, בוחרים את המדד הרצוי.
לוחצים על אישור.

אפשר גם לשלוח שאילתות לגבי מדדים באמצעות Grafana או ממשק המשתמש או ה-API של Prometheus.

מכסה

מדדי DCGM צורכים את המכסה Time series ingestion requests per minute של Cloud Monitoring API. לפני שמפעילים את חבילות המדדים, כדאי לבדוק את השימוש המקסימלי האחרון במכסה הזו. אם אתם מתקרבים למגבלת המכסה, אתם יכולים לבקש להגדיל את מכסת השימוש.

מדדים של Gemini Enterprise Agent Platform DCGM

לשמות המדדים ב-Cloud Monitoring שמופיעים בטבלה הזו צריך להוסיף את הקידומת prometheus.googleapis.com/. הקידומת הזו הושמטה מהערכים בטבלה.

בנוסף לתוויות במשאב במעקב prometheus_target, כל המדדים של DCGM שנאספים ב-Gemini Enterprise Agent Platform כוללים את התוויות הבאות:

תוויות של GPU:

‫gpu_model: דגם מכשיר ה-GPU, למשל NVIDIA L4.
‫gpu_uuid: המזהה הייחודי האוניברסלי (UUID) של מכשיר ה-GPU.
‫gpu_i_id: מזהה המופע של NVIDIA Multi-Instance GPU‏ (MIG).

תוויות של Gemini Enterprise Agent Platform:

‫deployed_model_id: המזהה של מודל שפריסתו הושלמה ומשרת בקשות להסקת מסקנות.
‫model_display_name: השם המוצג של מודל שפרסתם.
‫replica_id: המזהה הייחודי שמתאים לשכפול של המודל שנפרס (שם ה-pod).
‫endpoint_id: המזהה של נקודת קצה של מודל.
‫endpoint_display_name: השם המוצג של נקודת קצה של מודל.
‫product: השם של התכונה ב-Gemini Enterprise Agent Platform. הנתיב הזה תמיד יהיה Online Inference.

שם המדד ב-PromQL שם המדד ב-Cloud Monitoring
‫Kind, Type, Unit Monitored resources	תיאור
`vertex_dcgm_fi_dev_fb_free` `vertex_dcgm_fi_dev_fb_free/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	האחסון הזמני של מסגרת ב-MB.
`vertex_dcgm_fi_dev_fb_total` `vertex_dcgm_fi_dev_fb_total/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	סך מאגר הפריים של ה-GPU ב-MB.
`vertex_dcgm_fi_dev_fb_used` `vertex_dcgm_fi_dev_fb_used/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	השימוש באחסון הזמני של מסגרת ב-MB.
`vertex_dcgm_fi_dev_gpu_temp` `vertex_dcgm_fi_dev_gpu_temp/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	קריאות הטמפרטורה הנוכחיות של המכשיר (במעלות צלזיוס).
`vertex_dcgm_fi_dev_gpu_util` `vertex_dcgm_fi_dev_gpu_util/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	ניצול ה-GPU (ב-%).
`vertex_dcgm_fi_dev_mem_copy_util` `vertex_dcgm_fi_dev_mem_copy_util/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	ניצול הזיכרון (באחוזים).
`vertex_dcgm_fi_dev_memory_temp` `vertex_dcgm_fi_dev_memory_temp/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	טמפרטורת הזיכרון של המכשיר (ב-‎°C).
`vertex_dcgm_fi_dev_power_usage` `vertex_dcgm_fi_dev_power_usage/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	צריכת החשמל של המכשיר (בוואט).
`vertex_dcgm_fi_dev_sm_clock` `vertex_dcgm_fi_dev_sm_clock/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	תדר השעון של SM (במגה-הרץ).
`vertex_dcgm_fi_dev_total_energy_consumption` `vertex_dcgm_fi_dev_total_energy_consumption/counter`
`CUMULATIVE`, `DOUBLE`, `1` prometheus_target	צריכת האנרגיה הכוללת של ה-GPU במילי-ג'ול מאז שהמנהל הוטען מחדש בפעם האחרונה.
`vertex_dcgm_fi_prof_dram_active` `vertex_dcgm_fi_prof_dram_active/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	היחס בין המחזורים שבהם ממשק הזיכרון של המכשיר פעיל בשליחה או בקבלה של נתונים.
`vertex_dcgm_fi_prof_gr_engine_active` `vertex_dcgm_fi_prof_gr_engine_active/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	היחס בין הזמן שבו מנוע הגרפיקה פעיל.
`vertex_dcgm_fi_prof_nvlink_rx_bytes` `vertex_dcgm_fi_prof_nvlink_rx_bytes/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	קצב הנתונים הפעילים של NvLink rx (קריאה) בבייט, כולל כותרת ומטען ייעודי.
`vertex_dcgm_fi_prof_nvlink_tx_bytes` `vertex_dcgm_fi_prof_nvlink_tx_bytes/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	קצב הנתונים הפעילים של NvLink tx (שידור) בבייט, כולל כותרת ומטען ייעודי.
`vertex_dcgm_fi_prof_pcie_rx_bytes` `vertex_dcgm_fi_prof_pcie_rx_bytes/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	שיעור הנתונים הפעילים של PCIe rx (קריאה) בבייט, כולל כותרת ומטען ייעודי.
`vertex_dcgm_fi_prof_pcie_tx_bytes` `vertex_dcgm_fi_prof_pcie_tx_bytes/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	שיעור הנתונים הפעילים של PCIe tx (שידור) בבייט, כולל כותרת ומטען ייעודי.
`vertex_dcgm_fi_prof_pipe_fp16_active` `vertex_dcgm_fi_prof_pipe_fp16_active/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	היחס בין המחזורים שבהם צינור ה-fp16 פעיל.
`vertex_dcgm_fi_prof_pipe_fp32_active` `vertex_dcgm_fi_prof_pipe_fp32_active/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	היחס בין המחזורים שבהם צינור fp32 פעיל.
`vertex_dcgm_fi_prof_pipe_fp64_active` `vertex_dcgm_fi_prof_pipe_fp64_active/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	היחס בין המחזורים שבהם צינור ה-fp64 פעיל.
`vertex_dcgm_fi_prof_pipe_tensor_active` `vertex_dcgm_fi_prof_pipe_tensor_active/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	היחס בין המחזורים שבהם צינור טנסור כלשהו פעיל.
`vertex_dcgm_fi_prof_sm_active` `vertex_dcgm_fi_prof_sm_active/gauge`
`GAUGE`, `DOUBLE`, `1` prometheus_target	היחס בין מחזורי שעון שבהם ליחידת SM הוקצה לפחות warp אחד.

יחידות GPU נתמכות

יש תמיכה בכל כרטיסי ה-GPU של NVIDIA, למעט הכרטיסים הבאים, בגלל מגבלות משאבים:

המאמרים הבאים

מידע נוסף על Metrics Explorer.