הצגת אשכולות

אם אתם מעוניינים באשכולות אימון של Gemini Enterprise Agent Platform, אתם יכולים לפנות לנציג המכירות שלכם כדי לקבל גישה.

בדף הזה מוסבר איך להציג את רשימת אשכולות האימון בפרויקט באמצעות מסוף Cloud de Confiance או Agent Platform API (לא נתמך ב-Google Cloud CLI).

כשמציגים אשכול, אפשר לוודא את הדברים הבאים:

  • הגדרת האשכול
  • מצב האשכול והצומת
  • מידע על צומת הכניסה
  • צריכת משאבים באשכול

אם אתם מחפשים הוראות לעדכון אשכול, אפשר לעיין במאמר ניהול אשכול.

לפני שמתחילים

מאמתים את Gemini Enterprise Agent Platform, אלא אם כבר עשיתם זאת.

צריך לבחור את הכרטיסייה הרלוונטית לאופן שבו תכננתם להשתמש בדוגמאות בדף הזה:

המסוף

כשמשתמשים במסוף Cloud de Confiance כדי לגשת לשירותים Cloud de Confiance by S3NS ולממשקי ה-API, לא צריך להגדיר אימות.

REST

כדי להשתמש בסביבת פיתוח מקומית בדוגמאות של API בארכיטקטורת REST שבדף הזה, צריך להשתמש בפרטי הכניסה שאתם נותנים ל-CLI של gcloud.

    מתקינים את ה-CLI של Google Cloud ואז נכנסים ל-CLI של gcloud באמצעות הזהות המאוחדת שלכם.

מידע נוסף מופיע במאמר אימות לשימוש ב-REST במסמכי האימות של Cloud de Confiance .

התפקידים הנדרשים

כדי לקבל את ההרשאות שנדרשות להצגת אשכולות אימון, צריך לבקש מהאדמין להקצות לכם ב-IAM את התפקיד Agent Platform Viewer (‏roles/aiplatform.viewer) בפרויקט. כדי לקרוא הסבר על מתן תפקידים, ראו איך מנהלים את הגישה ברמת הפרויקט, התיקייה והארגון.

זהו תפקיד שמוגדר מראש וכולל את ההרשאות שנדרשות לצפייה באשכולות אימון. כדי לראות בדיוק אילו הרשאות נדרשות, אפשר להרחיב את הקטע ההרשאות הנדרשות:

ההרשאות הנדרשות

כדי להציג אשכולות אימון, נדרשות ההרשאות הבאות:

  • כדי לראות רשימה של אשכולות: aiplatform.modelDevelopmentClusters.list
  • כדי לראות את הפרטים של אשכול יחיד: aiplatform.modelDevelopmentClusters.get

יכול להיות שתקבלו את ההרשאות האלה באמצעות תפקידים בהתאמה אישית או תפקידים מוגדרים מראש אחרים.

הצגת המסוף

הרשאות IAM לבדן לא מאפשרות לראות את אשכולות האימון במסוף Cloud de Confiance . הדף Training Clusters מופיע רק בפרויקטים שרשומים ל-Gemini Enterprise Agent Platform training clusters. אם הדף לא מופיע, פנו לנציג המכירות שלכם.

בנוסף, Cloud de Confiance צריך להפעיל בפרויקט את ממשקי ה-API הבאים: אם אחד מהם חסר, בדף Training Clusters מוצג הכפתור Enable APIs במקום האשכולות:

  • aiplatform.googleapis.com
  • compute.googleapis.com
  • file.googleapis.com
  • hypercomputecluster.googleapis.com
  • lustre.googleapis.com
  • servicenetworking.googleapis.com
  • storage.googleapis.com

אימות של ממשק ה-API

בדוגמאות של Agent Platform API שבדף הזה נעשה שימוש באליאס הבא, שמפעיל את Google Cloud CLI כדי ליצור אסימון גישה:

alias gcurl='curl -H "Authorization: Bearer $(gcloud auth print-access-token)" -H "Content-Type: application/json"'

צפייה ברשימת האשכולות

בשני הממשקים, האשכולות מוצגים לפי אזור בכל פעם. במסוף Cloud de Confiance בוחרים את האזור מתוך רשימה, וב-Agent Platform API האזור הוא חלק מכתובת ה-URL של הבקשה.

המסוף

  1. נכנסים לדף Training Clusters במסוף Cloud de Confiance .

    מעבר אל Training Clusters

  2. ברשימה Region, בוחרים את האזור שבו רוצים לראות את האשכולות.

    בדף מופיעה רשימת האשכולות באזור הזה. כל עמודה בטבלה מתארת מאפיין של האשכול:

    עמודה תיאור
    מזהה מזהה האשכול שמשמש כ-CLUSTER_ID בבקשות ל-Agent Platform API.
    שם השם המוצג של האשכול.
    סטטוס מצב האשכול: Creating,‏ Running,‏ Updating,‏ Stopping או Error.
    צמתים מספר הצמתים באשכול.
    תאריך היצירה התאריך שבו נוצר האשכול.
    סוגי מכונות סוגי המכונות שמשמשים במאגרי הצמתים של האשכול.
    מודלים של צריכה איך קיבולת האשכול מתקבלת: Reservation,‏ Spot,‏ Flex-start או On-demand.

  3. כדי לפתוח אשכול, לוחצים על השם שלו בעמודה שם.

REST

כדי לראות רשימה של האשכולות באזור מסוים, שולחים בקשת GET לאוסף modelDevelopmentClusters:

gcurl -X GET https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters

מחליפים את מה שכתוב בשדות הבאים:

  • ‫PROJECT_ID: מזהה הפרויקט.
  • ‫REGION: האזור שבו נמצאים האשכולות.

השיטה list תומכת בפרמטרים האופציונליים הבאים של שאילתה כדי לשלוט על חלוקה לדפים:

  • ‫pageSize (מספר שלם, אופציונלי): המספר המקסימלי של אשכולות שיוחזרו בתשובה. יכול להיות שהשירות יחזיר פחות מהערך הזה, גם אם יש עוד פריטים. אם לא מציינים גודל דף, המערכת משתמשת בגודל דף ברירת המחדל.
  • ‫pageToken (מחרוזת, אופציונלי): טוקן שהתקבל מקריאה קודמת של רשימה. צריך להזין את הטוקן הזה כדי לאחזר את דף התוצאות הבא.

בדוגמה הבאה מוצגת בקשה לדף הראשון של התוצאות, עם מקסימום חמש קבוצות לכל דף:

gcurl "https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters?pageSize=5"

תגובה מוצלחת מכילה מערך modelDevelopmentClusters עם עד חמישה משאבי אשכול, ויכולה לכלול גם מחרוזת nextPageToken.

הצגת הפרטים של אשכול

גם במסוף Cloud de Confiance וגם ב-Agent Platform API מדווחים על התצורה של אשכול ועל המצב הנוכחי שלו, כולל המצב של כל אחד מהצמתים שלו. מרכזי הבקרה של Cloud Monitoring זמינים רק במסוף Cloud de Confiance .

המסוף

  1. נכנסים לדף Training Clusters במסוף Cloud de Confiance .

    מעבר אל Training Clusters

  2. ברשימה Region, בוחרים את האזור שבו נמצא האשכול.

  3. בעמודה Name (שם), לוחצים על שם האשכול שרוצים להציג. הדף Cluster details נפתח בכרטיסייה Overview.

  4. בוחרים כרטיסייה כדי לראות את הפרטים המתאימים:

    • סקירה כללית: השם, התיאור והמיקום של האשכול, יחד עם הגדרות החישוב, הרשת והתזמור שהוגדרו, צומת הכניסה ומחיצות Slurm.

    • צמתים: שתי טבלאות שמתארות את הצמתים באשכול.

    • Login nodes, עם העמודות Status,‏ Name,‏ Zone,‏ סוג מכונה,‏ כתובת IP פנימית,‏ כתובת IP חיצונית ו-Connect. משתמשים באפשרות Connect כדי לפתוח סשן SSH בצומת כניסה.

    • צמתי מחשוב, עם העמודות סטטוס, שם, אזור, סוג המכונה, כתובת IP פנימית ומחיצה.

    • יכולת צפייה (Observability): מרכזי בקרה מוכנים מראש של Cloud Monitoring שמכסים את השימוש במעבד, בזיכרון וברשת בכל האשכול, יחד עם ניצול ה-GPU, מדדים של NVIDIA Data Center GPU Manager‏ (DCGM), רשת ה-GPU והתקינות של ה-GPU.

כדי לטעון מחדש את הדף עם המצב הנוכחי של האשכול, לוחצים על רענון. כדי למחוק את האשכול, לוחצים על מחיקה.

REST

כדי לראות את הפרטים של אשכול יחיד, שולחים בקשת GET למשאב של האשכול:

gcurl -X GET https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters/CLUSTER_ID

מחליפים את מה שכתוב בשדות הבאים:

  • ‫PROJECT_ID: מזהה הפרויקט.
  • ‫REGION: האזור שבו האשכול נמצא.
  • ‫CLUSTER_ID: המזהה של האשכול שרוצים להציג. זהו הערך שמוצג בעמודה ID בדף Training Clusters במסוףCloud de Confiance .

התגובה היא משאב ModelDevelopmentCluster. לצד ההגדרה של האשכול, בשדה clusterStatus מדווח על המצב הנוכחי של האשכול ושל כל אחד מהצמתים שלו:

  • ‫clusterStatus.state: מצב האשכול, אחד מהערכים הבאים: PROVISIONING,‏ RUNNING,‏ UPDATING,‏ STOPPING או ERROR. במסוף Cloud de Confiance , הסטטוס של PROVISIONING הוא Creating.
  • ‫clusterStatus.nodesStatus[]: רשומה אחת לכל צומת באשכול, עם nodeState של הצומת (PREPARING,‏ RUNNING,‏ UPDATING או ERROR), שם המופע של Compute Engine, מאגר הצמתים והשעה שבה השתנה המצב לאחרונה.
  • ‫clusterStatus.detail: תיאור קריא של סטטוס האשכול, אם יש כזה.

תיאור של שדות ההגדרה מופיע בחומר העזר בנושא פרמטרים.

המאמרים הבאים