סקירה כללית על ניראות

בעזרת יכולת התבוננות לעומק בסוכנים ב-Gemini Enterprise Agent Platform, אתם יכולים לראות את הביצועים, ההתנהגות והתקינות של הסוכנים ושל שרתי Model Context Protocol‏ (MCP) שפרסתם. מעקב אחרי מדדים מרכזיים, מעקב אחרי נתיבי ביצוע וצפייה במערכת מרובת הסוכנים כולה מאפשרים לכם לאבחן בעיות, לבצע אופטימיזציה של צריכת המשאבים ולשפר את האמינות של הסוכנים.

במסמך הזה מפורטת סקירה כללית על כלי הניטור שזמינים ב-Gemini Enterprise Agent Platform, כולל טופולוגיה ברמת המערכת, מעקב אחרי סוכנים ספציפיים ומדדים של שרת MCP.

הגדרת טלמטריה

כדי לאכלס את מרכזי הבקרה, הטופולוגיות והמעקבים של הניראות, צריך להגדיר את הסוכנים כך שישלחו נתוני טלמטריה בפורמט OpenTelemetry למערכות האחסון ב-Google Cloud Observability.

חשוב לוודא שהסביבות של הנציג ושל שרת ה-MCP מוגדרות כמו שצריך כדי לשלוח את הנתונים האלה. רכיבים מובנים של Cloud de Confiance by S3NS פולטים באופן אוטומטי נתוני טלמטריה בפורמט OpenTelemetry. לדוגמה, Model Armor פולט באופן טבעי נתוני טלמטריה סטנדרטיים, שמאפשרים לחשוף ולנטר בצורה חלקה יירוטי מדיניות בזמן אמת ישירות בנתוני המעקב, בלי צורך בכלים מותאמים אישית.

במקורות המידע הבאים מפורטות הוראות ודרישות להגדרת טלמטריה של סוכנים:

אותות ניראות (observability)

פלטפורמת הסוכנים של Gemini Enterprise מספקת יכולת תצפית באמצעות מדדים, מעקבים ויומנים.

כשבוחרים סוכן ספציפי מה-Registry, בכרטיסייה Observability מופיעה קבוצה של מרכזי בקרה ייעודיים למעקב אחרי התקינות התפעולית, הביצועים וניצול התשתית. בכרטיסייה Observability, משתמשים בתפריט הניווט שמימין כדי לעבור בין התצוגות הבאות:

  • סקירה כללית: מעקב אחרי השימוש ברמה גבוהה במסגרת הזמן שנבחרה, כולל סך כל הסשנים, מספר הפניות הממוצע בכל סשן וסך כל ההפעלות של הנציג. בתרשימים של סדרות הזמן מוצגים השימוש בטוקנים (קלט לעומת פלט), נפח התנועה הכולל של הנציג, אחוזוני זמן האחזור (p50,‏ p95,‏ p99) ושיעורי השגיאות.
  • הערכה: הצגת מסכים אונליין להערכת איכות רציפה. הווידג'טים האלה כוללים סדרות זמנים שעוקבות אחרי איכות התשובה הממוצעת, מדדי בטיחות, שיעורי הזיות ואיכות השימוש בכלים.
  • מודלים: פירוט של הביצועים לפי מודל הבסיס. אתם יכולים לעקוב אחרי זמן האחזור של p95, מספר הקריאות הכולל, שיעורי השגיאות, כשלים במכסות לקצב הגשת בקשות ושימוש בטוקנים, לפי מודלים ספציפיים.
  • כלים: מעקב אחרי הכלים והשירותים החיצוניים שמחוברים לנציג. בתצוגה הזו מפורטים זמן האחזור באחוזון ה-95, מספר הקריאות ושיעורי השגיאות לכל כלי, וגם תדירות האינטראקציות שבהן לא בוצעה קריאה לאף כלי.
  • שימוש: מספק מדדים ברמת התשתית לסביבת זמן הריצה של הנציג, כולל הקצאת מעבד (CPU) לקונטיינר, הקצאת זיכרון לקונטיינר ושימוש בטוקנים.
  • יומנים: הצגת זרם של יומני סוכנים גולמיים שאפשר לסנן, כולל חומרה, חותמות זמן וסיכומי ביצוע, כדי לפתור בעיות לעומק. צפייה ביומני הפעילות של סוכן

בנוסף למרכזי הבקרה בכרטיסייה Observability, אתם יכולים להשתמש בכרטיסייה Traces של הנציג כדי לבדוק את הביצוע של סשנים ספציפיים, שלב אחרי שלב, כולל גרפים אציקליים מכוונים של טווחי זמן וקלט/פלט. מידע נוסף מופיע במאמר הצגת מעקבים של נציגים. אפשר גם להשתמש בכרטיסייה Topology כדי לראות את יחסי התלות הספציפיים של הסוכן היחיד הזה, הנכנסים והיוצאים.

בשרתי MCP, אפשר לעקוב אחרי מספר הבקשות ומשך הבקשות באחוזון ה-95 כדי לעקוב אחרי השימוש והתגובה.

בדיקת הפעולות של הסוכן

כדי לתמוך בביקורות אבטחה ותאימות בארגון, Gemini Enterprise Agent Platform משתמשת ברישום ביומן עם שיוך כפול כדי לתעד את פעילות הסוכן ב-Cloud Logging. כשנציג מבצע פעולה או קורא לכלי בשם אדם (סמכות שהוקצתה על ידי המשתמש), יומני הביקורת ויומני הביצוע מתעדים גם את זהות הנציג שמבוססת על SPIFFE (principal://... ביומני הביקורת או spiffe://... ביומני הביצוע) וגם את הזהות של המשתמש האנושי שיזם את הפעולה. כשהסוכן פועל באופן אוטונומי במסגרת הסמכות שלו, הפעולה משויכת ביומנים ישירות לזהות הייחודית של הסוכן.

מבקרים ואדמינים של אבטחה יכולים לבודד ולבדוק אירועים שהסוכן יזם ב-Cloud Logging, על ידי סינון לפי הדגל is_agentic=true בשאילתות של היומנים. שילוב של is_agentic=true עם זהות הסוכן או עם חשבון המשתמש מאפשר לעקוב אחרי נתיבי הביצוע מקצה לקצה, ולוודא שהמדיניות נאכפת בכל האינטראקציות של הסוכן.

מוסכמות של OpenTelemetry ל-AI גנרטיבי

מעקבי סוכנים ויומני הנחיות ותגובות מסתמכים במידה רבה על המוסכמות הסמנטיות של OpenTelemetry למערכות AI גנרטיבי כדי ליצור סטנדרטיזציה של האופן שבו נתוני הטלמטריה של ה-AI הגנרטיבי נאספים, מובנים ומדווחים.

חשוב מאוד לפעול לפי המוסכמות האלה כדי לעקוב אחרי הסוכן, כי הן קובעות פורמט אוניברסלי שלא תלוי בספק לתיאור תהליכי עבודה מורכבים של סוכנים עם כמה שלבים, כמו הפעלת כלים, שלבי אחזור וצריכת טוקנים. התקן הזה מאפשר יכולת פעולה הדדית חלקה בין כלים שונים לניתוח נתונים ורכיבי backend שונים של ניטור, גם בתוך Cloud de Confiance by S3NSוגם מחוץ לו.

המאמרים הבאים