מעקב אחרי מדיניות פיקוח בשפה טבעית

מנוע המדיניות של ניהול סמנטי אוסף ומעבד באופן אוטומטי מדדים תפעוליים בכל פעם שהוא בודק בקשה של סוכן. אפשר להשתמש במדדים האלה כדי לראות כמה בקשות של סוכנים נשלטו, אילו פסקי דין הפיקו כללי המדיניות, כמה מסקנות של LLM נצרכו בהערכות של כללי המדיניות ומה הביצועים של צינור האכיפה מקצה לקצה.

לפני שמתחילים

מפעילים את Cloud Monitoring API ‏ (monitoring.googleapis.com) בפרויקט שבו פועל מנוע המדיניות. פרטים נוספים מופיעים במאמר בנושא הפעלת ממשקי API.

סקירה כללית

מנוע המדיניות של ניהול סמנטי מייצא מדדים ל-Cloud Monitoring באופן אוטומטי. נקודות הנתונים נפלטים בשתי שכבות:

  • שכבת הבקשות – כל בקשה של סוכן שהמנוע של המדיניות בודק. הדיווח בוצע כ-semantic_governance/request_*.
  • שכבת ההערכה – כל הערכה סמנטית של מדיניות שמנוע המדיניות מבצע על תנועה שנבדקה. יכול להיות שבמהלך הערכה אחת ייבדקו כמה כללי מדיניות שמצורפים אליה, אבל היא תיספר רק פעם אחת. הדיווח בוצע בתור semantic_governance/evaluation_*.

מדדים מובנים נתמכים

כל המדדים משויכים למשאב במעקב של מנוע מדיניות פיקוח בשפה טבעית aiplatform.googleapis.com/SemanticGovernancePolicyEngine ומזוהים באמצעות תוויות המשאבים הבאות:

  • ‫resource_container: מספר פרויקט הצרכן.
  • ‫location: האזור שבו פועל מנוע המדיניות, לדוגמה us-central1.
מדד סוג יחידה מה נמדד
aiplatform.googleapis.com/semantic_governance/request_count DELTA INT64 1{request} מספר הבקשות של סוכנים שמנוע המדיניות בדק באזור. התווית request_type מבדילה בין קריאות ל-LLM, קריאות לכלים ותנועה אחרת.
aiplatform.googleapis.com/semantic_governance/request_latencies DELTA DISTRIBUTION s הוספנו את חלוקת זמן הטעינה הכולל (wall-clock) מקצה לקצה, שנוספה על ידי מנוע המדיניות לכל בקשה שנבדקה.
aiplatform.googleapis.com/semantic_governance/evaluation_count DELTA INT64 1{evaluation} מספר ההערכות של מדיניות סמנטית שמנוע המדיניות ביצע. כל תשובה של מודל שנבדקת נספרת כהערכה אחת, ללא קשר למספר המדיניות שצורפו ונלקחו בחשבון.
aiplatform.googleapis.com/semantic_governance/evaluation_latencies DELTA DISTRIBUTION s התפלגות של זמן האחזור לכל הערכה של מנוע מדיניות.
aiplatform.googleapis.com/semantic_governance/evaluation_token_count DELTA INT64 1{token} מספר הטוקנים של מודל שפה גדול (LLM) שנצרכו על ידי הערכות של מנוע המדיניות.

תוויות לכל מדד

לכל מדד יש תוויות נוספות לפילוח:

מדד תוויות ערכים
request_count method שיטת HTTP, לדוגמה "POST", "GET".
status_code קוד סטטוס של HTTP, לדוגמה "200".
status תוצאת ההערכה הסמנטית, לדוגמה "OK", "MODEL_ERROR", "EVALUATION_ERROR", "INTERNAL_ERROR".
request_type סוג של תעבורת יציאה שנעצרת, לדוגמה "LLM", "TOOL", "OTHER", "UNKNOWN".
request_latencies method, status, request_type בדיוק כמו ב-request_count.
evaluation_count final_verdict התוצאה שהוחזרה על ידי המנוע: "ALLOW" או "DENY".
evaluation_latencies final_verdict בדיוק כמו ב-evaluation_count.
evaluation_token_count category סוג הטוקן שבו נעשה שימוש, לדוגמה "INPUT", "OUTPUT", "THINKING".

התוויות הגנריות לכל משאב (resource_container, location) זמינות בכל מדד.

הצגת המדדים

אפשר לראות את המדדים של מנוע המדיניות המובנה ב Cloud de Confiance מסוף באמצעות Metrics Explorer:

  1. כדי לקבל הרשאה להצגת מדדים ב-Metrics Explorer, צריך לבקש מהאדמין להקצות לכם את התפקיד Monitoring Viewer (roles/monitoring.viewer) בפרויקט.

  2. נכנסים אל Metrics Explorer במסוף Cloud de Confiance :

    לדף Metrics Explorer

  3. בוחרים את הפרויקט Cloud de Confiance by S3NS .

  4. לוחצים על Select a metric (בחירת מדד) כדי לפתוח את סרגל החיפוש.

  5. מזינים Semantic Governance Policy Engine בסרגל החיפוש ולוחצים על המשאב.

  6. לוחצים על קטגוריית המדדים semantic_governance ואז על מדד, כמו Evaluation Count.

  7. אפשר גם לסנן לפי תוויות (לדוגמה, final_verdict = DENY), לצבור נתונים לפי תוויות ולהתאים את טווח הזמן.

שאילתת מדדים דרך ה-API

אפשר גם לשלוח שאילתות על המדדים באמצעות Cloud Monitoring v3 API או Prometheus Query Language‏ (PromQL).

רשימה של הגדרות המדדים הזמינות

gcurl "https://monitoring.googleapis.com/v3/projects/PROJECT_ID/metricDescriptors?filter=metric.type=starts_with(%22aiplatform.googleapis.com/semantic_governance%22)"

התשובה צריכה לכלול את ההגדרות של חמשת המדדים שמפורטים בטבלה הקודמת.

שאילתה לגבי שיעור הדחיות באזור מסוים

השאילתה הבאה ב-PromQL מחזירה את החלק היחסי של הערכות מדיניות שהתוצאה שלהן היא DENY בחלון נע של 5 דקות באזור אחד:

sum(
  rate(
    aiplatform_googleapis_com:semantic_governance_evaluation_count{
      monitored_resource='aiplatform.googleapis.com/SemanticGovernancePolicyEngine',
      location='REGION',
      final_verdict='DENY'
    }
    [5m]
  )
)
/
sum(
  rate(
    aiplatform_googleapis_com:semantic_governance_evaluation_count{
      monitored_resource='aiplatform.googleapis.com/SemanticGovernancePolicyEngine',
      location='REGION'
    }
    [5m]
  )
)

מידע על טיפול בחלוקה באפס בחלונות ללא תנועה ושיטות מומלצות אחרות לשימוש במדדי יחס זמין במאמר מידע על יחסי מדדים.

יצירת התראות

אפשר להשתמש בכל אחד מהמדדים האלה במדיניות התראות. דוגמאות נפוצות:

  • שיעור MODEL_ERROR גבוה: התראה אם החלק של דגימות request_count עם status = MODEL_ERROR חורג מסף מסוים בחלון זמן מתגלגל.
  • הפרה של יעד זמן האחזור: התראה כשערך האחוזון ה-99 של evaluation_latencies חורג מזמן אחזור היעד למשך זמן מוגדר.
  • עלייה בלתי צפויה בערך DENY: התראה אם שיעור ה-DENY (ראו את הדוגמה הקודמת של PromQL) חורג מסף, מה שמצביע על אפשרות של הגדרה שגויה של מדיניות או על שינוי בדפוס התנועה.

הוראות מפורטות ליצירת התראה על חריגה מסף בכל אחד מהמדדים האלה מופיעות בדוגמה להתראות במאמר הגדרת מעקב בנושא Agent Runtime ב-Gemini Enterprise Agent Platform. ההוראות חלות ללא שינוי. צריך להחליף את המשאב המנוטר של מנוע המדיניות ואחת מהמדדים הקודמים בכל מקום שבו הדוגמה משתמשת במדד של Agent Runtime ב-Gemini Enterprise Agent Platform.

אפשר לעיין גם בסקירה כללית על התראות כדי לקבל מידע על מושגים כלליים שקשורים להתראות ב-Cloud Monitoring, ובדוגמאות למדיניות ב-JSON כדי לראות עוד דוגמאות למדיניות התראות.