הצגת טווחים של מעקב אחר הגנה מוגברת על המודל

מאמרי עזרה זה מתאר את יחידות לוגיות למעקב של הגנה מוגברת על המודל בתוך יומני מעקב ואיך לצפות בפרטים שלהם. מידע נוסף על עקבות זמין במאמר View agent traces.

מידע על Cloud Trace ויכולת התבוננות לעומק בסוכנים

מעקב מייצג את הנתיב של בקשה בחלקים של האפליקציה המבוזרת. כלומר, כל מעקב מייצג פעולה אחת מקצה לקצה. העקבות מורכבים מטווחים, שהם רשומות של פונקציה או פעולה יחידה, ולכן הם מאפשרים לעקוב אחרי זרימת הבקשות ולבדוק את נתוני ההשהיה. המידע הזה יכול לעזור לכם לזהות את הגורם העיקרי לבעיה.

‫Cloud Trace הוא מערכת מעקב מבוזרת ל- Cloud de Confiance by S3NS, והוא מספק תכונות לעיון בנתוני מעקב או לניתוח נתוני מעקב באמצעות SQL. עם זאת, הרבהCloud de Confiance שירותים, כמו Application Monitoring ו-Agent Registry, יכולים להציג את הנתונים שמנוהלים על ידי Cloud Trace. השירותים האלה מאפשרים לכם לראות נתוני מעקב בהקשר של השירות שבו אתם משתמשים.

לפני שמתחילים

  1. מפעילים את Cloud Trace,‏ Cloud Logging,‏ Telemetry ו-הגנה מוגברת על המודל APIs, אם הם עדיין לא מופעלים.

    תפקידים שנדרשים להפעלת ממשקי API

    כדי להפעיל ממשקי API, נדרשת ההרשאה serviceusage.services.enable. אם יצרתם את הפרויקט, סביר להניח שכבר יש לכם את ההרשאה הזו דרך התפקיד 'בעלים' (roles/owner). אחרת, תוכלו לקבל את ההרשאה הזו דרך התפקיד 'אדמין בממשק Service Usage' (roles/serviceusage.serviceUsageAdmin). איך מקצים תפקידים

    הפעלת ממשקי ה-API

  2. הגדרת מעקב לסוכן.
  3. מגדירים את הגנה מוגברת על המודל בשער או בCloud de Confiance שרת MCP.

התפקידים הנדרשים

כדי לקבל את ההרשאות שדרושות להצגת נתוני מעקב, צריך לבקש מהאדמין להקצות לכם את תפקידי ה-IAM הבאים בפרויקט:

להסבר על מתן תפקידים, ראו איך מנהלים את הגישה ברמת הפרויקט, התיקייה והארגון.

יכול להיות שאפשר לקבל את ההרשאות הנדרשות גם באמצעות תפקידים בהתאמה אישית או תפקידים מוגדרים מראש.

מידע על תפקידים נוספים שאולי תצטרכו מופיע במאמרים בקרת גישה ל-Cloud Trace ובקרת גישה ל-Cloud Logging.

מטענים ייעודיים (payloads) נתמכים

רשימת המטענים הייעודיים (payloads) הנתמכים מופיעה במאמר מטענים ייעודיים (payloads) נתמכים ולא נתמכים.

אם הבקשה מכילה מטען ייעודי (payload) שלא נתמך, Model Armor יוצר טווח עם שגיאה.

שמות וסיווגים של טווחים של Model Armor

אלה טווחי הגנה מוגברת על המודל שזמינים:

  • טווח ההורה: apply_guardrail "Google Cloud Model Armor"
  • טווח צאצא: Request Path
  • טווח צאצא: Response Path

בקטעים הבאים מפורטים כל המאפיינים האפשריים של טווח Model Armor. לא כל המאפיינים מופיעים בכל טווח. יכול להיות ששמות המאפיינים האלה ישתנו.

מאפיינים של טווח ראשי

ל-span האב, apply_guardrail "Google Cloud Model Armor", יש את המאפיינים הבאים:

  • ‫cloud.provider: ספק שירותי הענן שמשויך לפעולה.
  • ‫cloud.region: Cloud de Confiance by S3NS האזור שבו התרחשה הפעולה.
  • ‫gcp.project_id: מזהה הפרויקט שבו התרחשה הפעולה.
  • ‫rpc.system: המסגרת או הפרוטוקול הבסיסיים של קריאה לשירות מרוחק (RPC) ששימשו לפעולה – לדוגמה, grpc.
  • ‫service.name: Cloud de Confiance השירות שמשויך לפעולה. במקרה של טווחים של Model Armor, הערך של השדה הזה הוא modelarmor.

מאפיינים של נתיב הבקשה

ל-Request Path child span יש את המאפיינים הבאים:

  • ‫gen_ai.security.target.type: סוג התוכן או הפעולה שהגדרתם עבורם את אמצעי הבקרה. בטווח Request Path, הערך הזה תמיד יהיה input.
  • ‫gen_ai.security.decision.type: פסק הדין או הפעולה ש-Model Armor החיל. הערך modify מציין ש-Model Armor ערך צנזורה (הסרת פרטים מזהים) של נתונים רגישים מהתוכן בהתאם לתבנית שסופקה.
  • ‫gen_ai.security.decision.code: קוד מספרי של החלטת האבטחה.
  • ‫gen_ai.security.decision.reason: סיבה קריאה למשתמש להחלטה.
  • gen_ai.security.policy.id: שם המשאב המלא של תבנית הגנה מוגברת על המודל בפורמט projects/PROJECT_ID/locations/LOCATION/templates/MODEL_ARMOR_TEMPLATE_ID.
  • ‫gen_ai.security.policy.name: השם של תבנית הגנה מוגברת על המודל ששימשה לפעולה.
  • ‫gcp.modelarmor.filter.match.state: האם התוכן הפר את אחד מהמסננים של Model Armor (שנקראים גם גלאים).
  • ‫gcp.modelarmor.violations: מסנני הגנה מוגברת על המודל שהתוכן הפר. הערך deidentified מציין ש-Model Armor הסיר נתונים רגישים מהתוכן בהתאם לתבנית שסופקה.
  • ‫gcp.modelarmor.rai.violations: הקטגוריות של אתיקה של בינה מלאכותית שהתוכן הפר. מידע נוסף זמין במאמר בנושא מסנן הבטיחות של אתיקה של בינה מלאכותית.
  • ‫gcp.modelarmor.sdp.info_types: סוגי הנתונים הרגישים (כמו EMAIL_ADDRESS או PHONE_NUMBER) שזוהו על ידי מסנני Sensitive Data Protection.
  • error.type: מזהה של השגיאה שנתקלה.

מאפייני נתיב התגובה

ל-Response Path child span יש את המאפיינים הבאים:

  • ‫gen_ai.security.target.type: סוג התוכן או הפעולה שהגדרתם עבורם את אמצעי הבקרה. בטווח Response Path, הערך הזה הוא תמיד output.
  • ‫gen_ai.security.decision.type: פסק הדין או הפעולה ש-Model Armor החיל. הערך modify מציין שהגנה מוגברת על המודל ערך (הסיר פרטי זיהוי) מידע אישי רגיש מהתוכן בהתאם לתבנית שסופקה.
  • ‫gen_ai.security.decision.code: קוד מספרי של החלטת האבטחה.
  • ‫gen_ai.security.decision.reason: סיבה קריאה למשתמש להחלטה.
  • gen_ai.security.policy.id: שם המשאב המלא של תבנית הגנה מוגברת על המודל בפורמט projects/PROJECT_ID/locations/LOCATION/templates/MODEL_ARMOR_TEMPLATE_ID.
  • ‫gen_ai.security.policy.name: השם של תבנית הגנה מוגברת על המודל ששימשה לפעולה.
  • ‫gcp.modelarmor.filter.match.state: האם התוכן הפר את אחד מהמסננים של Model Armor (שנקראים גם גלאים).
  • ‫gcp.modelarmor.violations: מסנני הגנה מוגברת על המודל שהתוכן הפר. הערך deidentified מציין ש-Model Armor הסיר נתונים רגישים מהתוכן בהתאם לתבנית שסופקה.
  • ‫gcp.modelarmor.rai.violations: הקטגוריות של אתיקה של בינה מלאכותית שהתוכן הפר. מידע נוסף זמין במאמר בנושא מסנן הבטיחות של אתיקה של בינה מלאכותית.
  • ‫gcp.modelarmor.sdp.info_types: סוגי הנתונים הרגישים (כמו EMAIL_ADDRESS או PHONE_NUMBER) שזוהו על ידי מסנני Sensitive Data Protection.
  • error.type: מזהה של השגיאה שנתקלה.

הצגת הפרטים של טווח Model Armor

כדי לראות את טווח ה-Model Armor ואת הפרטים שלו, כולל המאפיינים וה-DAG שלו, פועלים לפי השלבים הבאים:

  1. במסוף Cloud de Confiance , נכנסים אל Agent Registry.

    כניסה ל-Agent Registry

  2. בוחרים את הפרויקט הרצוי.
  3. לוחצים על השם של נציג התמיכה.
  4. לוחצים על הכרטיסייה Traces (עקבות).
  5. לוחצים על המזהה של העקבה שרוצים לראות. אם ה-trace כולל טווח של Model Armor, הוא יכלול את הטווח apply_guardrail "Google Cloud Model Armor".

  6. עיון בנתוני ה-trace:

    • כדי לראות את המעקב כגרף אציקלי מכוון (DAG), לוחצים על התצוגה Graph. בתצוגה הזו מוצג מעקב הביצוע של סוכן כתרשים של צמתים וקישורים. תרשימי DAG מדגישים את יחסי הסיבתיות והתלות בין טווחי מעקב שונים, ומראים איך פעולה אחת מפעילה את הפעולה הבאה. כל צומת בתרשים הוא טווח.
    • כדי לראות את המעקב כציר זמן, לוחצים על התצוגה ציר זמן. כל עמודה בציר הזמן מייצגת טווח.

  7. לוחצים על טווח כדי לראות את המאפיינים שלו.

לחלופין, אפשר ללחוץ על הצגה ב-Cloud Trace כדי לראות את כל טווחי הזמן בפרויקט באמצעות כלי הניתוח של Trace. החלת מסננים של טווחים כדי לחפש את הטווח apply_guardrail "Google Cloud Model Armor".

המאמרים הבאים