סקירה כללית של זיהוי אנומליות אצל סוכנים

התכונה "זיהוי אנומליות אצל סוכנים" מספקת שכבת פיקוח וביקורת דינמית שמבוססת על הסקת מסקנות, ומיועדת במיוחד לסוכני AI אוטונומיים בארגונים. בניגוד לכלי אבטחה רגילים לאפליקציות, שרק סורקים קוד סטטי כדי לאתר נקודות חולשה או בודקים את התנועה ברשת בהיקף, התכונה "זיהוי אנומליות אצל סוכנים" בודקת את עקבות החשיבה הרציונלית בזמן אמת, את האינטראקציות עם הכלים ואת תהליכי ההפעלה של הסוכנים כדי לזהות כוונות חשודות, הפרות מדיניות ואנומליות בהתנהגות.

הליבה של זיהוי אנומליות אצל סוכנים היא מסגרת לניתוח אנומליות בכמה שכבות, שמנתחת את הפעילות בסשנים של הסוכנים באופן אסינכרוני. השירות מקבל את היומנים ואת נתוני המעקב אחרי הביצוע של OpenTelemetry, וקובע אם הסוכן פועל מחוץ לגבולות שהוגדרו לו בלי להוסיף זמן אחזור לביצוע בתהליכי העבודה של Agentic Workflows הפעיל.

יתרונות מרכזיים

התכונות של זיהוי אנומליות אצל סוכנים:

הטבה או תכונה תיאור
אבטחה אסינכרונית כמעט בזמן אמת טלמטריה (יומנים ועקבות) מעובדת מחוץ לפס, כדי לשמור על זמני תגובה מהירים של הסוכן. מודל ניתוח רב-שכבתי מאפשר לשמור על יעילות עלויות עם הערכות כמעט בזמן אמת.
ניתוח כוונות שמבוסס על נימוקים ניתוח האנומליות מתבצע על עקבות שסומנו, כדי להבחין בין לוגיקה עסקית מורכבת לבין פעולה לא מורשית.
זיהוי איומים מקיף מבצע ביקורות על סיכוני אבטחה ספציפיים לסוכנים, ללא צורך בהגדרה, באמצעות גלאים שמוגדרים כברירת מחדל ומתעדים דפוסי איומים שמפורטים ב-OWASP Top 10 for Agentic Security Threats, כולל שימוש לרעה בכלי, ניצול לרעה של הרשאות, כשלים מדורגים של סוכנים, התנהגויות לא רצויות וניצול משאבים.
שילוב עם Security Command Center ממצאי האנומליות מוצגים ישירות ב-Security Command Center לניהול אבטחה מרכזי, לחיפוש ולמעקב אחר אירועים. למידע נוסף על Security Command Center, קראו את הסקירה הכללית של Security Command Center. הערה: כדי להשתמש בשילוב הזה, צריך להיות לכם אחד מהמסלולים שנתמכים ב-Security Command Center: Standard, ‏ Premium או Enterprise.

מערכת זיהוי רב-שכבתית

כדי לאזן בין עלות הבדיקה לבין היקף הבדיקה, המערכת לזיהוי אנומליות אצל סוכנים משתמשת במערכת זיהוי רב-שכבתית שמנתחת את יומני הפעילות של סוכנים כדי לזהות סשנים חריגים ולדווח עליהם:

  • שכבה 1 (גלאי ML קלי משקל): מודלים סטטיסטיים ומודלים קלי משקל של למידת מכונה במהירות גבוהה מזהים חריגות ראשוניות ומגמות טלמטריה במורד הזרם כדי לבצע דגימת משנה של תנועת הבסיס.
  • שכבה 2 (ניתוח חריגות): ניתוח חריגות מעריך סשנים שסומנו באופן אסינכרוני כדי להציג החלטות לגבי איומים והסברים בשפה טבעית.
  • שכבה 3 (ניתוח ברמת ההפעלה): ניתוח מעמיק של הפעלות של כלים ספציפיים, מצבי הפעלה והיסטוריית פרמטרים בתוך מעקב השיחה.

זמינות

התכונה 'זיהוי אנומליות אצל סוכנים' זמינה לסוכנים שעומדים בקריטריונים הבאים. סוכנים שעומדים בקריטריונים מזוהים באופן אוטומטי כסוכנים במעקב על ידי "זיהוי אנומליות אצל סוכנים" (השירות מודע לקיום של הסוכן, אבל לא מריץ שום דבר ביומנים של הסוכן ולא כרוך בעלויות). כדי להפעיל ניתוח אנומליות פעיל ביומנים ובעקבות של סוכן מנוטר, צריך להפעיל אותו באופן מפורש לזיהוי אנומליות אצל סוכנים.

  • זמן ריצה תואם: נפרס ב-Agent Runtime.
  • גרסת ADK: נוצרה באמצעות הערכה לפיתוח סוכנים (ADK) ל-Python, גרסה 1.2 ואילך. מומלץ להשתמש בגרסה 2.1.0 ואילך.
  • קטגוריות של רישום ביומן וניראות (observability): זיהוי אנומליות אצל סוכנים זמין כרגע לקטגוריות בארה"ב (במספר אזורים) ובאיחוד האירופי (במספר אזורים). קטגוריות ה-logging וה-observability צריכות להיות באותו אזור במספר אזורים. קטגוריית הרישום _Default נמצאת במיקום global, אלא אם הארגון שינה את ברירת המחדל. global פועלת רק עם אזורים מרובים בארה"ב. באיחוד האירופי, משתמשים בקטגוריה לרישום ביומן במיקום eu.
  • תיעוד נתוני טלמטריה: מעקב ורישום ביומן של OpenTelemetry מופעלים באמצעות ה-ADK.
  • תיעוד מטא-נתונים: הטלמטריה הגולמית מוגדרת לתעד את תוכן הקלט של ההנחיה ואת תוכן הפלט של התשובה.
  • מעקב פעיל: הדגל enable_tracing לא מוגדר באופן מפורש לערך false בהגדרות של ה-ADK.
  • הרשאות וגישה: לחשבונות השירות של הסורקים האזוריים יש הרשאות קריאה מספיקות ליומנים הפעילים ולמאגרי המידע של כלי המעקב. בקטגוריית היומנים צריך להפעיל את Observability Analytics ואת ניתוח הנתונים של היומנים.
  • זרימת נתונים פעילה: לסוכן חייבים להיות נתונים פעילים. המערכת לא יכולה לאמת את ההגדרות או לרשום סוכן שאין לו נתוני טלמטריה.

סוכנים שלא עומדים בקריטריונים האלה לא מזוהים על ידי זיהוי אנומליות אצל סוכנים ולא מופיעים ברשימת הסוכנים המנוטרים שאפשר להפעיל.

קטגוריות של איומים

התכונה "זיהוי אנומליות אצל סוכנים" עוקבת באופן רציף אחרי הפעילויות של הסוכנים ומסמנת סיכונים בקטגוריות מרכזיות, בהתאם למסגרות האבטחה של הסוכנים:

  • שימוש לרעה בכלים (OWASP ASI02): זיהוי מקרים שבהם נעשה שימוש בכלים בדרכים לא בטוחות או לא מכוונות, כמו שרשור כלים מסוכן, שינוי פרמטרים או החדרת פרומפטים עקיפה.
  • ניצול לרעה של הרשאות זהות (OWASP ASI03): זיהוי פעולות לא מורשות שנובעות מהענקת גישה דינמית, זיוף זהות, הסלמת זיכרון או פרצות אבטחה מסוג Confused Deputy.
  • ‫Agentic cascading failures (OWASP ASI08): מעקב אחרי התפשטות תקלות, לולאות אינסופיות של הרצה, ניסיונות חוזרים מתנדנדים והגברות של לולאות משוב ב-Agentic Workflows.
  • ‫סוכנים זדוניים (OWASP ASI10): זיהוי מקרים שבהם סוכן נוטש את התפקיד המוצהר שלו, עוקף את אמצעי ההגנה או חורג מההוראות שהוקצו למערכת.
  • ניצול יתר של משאבים: זיהוי של צריכת יתר מכוונת או בלתי מבוקרת של משאבי מחשוב, טוקנים של מודלים גדולים של שפה (LLM) או רוחב פס ברשת.

הצטרפות לניסיון של זיהוי אנומליות אצל סוכנים

כדי להביע הסכמה לניסיון של זיהוי אנומליות אצל סוכנים, צריך למלא את הטופס הזה: טופס בקשה לגישה לזיהוי אנומליות אצל סוכנים.

איך משתמשים בתכונה 'זיהוי אנומליות אצל סוכנים'

אם כבר הצטרפתם לשימוש בתכונה 'זיהוי אנומליות אצל סוכנים', תוכלו לקרוא את הוראות השימוש במאמר בנושא זיהוי אנומליות אצל סוכנים.