מעקב אחר מקרים של שימוש לרעה

מודלים של Google שלא מסווגים כ'מודלים מתקדמים של Google' או כ'AI מתקדם'

כפי שמתואר בסעיף 4.3 'בטיחות ושימוש לרעה ב-AI גנרטיבי' בתנאים ובהגבלות של Google Cloud Platform, Google משתמשת בתהליך הבא כדי לזהות שימוש לרעה פוטנציאלי והפרות של המדיניות בנושא שימוש מקובל והמדיניות בנושא שימוש אסור כחלק מהשירותים של AI גנרטיבי שהיא מספקת ללקוחות.

  • זיהוי אוטומטי: Google משתמשת בסיווגי בטיחות אוטומטיים כדי לזהות ניצול לרעה והפרות פוטנציאליים.

  • רישום ביומן ובדיקה אנושית של הנחיות: אם מסווגי הבטיחות האוטומטיים מזהים פעילות חשודה שנדרשת לגביה בדיקה נוספת כדי לוודא אם לקוח הפר את המדיניות שלנו, Google עשויה לרשום ביומן את ההנחיות של הלקוח למטרה היחידה של בדיקה אם התרחשה הפרה של מדיניות השימוש המקובל או של מדיניות השימוש האסור. הנתונים האלה לא ישמשו לאימון או לכוונון של מודלים של AI או למידת מכונה. הנתונים האלה מאוחסנים באופן מאובטח למשך עד 90 יום באותו אזור או באותם מספר אזורים שהלקוח בחר לפרויקט שלו, בהתאם להבטחות של Cloud de Confiance by S3NS , כמו מיקום אחסון הנתונים, Access Transparency ו-VPC Service Controls. יומני הפעילות של ההנחיות לצורך מעקב אחרי התנהלות פוגעת לא מוצפנים באמצעות מפתחות הצפנה בניהול הלקוח (CMEK).

    • פעולה: גוגלרים מורשים עשויים לבדוק את ההנחיות שסומנו, ואולי יפנו ללקוח כדי לקבל הבהרה. אם הלקוח לא יטפל בהתנהגות הזו, או אם יהיו מקרים חוזרים או חמורים של ניצול לרעה, יכול להיות שנשעה או נבטל את הגישה של הלקוח ל-Gemini Enterprise Agent Platform או לשירותי Cloud de Confiance by S3NS.

    • השירותים שכלולים בהיקף: שירותי ה-AI הגנרטיבי של Google.

    • לקוחות רלוונטיים: רק לקוחות שהשימוש שלהם ב- Cloud de Confiance by S3NS כפוף לתנאים ולהגבלות של Google Cloud Platform. כלומר, לקוחות עם הסכם ראשי של Cloud de Confiance by S3NS פטורים כברירת מחדל מתיעוד הנחיות לצורך מעקב אחרי ניצול לרעה.

מודלים פורצי דרך של Google

כפי שמפורט בסעיף 34 של התנאים הספציפיים לשירות, "מודלים פורצי דרך של Google", Google משתמשת בתהליך הבא כדי לזהות ניצול לרעה והפרות של ההסכמים שלה, כולל מדיניות השימוש המקובל והמדיניות בנושא שימוש אסור, כחלק מהשירותים של AI גנרטיבי ללקוחות.

  • רישום ביומן של הנחיות ותשובות לצורך מעקב אחרי ניצול לרעה: Google עשויה לתעד ביומן הנחיות ותשובות של לקוחות, רק כדי להבטיח שימוש בטוח במודלים פורצי הדרך של Google ועמידה בתנאי ההסכם של הלקוח עם Google ("המטרה" שמפורטת בתנאים הספציפיים לשירות). העיבוד הזה כולל עיבוד אוטומטי ליצירת שינגלים אנונימיים וניתוח דפוסי שימוש אך ורק למטרה שמתוארת למעלה. הנתונים האלה לא ישמשו לאימון או לשיפור של מודלים של AI/ML. היומנים האלה מאוחסנים באופן מאובטח בסביבת הלקוח למשך 30 ימים לכל היותר. יומני ההנחיות למטרות מעקב אחרי ניצול לרעה לא מוצפנים באמצעות מפתחות הצפנה בניהול הלקוח (CMEK). הלקוחות לא מחויבים על הרישום הזה ביומן.

  • תיעוד ניצול לרעה בהתאם ל-ZDR ללקוחות עם הסכמי שירות ראשיים של Cloud: סעיף 34 "מודלים פורצי דרך של Google" בתנאים הספציפיים לשירות לא נותן ל-Google את הזכות לבצע בדיקה אנושית. לכן, היומנים האלה עומדים בתקני ZDR ללקוחות עם הסכמי Cloud Master, כי הם מאוחסנים בסביבה של הלקוח ופטורים מבדיקה אנושית.

  • בדיקה אנושית של יומני שימוש לרעה עבור לקוחות שמוגנים על ידי Cloud de Confiance by S3NS תנאים באינטרנט: כפי שמפורט בסעיף 4.3 'בטיחות ושימוש לרעה ב-AI גנרטיבי' בתנאים ובהגבלות של Google Cloud Platform,‏ Google עשויה גם לבצע בדיקה אנושית של הנחיות שסווגו על ידי מסווגי השימוש לרעה שלנו, אך ורק כדי לקבוע אם התרחשה הפרה של מדיניות השימוש המקובל או של מדיניות השימוש האסור. הנתונים האלה לא ישמשו לאימון או לכוונון של מודלים של AI או למידת מכונה. רק לקוחות שהשימוש שלהם ב-Cloud de Confiance by S3NS כפוף לתנאים ולהגבלות של Google Cloud Platform נכללים בהיקף של הבדיקה האנושית. כלומר, לקוחות עם Cloud de Confiance by S3NS הסכם ראשי פטורים כברירת מחדל מבדיקה אנושית לצורך מעקב אחרי ניצול לרעה.

  • המודלים הרלוונטיים: Gemini 4 Argon (Cyber Permissive)

  • השירותים שכלולים בהיקף: שירותי ה-AI הגנרטיבי של Google.

מודלים מתקדמים של AI שלא שייכים ל-Google

כפי שמפורט בנספח בנושא בטיחות מתקדמת ב-AI,‏Cloud de Confiance by S3NS הטמיעה מערכת קפדנית יותר למעקב אחר שימוש לרעה במודלים שמוגדרים כ-AI מתקדם.

  • רישום ביומן של הנחיות ותשובות: כל ההנחיות והתשובות יירשמו ביומן ויישמרו בצורה מאובטחת למשך עד 30 ימים, למטרה היחידה של מעקב אחר שימוש לרעה. הנתונים האלה לא ישמשו לאימון או לשיפור של מודלים של AI/ML. הנתונים האלה מאוחסנים באותו אזור או במספר אזורים שהלקוח בחר לפרויקט שלו, והם עומדיםCloud de Confiance by S3NS בהתחייבויות כמו מיקום אחסון הנתונים, Access Transparency ו-VPC Service Controls. יומני ההנחיות והתשובות למטרות מעקב אחרי ניצול לרעה לא מוצפנים באמצעות מפתחות הצפנה בניהול הלקוח (CMEK). יכול להיות שלא תהיה אפשרות לבטל את הרישום ביומן של ההנחיות והתשובות כשמשתמשים בתכונות מתקדמות של AI. כדי לקבל הבהרות, אפשר לפנות לצוות ניהול החשבון.

  • חקירה אוטומטית: Google פורסת כלי חקירה אוטומטיים, כולל מסווגי בטיחות, כדי לנתח נתונים שנרשמו ביומן ולזהות ניצול לרעה והפרות פוטנציאליים.

  • פעולה: עובדי Google מורשים יכולים לבדוק את ההנחיות שסומנו ולפנות ללקוח כדי לקבל הבהרות. אם לא תטפלו בהתנהגות או בהתנהלות פוגעת חוזרת או חמורה, יכול להיות שנשעה או נבטל את הגישה של הלקוח ל-Gemini Enterprise Agent Platform או לשירותים של Cloud de Confiance by S3NS.

  • שירותים בהיקף: מודלים ותכונות שמסומנים כ-AI מתקדם, כולל:

    • ‫Claude Mythos (כל הגרסאות)
    • ‫Claude Fable (כל הגרסאות)
    • ‫Claude Opus >=4.7 ו-Sonnet >=5 כשהערך של advanced_ai_enabled מוגדר ל-true, לשימוש ב-Cyber Verification Program ‏(CVP) של Anthropic. כל שימוש אחר במודלים האלה לא נכלל בנספח בנושא בטיחות ב-AI מתקדם. כדי להירשם ל-CVP ולהפעיל אותו במודלים של Claude, קראו את המאמר תוכנית האימות בתחום הסייבר של Claude.

  • ביטול הסכמה מצד הלקוח: יכול להיות שלא תהיה אפשרות לשמירת נתונים אפסית כשמשתמשים בתכונות מתקדמות מסוימות של AI. לקבלת הבהרות, פנו לצוות ניהול החשבון. בקטע הבא מוסבר איך לנהל את אישור הנספח.

צריך להביע הסכמה לנספח בנושא בטיחות מתקדמת של AI פעם אחת לכל פרויקט, לפני שאפשר להפעיל מודלים מתקדמים של AI בפרויקט הזה. הסכמה מתבצעת ב-Model Garden דרך Cloud de Confiance המסוף לפני שמפעילים מודל AI מתקדם כלשהו.

משתמשים שמביעים הסכמה צריכים לאשר שהם פועלים בשם הארגון שלהם, ושיש להם את הסמכות הנדרשת כדי לחייב את הלקוח לעמוד בהתחייבויות של הנספח. כדי להביע הסכמה, למשתמש צריכה להיות ההרשאה aiplatform.consents.update שכלולה בתפקיד aiplatform.admin.

ניהול הנספח בנושא בטיחות ב-AI מתקדם

כדי למנוע מהמשתמשים שלכם להסכים לתיקון הזה, האדמינים יכולים:

תנאים ספציפיים לשותף

השימוש במודלים של שותפים ב-Gemini Enterprise Agent Platform כפוף לתנאים ספציפיים של השותפים.

Anthropic

השימוש במודלים של Anthropic בפלטפורמת הסוכנים של Gemini Enterprise כפוף לתנאים המסחריים של Anthropic או להסכם רלוונטי אחר עם Anthropic. השימוש ב-Anthropic Advanced AI כפוף לסעיף F בתנאים הספציפיים של השירות של Anthropic. המערכות למעקב אחרי ניצול לרעה שמתוארות בדף הזה משמשות כדי לוודא שהמשתמשים פועלים בהתאם לתנאים האלה.

שמירת נתונים

ההנחיות והתשובות ב-Anthropic Claude Fable 5 ב-Google Cloud וב-Mythos 5 נשמרות למשך עד 30 ימים. כדי להשתמש ב-Claude Fable 5 ב-Google Cloud וב-Mythos 5, כמו שנדרש על ידי Anthropic, צריך להפעיל את שיתוף הנתונים האלה עם Anthropic לצורך מעקב אחר שימוש לרעה.

המאמרים הבאים