Gemini Enterprise Agent Platform כולל מסווג בטיחות שמסנן בקשות לכל המודלים של Anthropic שמתארחים, שעשויים להכיל תמונות עם תוכן ויזואלי של התעללות מינית בילדים (CSAM). מסווג הבטיחות של Gemini Enterprise Agent Platform לזיהוי חשד ל-CSAM נפרד ממסנני המהימנות והבטיחות (T&S) שמגיעים ישירות עם המודלים של Anthropic.
במסמך הזה מוסבר אילו חלקים בבקשה ובתגובה מסווג הבטיחות של תוכן שחשוד כ-CSAM מסנן, ומה קורה כשהמסווג חוסם בקשה.
מסנני הבטיחות ומסנני התוכן פועלים כמחסום שמונע פלט מזיק, אבל הם לא משפיעים ישירות על ההתנהגות של המודל. במאמר הזה מוסבר איך להנחות את המודל לשמור על בטיחות.
הנחיות לא בטוחות
המסווג של חשד ל-CSAM מסנן רק את התמונות בבקשות למודלים של Anthropic ב-Gemini Enterprise Agent Platform. המסווג של חשד ל-CSAM לא מסנן את הפלט של המודל.
בקשות שמפעילות את הסיווג של חשד ל-CSAM נחסמות, ומוחזר קוד סטטוס HTTP 200 עם ההודעה הבאה:
{
"promptFeedback": {
"blockReason": "PROHIBTED_CONTENT"
}
}
אם הבקשה נחסמת על ידי המסווג, הבקשה מבוטלת ומוחזרת ההודעה הבאה:
"event": "vertex-block-event",
"data": {"promptFeedback": {"blockReason": "PROHIBITED_CONTENT"}}
זמינות לפי מיקום
המסווג של תוכן שחשוד כ-CSAM זמין בכל האזורים הנתמכים.