Gemini Enterprise Agent Platform 內建安全分類器，可篩選所有託管 Anthropic 模型的請求，找出可能含有兒少性虐待內容 (CSAM) 圖片的內容。Gemini Enterprise Agent Platform 的疑似 CSAM 安全分類器，與 Anthropic 模型直接提供的信任與安全 (T&S) 篩選器是分開的。
本文說明疑似 CSAM 安全分類器會篩選要求和回覆的哪些部分，以及分類器封鎖要求時會發生什麼情況。
安全和內容篩選器可做為屏障，防止有害輸出內容，但不會直接影響模型行為。如要進一步瞭解模型可控性，請參閱「安全系統指示」。
不安全的提示
疑似 CSAM 分類器只會篩選 Gemini Enterprise Agent Platform 中，向 Anthropic 模型提出的要求中的圖片。疑似 CSAM 分類器不會篩選模型的輸出內容。
如果要求觸發疑似兒少性虐待內容分類器，系統會封鎖要求，並傳回 200 HTTP 狀態碼和下列訊息：
{
"promptFeedback": {
"blockReason": "PROHIBTED_CONTENT"
}
}
如果要求遭分類器封鎖，要求串流會取消，並傳回下列訊息：
"event": "vertex-block-event",
"data": {"promptFeedback": {"blockReason": "PROHIBITED_CONTENT"}}
位置資訊可用性
疑似兒少性虐待內容分類器適用於所有支援的地區。