Gemini Enterprise Agent Platform menyertakan pengklasifikasi keamanan yang memfilter permintaan ke semua model Anthropic yang dihosting yang mungkin berisi gambar yang menyertakan Materi Pelecehan Seksual terhadap Anak-Anak (CSAM). Pengklasifikasi keamanan CSAM yang dicurigai di Gemini Enterprise Agent Platform terpisah dari filter Kepercayaan dan Keamanan (T&S) yang dikirimkan langsung dengan model Anthropic.
Dokumen ini membahas bagian permintaan dan respons yang difilter oleh pengklasifikasi keamanan CSAM yang dicurigai dan apa yang terjadi saat pengklasifikasi memblokir permintaan.
Filter keamanan dan konten berfungsi sebagai penghalang untuk mencegah output berbahaya, tetapi tidak secara langsung memengaruhi perilaku model. Untuk mempelajari lebih lanjut kemampuan pengarahan model, lihat Petunjuk sistem untuk keamanan.
Perintah tidak aman
Pengklasifikasi dugaan CSAM hanya memfilter gambar dalam permintaan ke model Anthropic di Gemini Enterprise Agent Platform. Pengklasifikasi dugaan CSAM tidak memfilter output model.
Permintaan yang memicu pengklasifikasi dugaan CSAM akan diblokir dan menampilkan kode status HTTP 200 dengan pesan berikut:
{
"promptFeedback": {
"blockReason": "PROHIBTED_CONTENT"
}
}
Jika permintaan diblokir oleh pengklasifikasi, aliran permintaan akan dibatalkan dan pesan berikut akan ditampilkan:
"event": "vertex-block-event",
"data": {"promptFeedback": {"blockReason": "PROHIBITED_CONTENT"}}
Ketersediaan lokasi
Pengklasifikasi dugaan CSAM tersedia di semua wilayah yang didukung.