Pembuatan gambar Gemini dan AI yang bertanggung jawab

Untuk memastikan pengalaman yang aman dan bertanggung jawab, kemampuan pembuatan gambar Agent Platform dilengkapi dengan pendekatan keamanan berlapis. Hal ini dirancang untuk mencegah pembuatan konten yang tidak pantas, termasuk materi seksual vulgar, berbahaya, kekerasan, kebencian, atau toksik.

Semua pengguna harus mematuhi Kebijakan Penggunaan Terlarang untuk AI Generatif. Kebijakan ini secara tegas melarang pembuatan konten yang:

  • Berkaitan dengan eksploitasi atau pelecehan seksual terhadap anak-anak.
  • Memfasilitasi terorisme atau ekstremisme kekerasan.
  • Memfasilitasi penggambaran adegan intim non-konsensual.
  • Memfasilitasi tindakan menyakiti diri sendiri.
  • Seksual vulgar.
  • Merupakan ujaran kebencian.
  • Mempromosikan pelecehan atau penindasan.

Jika diberi perintah yang tidak aman, model mungkin menolak membuat gambar, atau perintah atau respons yang dihasilkan mungkin diblokir oleh filter keamanan kami.

  • Penolakan model: Jika perintah berpotensi tidak aman, model mungkin menolak untuk memproses permintaan. Jika hal ini terjadi, model biasanya memberikan respons teks yang menyatakan bahwa model tidak dapat membuat gambar yang tidak aman. adalah FinishReason STOP.
  • Pemblokiran filter keamanan:
    • Jika perintah diidentifikasi sebagai berpotensi berbahaya oleh filter keamanan, API akan menampilkan BlockedReason di PromptFeedback.
    • Jika respons diidentifikasi sebagai berpotensi berbahaya oleh filter keamanan, respons API akan menyertakan FinishReason dari IMAGE_SAFETY, IMAGE_PROHIBITED_CONTENT, atau yang serupa.

Kategori kode filter keamanan

Bergantung pada filter keamanan yang Anda konfigurasi, output Anda mungkin berisi kode alasan keamanan yang mirip dengan berikut ini:

    {
      "raiFilteredReason": "ERROR_MESSAGE. Support codes: 56562880"
    }

Kode yang tercantum sesuai dengan kategori berbahaya tertentu. Pemetaan kode ke kategori adalah sebagai berikut:

Kode error Kategori keamanan Deskripsi Konten yang difilter: input perintah atau output gambar
58061214
17301594		 Anak Mendeteksi konten anak yang tidak diizinkan karena setelan permintaan API atau daftar yang diizinkan. input (perintah): 58061214
output (gambar): 17301594
29310472
15236754		 Selebritas Mendeteksi representasi fotorealistis selebritas dalam permintaan. input (perintah): 29310472
output (gambar): 15236754
62263041 Dangerous content Mendeteksi konten yang berpotensi berbahaya. input (perintah)
57734940
22137204		 Kebencian Mendeteksi topik atau konten terkait kebencian. input (perintah): 57734940
output (gambar): 22137204
74803281
29578790
42876398		 Lainnya Mendeteksi masalah keamanan lain-lain dengan permintaan. input (perintah): 42876398
output (gambar): 29578790, 74803281
39322892 Orang/Wajah Mendeteksi orang atau wajah jika tidak diizinkan karena setelan keamanan permintaan. output (gambar)
92201652 Informasi pribadi Mendeteksi Informasi Identitas Pribadi (PII) dalam teks, seperti nomor kartu kredit, alamat rumah, atau informasi serupa lainnya. input (perintah)
89371032
49114662
72817394		 Konten terlarang Mendeteksi permintaan konten terlarang. input (perintah): 89371032
output (gambar): 49114662, 72817394
90789179
63429089
43188360		 Sexual Mendeteksi konten yang bersifat seksual. input (perintah): 90789179
output (gambar): 63429089, 43188360
78610348 Toxic Mendeteksi topik atau konten toksik dalam teks. input (perintah)
61493863
56562880		 Kekerasan Mendeteksi konten terkait kekerasan dari gambar atau teks. input (perintah): 61493863
output (gambar): 56562880
32635315 Vulgar Mendeteksi topik atau konten vulgar dari teks. input (perintah)
64151117 Selebritas atau anak Mendeteksi representasi fotorealistis selebritas atau anak yang melanggar kebijakan keamanan Google. input (perintah)
output (gambar)

Apa langkah selanjutnya?

Lihat link berikut untuk mengetahui informasi selengkapnya tentang pembuatan gambar Gemini: