יצירת תמונות ב-Gemini ואתיקה של בינה מלאכותית

כדי להבטיח חוויה בטוחה ואחראית, יכולות יצירת התמונות של Agent Platform מצוידות בגישה רב-שכבתית לאבטחה. המטרה היא למנוע יצירה של תוכן בלתי הולם, כולל תוכן מיני בוטה, מסוכן, אלים, שמכיל דברי שטנה או רעיל.

כל המשתמשים חייבים לפעול בהתאם למדיניות בנושא שימוש אסור ב-AI גנרטיבי. המדיניות הזו אוסרת באופן מוחלט יצירה של תוכן שעונה על הקריטריונים הבאים:

• שקשור להתעללות מינית בילדים או לניצול של ילדים.
• שמעודד קיצוניות אלימה או טרור.
• עושה שימוש בתוכן ויזואלי אינטימי שנוצר או שותף ללא הסכמה (NCII).
• שמעודד פגיעה עצמית.
• תוכן מיני בוטה.
• התוכן מהווה דברי שטנה.
• מעודד הטרדה או בריונות.

אם תספקו למודל הנחיה לא בטוחה, יכול להיות שהוא יסרב ליצור תמונה, או שההנחיה או התשובה שנוצרה ייחסמו על ידי מסנני הבטיחות שלנו.

• דחיית בקשה על ידי המודל: אם ההנחיה עלולה להיות לא בטוחה, יכול להיות שהמודל ידחה את הבקשה. אם זה קורה, בדרך כלל המודל ייתן תגובה טקסטואלית שאומרת שהוא לא יכול ליצור תמונות לא בטוחות. הערך בעמודה FinishReason הוא STOP.
• המסנן של בטיחות השימוש חוסם:
  • אם מסנן הבטיחות מזהה שההנחיה עלולה להזיק, ה-API מחזיר BlockedReason ב-PromptFeedback.
  • אם מסנן בטיחות מזהה שהתשובה עלולה להיות מזיקה, התשובה של ה-API כוללת את השדה FinishReason עם הערך IMAGE_SAFETY, IMAGE_PROHIBITED_CONTENT או ערך דומה.

קטגוריות של קוד מסנן בטיחות

בהתאם למסנני הבטיחות שהגדרתם, הפלט עשוי להכיל קוד סיבת בטיחות שדומה לזה:

    {
      "raiFilteredReason": "ERROR_MESSAGE. Support codes: 56562880"
    }

הקוד שמופיע ברשימה תואם לקטגוריה ספציפית של תוכן מזיק. המיפויים של הקוד לקטגוריה הם:

מה השלב הבא?

מידע נוסף על יצירת תמונות ב-Gemini זמין בקישורים הבאים:

• יצירת תמונות באמצעות Gemini

• עריכת תמונות באמצעות Gemini

• מגבלות על יצירת תמונות באמצעות Gemini

• שיטות מומלצות ליצירת תמונות באמצעות Gemini