Gemini Enterprise Agent Platform inclut un classificateur de sécurité qui filtre les requêtes adressées à tous les modèles Anthropic hébergés susceptibles de contenir des images d'abus sexuels sur mineurs. Le classificateur de sécurité des contenus d'abus sexuels sur mineurs suspectés de Gemini Enterprise Agent Platform est distinct des filtres de confiance et de sécurité (T&S) fournis directement avec les modèles d'Anthropic.
Ce document décrit les parties de la requête et de la réponse que le classificateur de sécurité des contenus d'abus sexuels sur mineurs suspectés filtre, ainsi que ce qui se passe lorsque le classificateur bloque une requête.
Les filtres de sécurité et de contenu agissent comme une barrière pour empêcher la génération de résultats nuisibles, mais n'influencent pas directement le comportement du modèle. Pour en savoir plus sur la directionnalité du modèle, consultez Instructions système pour la sécurité.
Requêtes non sécurisées
Le classificateur de contenus d'abus sexuels sur mineurs suspectés ne filtre que les images des requêtes envoyées aux modèles Anthropic dans Gemini Enterprise Agent Platform. Le classificateur de contenus d'abus sexuels sur mineurs suspectés ne filtre pas les sorties du modèle.
Les requêtes qui déclenchent le classificateur de contenus d'abus sexuels sur mineurs suspectés sont bloquées et renvoient un code d'état HTTP 200 avec le message suivant :
{
"promptFeedback": {
"blockReason": "PROHIBTED_CONTENT"
}
}
Si la requête est bloquée par le classificateur, le flux de requêtes est annulé et le message suivant est renvoyé :
"event": "vertex-block-event",
"data": {"promptFeedback": {"blockReason": "PROHIBITED_CONTENT"}}
Disponibilité selon l'emplacement
Le classificateur de contenus d'abus sexuels sur mineurs suspectés est disponible dans toutes les régions prises en charge.