Die Gemini Enterprise Agent Platform enthält einen Sicherheitsklassifikator, der Anfragen an alle gehosteten Anthropic-Modelle filtert, die möglicherweise Bilder mit Darstellungen des sexuellen Missbrauchs von Kindern (Child Sexual Abuse Material, CSAM) enthalten. Der Sicherheitsklassifikator für mutmaßliche Darstellungen des sexuellen Missbrauchs von Kindern der Gemini Enterprise Agent Platform ist von den Trust and Safety-Filtern (T&S) getrennt, die direkt mit den Modellen von Anthropic bereitgestellt werden.
In diesem Dokument wird beschrieben, welche Teile der Anfrage und Antwort vom Sicherheitsklassifikator für mutmaßliche Darstellungen des sexuellen Missbrauchs von Kindern gefiltert werden und was passiert, wenn der Klassifikator eine Anfrage blockiert.
Sicherheits- und Inhaltsfilter dienen als Hürde und verhindern schädliche Ausgaben, beeinflussen aber nicht direkt das Verhalten des Modells. Weitere Informationen zur Modellsteuerung finden Sie unter Systemanweisungen für die Sicherheit.
Unsichere Prompts
Der Klassifikator für mutmaßliche Darstellungen des sexuellen Missbrauchs von Kindern filtert nur die Bilder in Anfragen an Anthropic-Modelle in der Gemini Enterprise Agent Platform. Der Klassifikator für mutmaßliche Darstellungen des sexuellen Missbrauchs von Kindern filtert die Ausgaben des Modells nicht.
Anfragen, die den Klassifikator für mutmaßliche Darstellungen des sexuellen Missbrauchs von Kindern auslösen, werden blockiert und geben den HTTP-Statuscode 200 mit der folgenden Meldung zurück:
{
"promptFeedback": {
"blockReason": "PROHIBTED_CONTENT"
}
}
Wenn die Anfrage vom Klassifikator blockiert wird, wird der Anfragestream abgebrochen und die folgende Meldung zurückgegeben:
"event": "vertex-block-event",
"data": {"promptFeedback": {"blockReason": "PROHIBITED_CONTENT"}}
Standort-Verfügbarkeit
Der Klassifikator für mutmaßliche Darstellungen des sexuellen Missbrauchs von Kindern ist in allen unterstützten Regionen verfügbar.