Gemini Enterprise Agent Platform incluye un clasificador de seguridad que filtra las solicitudes a todos los modelos de Anthropic alojados que puedan contener imágenes que incluyan material de abuso sexual infantil (CSAM). El clasificador de seguridad de CSAM sospechoso de Gemini Enterprise Agent Platform es independiente de los filtros de confianza y seguridad (T&S) que se envían directamente con los modelos de Anthropic.
En este documento, se describen las partes de la solicitud y la respuesta que filtra el clasificador de seguridad de CSAM sospechoso y lo que sucede cuando el clasificador bloquea una solicitud.
Los filtros de seguridad y contenido actúan como una barrera para evitar resultados dañinos, pero no influyen directamente en el comportamiento del modelo. Para obtener más información sobre la capacidad de dirección del modelo, consulta Instrucciones del sistema para la seguridad.
Instrucciones no seguras
El clasificador de presunto CSAM solo filtra las imágenes de las solicitudes a los modelos de Anthropic en Gemini Enterprise Agent Platform. El clasificador de presunto CSAM no filtra los resultados del modelo.
Las solicitudes que activan el clasificador de sospecha de CSAM se bloquean y devuelven un código de estado HTTP 200 con el siguiente mensaje:
{
"promptFeedback": {
"blockReason": "PROHIBTED_CONTENT"
}
}
Si el clasificador bloquea la solicitud, se cancela el flujo de solicitudes y se devuelve el siguiente mensaje:
"event": "vertex-block-event",
"data": {"promptFeedback": {"blockReason": "PROHIBITED_CONTENT"}}
Disponibilidad de ubicación
El clasificador de presunto CSAM está disponible en todas las regiones admitidas.