A Gemini Enterprise Agent Platform inclui um classificador de segurança que filtra solicitações para todos os modelos hospedados da Anthropic que possam conter imagens com material de abuso sexual infantil (CSAM). O classificador de segurança de CSAM suspeito da Gemini Enterprise Agent Platform é separado dos filtros de confiabilidade e segurança (T&S) enviados diretamente com os modelos da Anthropic.
Este documento aborda quais partes da solicitação e da resposta são filtradas pelo classificador de segurança de material de abuso sexual infantil suspeito e o que acontece quando o classificador bloqueia uma solicitação.
Os filtros de segurança e conteúdo funcionam como uma barreira para evitar resultados nocivos, mas não influenciam diretamente o comportamento do modelo. Para saber mais sobre a direção de modelos, consulte Instruções do sistema para segurança.
Comandos não seguros
O classificador de suspeita de CSAM filtra apenas as imagens em solicitações para modelos da Anthropic na Gemini Enterprise Agent Platform. O classificador de suspeita de CSAM não filtra as saídas do modelo.
As solicitações que acionam o classificador de suspeita de CSAM são bloqueadas e retornam um código de status HTTP 200 com a seguinte mensagem:
{
"promptFeedback": {
"blockReason": "PROHIBTED_CONTENT"
}
}
Se a solicitação for bloqueada pelo classificador, o stream de solicitação será cancelado e a seguinte mensagem será retornada:
"event": "vertex-block-event",
"data": {"promptFeedback": {"blockReason": "PROHIBITED_CONTENT"}}
Disponibilidade do local
O classificador de suspeita de material de abuso sexual infantil está disponível em todas as regiões com disponibilidade.