Para garantir uma experiência segura e responsável, os recursos de geração de imagens da plataforma do agente estão equipados com uma abordagem de segurança em várias camadas. Isso foi projetado para impedir a criação de conteúdo inadequado, incluindo material sexualmente explícito, perigoso, violento, de incitação ao ódio ou tóxico.
Todos os usuários precisam seguir a Política de uso proibido da IA generativa. Essa política proíbe estritamente a geração de conteúdo que:
- Esteja relacionado a abuso ou exploração sexual infantil.
- Facilite o extremismo violento ou o terrorismo.
- Facilite imagens íntimas não consensuais.
- Facilite a automutilação.
- Seja sexualmente explícito.
- Constitua discurso de ódio.
- Promova assédio ou bullying.
Quando recebe um comando não seguro, o modelo pode se recusar a gerar uma imagem, ou o comando ou a resposta gerada podem ser bloqueados pelos nossos filtros de segurança.
-
Recusa do modelo: se um comando for potencialmente não seguro, o modelo poderá se recusar a
processar a solicitação. Nesse caso, o modelo geralmente dá uma resposta de texto
dizendo que não pode gerar imagens não seguras. O
FinishReasonéSTOP. -
Bloqueio do filtro de segurança:
-
Se o comando for identificado como potencialmente prejudicial por um filtro de segurança,
a API vai retornar
BlockedReasonemPromptFeedback. -
Se a resposta for identificada como potencialmente prejudicial por um filtro de segurança,
a resposta da API vai incluir um
FinishReasondeIMAGE_SAFETY,IMAGE_PROHIBITED_CONTENTou semelhante.
-
Se o comando for identificado como potencialmente prejudicial por um filtro de segurança,
a API vai retornar
Categorias de código de filtro de segurança
Dependendo dos filtros de segurança configurados, a saída pode conter um código de motivo semelhante ao seguinte:
{
"raiFilteredReason": "ERROR_MESSAGE. Support codes: 56562880"
}O código listado corresponde a uma categoria prejudicial específica. Os mapeamentos de código para categoria são os seguintes:
| Código do erro | Categoria de segurança | Descrição | Conteúdo filtrado: entrada de comando ou saída de imagem |
|---|---|---|---|
| 58061214 17301594 |
Filho | Detecta conteúdo infantil que não é permitido devido às configurações de solicitação de API ou à lista de permissões. | Entrada (comando): 58061214 Saída (imagem): 17301594 |
| 29310472 15236754 |
Celebridade | Detecta uma representação fotorrealista de uma celebridade na solicitação. | Entrada (comando): 29310472 Saída (imagem): 15236754 |
| 62263041 | Conteúdo perigoso | Detecta conteúdo que é potencialmente perigoso por natureza. | Entrada (comando) |
| 57734940 22137204 |
Incita o ódio | Detecta conteúdo ou tópicos relacionados a incitação ao ódio. | Entrada (comando): 57734940 Saída (imagem): 22137204 |
| 74803281 29578790 42876398 |
Outro | Detecta outros problemas de segurança diversos com a solicitação. | Entrada (comando): 42876398 Saída (imagem): 29578790, 74803281 |
| 39322892 | Pessoas/Rosto | Detecta uma pessoa ou um rosto quando isso não é permitido devido às configurações de segurança da solicitação. | Saída (imagem) |
| 92201652 | Informações pessoais | Detecta informações de identificação pessoal (PII) no texto, como números de cartão de crédito, endereços residenciais ou outras informações semelhantes. | Entrada (comando) |
| 89371032 49114662 72817394 |
Conteúdo proibido | Detecta uma solicitação de conteúdo proibido. | Entrada (comando): 89371032 Saída (imagem): 49114662, 72817394 |
| 90789179 63429089 43188360 |
Conteúdo sexual | Detecta conteúdo de natureza sexual. | Entrada (comando): 90789179 Saída (imagem): 63429089, 43188360 |
| 78610348 | Tóxico | Detecta temas ou conteúdo tóxico no texto. | Entrada (comando) |
| 61493863 56562880 |
Violência | Detecta conteúdo relacionado à violência na imagem ou no texto. | Entrada (comando): 61493863 Saída (imagem): 56562880 |
| 32635315 | Vulgar | Detecta temas ou conteúdo vulgar no texto. | Entrada (comando) |
| 64151117 | Celebridade ou criança | Detecta representação fotorrealista de uma celebridade ou criança que viola as políticas de segurança do Google. | Entrada (comando) Saída (imagem) |
A seguir
Consulte os links a seguir para mais informações sobre a geração de imagens do Gemini: