Monitoramento de abuso

O Google monitora o tráfego de IA generativa na Gemini Enterprise Agent Platform para detectar possíveis violações da Política de Uso Aceitável (AUP) e da Política de Uso Proibido. Os aplicativos multilocatários e os revendedores de API também podem transmitir um rótulo safety_identifier anonimizado para que o feedback da política seja direcionado a usuários finais específicos, em vez de um projeto inteiro.

Modelos do Google não designados como "Modelos de Fronteira do Google" ou "IA Avançada"

Conforme descrito na Seção 4.3 "Segurança e abuso da IA generativa" dos Termos de Serviço do Google Cloud Platform, o Google usa o seguinte processo para detectar possíveis abusos e violações da Política de uso aceitável e da Política de uso proibido como parte do fornecimento de serviços de IA generativa aos clientes.

• Detecção automatizada: o Google usa classificadores de segurança automatizados para detectar possíveis abusos e violações.

• Registro de comandos e revisão humana: se os classificadores de segurança automatizados detectarem atividades suspeitas que exijam uma investigação mais detalhada para determinar se um cliente violou nossas políticas, o Google poderá registrar os comandos do cliente com o único propósito de examinar se ocorreu uma violação da AUP ou da Política de Uso Proibido. Esses dados não serão usados para treinar ou ajustar modelos de IA/ML. Esses dados são armazenados com segurança por até 90 dias na mesma região ou multirregião selecionada pelo cliente para o projeto e seguem as garantias do Cloud de Confiance by S3NS , como residência de dados, transparência no acesso e VPC Service Controls. Os registros de comandos para fins de monitoramento de abuso não são criptografados por chaves de criptografia gerenciadas pelo cliente (CMEK).

  • Ação: funcionários autorizados do Google podem avaliar os comandos sinalizados e entrar em contato com o cliente para esclarecimentos. Se o comportamento não for corrigido, ou em caso de abuso recorrente ou grave, o acesso do cliente à Gemini Enterprise Agent Platform ou aos serviços do Cloud de Confiance by S3NSpoderá ser suspenso ou encerrado.

  • Serviços no escopo: Serviços de IA generativa do Google.

  • Clientes no escopo: apenas clientes cujo uso do Cloud de Confiance by S3NS é regido pelos Termos de Serviço do Google Cloud Platform. Isso significa que os clientes com um Cloud de Confiance by S3NS Contrato Principal estão isentos do registro de comandos para esse monitoramento de abuso por padrão.

Modelos de fronteira do Google

Conforme descrito na Seção 34 dos Termos Específicos de Serviço, "Modelos de Fronteira do Google", o Google usa o seguinte processo para detectar possíveis abusos e violações dos contratos, incluindo a Política de Uso Aceitável e a Política de Uso Proibido, como parte do fornecimento de Serviços de IA Generativa aos clientes.

• Registro de comandos e respostas para monitoramento de abuso: o Google pode registrar comandos e respostas do cliente apenas para garantir o uso seguro dos modelos de fronteira do Google e a conformidade com o contrato do cliente com o Google ("Finalidade" definida nos Termos específicos de serviço). Isso inclui o processamento automatizado para criar shingles anonimizados e analisar padrões de uso apenas para a finalidade descrita acima. Esses dados não serão usados para treinar ou ajustar modelos de IA/ML. Esses registros são armazenados com segurança no ambiente do cliente por até 30 dias. Os registros de comandos para fins de monitoramento de abuso não são criptografados por CMEK. Os clientes não são cobrados por esse registro.

• Registro de abuso alinhado à ZDR para clientes com Contratos Principais do Cloud: a Seção 34 "Modelos de Fronteira do Google" dos Termos Específicos de Serviço não dá ao Google o direito de realizar revisão humana. Consequentemente, esses registros seguem os padrões de ZDR para clientes com Contratos Principais do Cloud, já que são armazenados no ambiente do cliente e isentos de revisão humana.

• Revisão humana de registros de abuso para clientes cobertos pelos termos on-line do Cloud de Confiance by S3NS : conforme descrito na Seção 4.3 "Segurança e abuso da IA generativa" dos Termos de Serviço do Google Cloud Platform, o Google também pode realizar uma revisão humana de comandos sinalizados pelos nossos classificadores de abuso, apenas para determinar se houve uma violação da AUP ou da Política de Uso Proibido. Esses dados não serão usados para treinar ou ajustar modelos de IA/ML. Somente os clientes que usam o Cloud de Confiance by S3NS de acordo com os Termos de Serviço do Google Cloud Platform estão no escopo da revisão humana. Isso significa que os clientes com um Contrato Principal do Cloud de Confiance by S3NS estão isentos da revisão humana para esse monitoramento de abuso por padrão.

• Modelos no escopo: Gemini 4 Carbon (modelo de fronteira do Google), Gemini 4 Carbon para segurança cibernética (modelo de fronteira do Google para segurança cibernética), Gemini 4 Argon Cyber Permissive (modelo de fronteira do Google para segurança cibernética)

• Serviços no escopo: Serviços de IA generativa do Google.

Modelos de IA avançada que não são do Google

Conforme descrito no Adendo de Segurança Avançada de IA, oCloud de Confiance by S3NS implementou um sistema de monitoramento de abuso mais rigoroso para modelos designados como "IA avançada".

• Registro de comandos e respostas: todos os comandos e respostas serão registrados e armazenados com segurança por até 30 dias com o único propósito de monitorar abusos. Esses dados não serão usados para treinar ou ajustar modelos de IA/ML. Esses dados são armazenados na mesma região ou multirregião selecionada pelo cliente para o projeto e seguem as garantias doCloud de Confiance by S3NS , como residência de dados, transparência no acesso e VPC Service Controls. Os registros de comandos e respostas para fins de monitoramento de abuso não são criptografados pela CMEK. Talvez não seja possível desativar o registro de comandos e respostas ao usar alguns recursos de IA avançada. Entre em contato com a equipe de conta para esclarecer suas dúvidas.

• Investigação automatizada: o Google e os Provedores de Modelos implantam ferramentas de investigação automatizadas, incluindo classificadores de segurança, para analisar dados registrados e detectar possíveis abusos e violações.

• Ação: funcionários autorizados do Google podem avaliar os comandos sinalizados e entrar em contato com o cliente para esclarecimentos. Se o comportamento não for corrigido, ou em caso de abuso recorrente ou grave, o acesso do cliente à Gemini Enterprise Agent Platform ou aos serviços do Cloud de Confiance by S3NSpoderá ser suspenso ou encerrado.

• Serviços no escopo: modelos e recursos designados como "IA avançada", incluindo:

  • Modelos da Anthropic:

    • Claude Mythos (todas as versões)
    • Claude Fable (todas as versões)
    • Claude Opus >=4.7 e Sonnet >=5 quando advanced_ai_enabled está definido como true para uso no Programa de Verificação Cibernética (CVP, na sigla em inglês) da Anthropic. Todos os outros usos desses modelos estão fora do escopo do Adendo de Segurança Avançada de IA. Para se inscrever e ativar o CVP para modelos do Claude, consulte Programa de Verificação Cibernética para Claude.

  • Modelos da OpenAI:

    • GPT Astra (todas as versões)
    • GPT Sol (todas as versões)
    • GPT Terra (todas as versões)
    • GPT Luna (todas as versões)
    • Todos os outros modelos da OpenAI disponíveis na plataforma não são designados como "IA avançada" e não são regidos pelo Adendo de segurança de IA avançada.

• Desativação do cliente: alguns provedores de modelos oferecem retenção de dados zero (ZDR) para modelos específicos, o que isenta os projetos aprovados do Adendo de Segurança Avançada de IA. No entanto, o acesso não é garantido e requer aprovação do provedor. Entre em contato com a equipe de conta do Cloud de Confiance by S3NS para saber mais detalhes com base nas suas necessidades.

Consentir com o Adendo de Segurança Avançada de IA

É necessário consentir com o Adendo de Segurança Avançada de IA uma vez por projeto antes que os modelos de IA avançados possam ser ativados nesse projeto. O consentimento é realizado no Model Garden pelo console do Cloud de Confiance antes de ativar qualquer modelo de IA avançada.

Os usuários que dão o consentimento precisam reconhecer que estão agindo em nome da organização e que têm a autoridade necessária para vincular o cliente às obrigações do adendo. Para dar consentimento, o usuário precisa ter a permissão aiplatform.consents.update, que está incluída no papel aiplatform.admin.

Gerenciar o Adendo de Segurança Avançada de IA

Para impedir que os usuários aceitem esse adendo, os administradores podem:

• Aplique privilégios mínimos no IAM para a permissão aiplatform.consents.update.
• Desativar o acesso aos modelos do Model Garden incluídos no escopo do Adendo de Segurança Avançada de IA.

Termos específicos para parceiros

O uso de modelos de parceiros na Gemini Enterprise Agent Platform está sujeito aos termos específicos do parceiro.

Anthropic

O uso de modelos da Anthropic na Gemini Enterprise Agent Platform é regido pelos Termos de Serviço Comerciais da Anthropic ou outro contrato aplicável com a Anthropic, sendo que o uso da IA Avançada da Anthropic é regido pela Seção F dos Termos de Serviço Específicos da Anthropic. Os sistemas de monitoramento de abuso descritos nesta página são usados para garantir a adesão a esses termos.

Retenção de dados

Para o Claude Fable 5 da Anthropic no Google Cloud e o Mythos 5, os comandos e as respostas são retidos por até 30 dias. Para usar o Claude Fable 5 da Anthropic no Google Cloud e o Mythos 5, conforme exigido pela Anthropic, é necessário ativar o compartilhamento desses dados com a Anthropic para monitoramento de abuso.

Transmitir um identificador de segurança do usuário final em chamadas de API

Revendedores de API, agregadores de modelos e aplicativos com usuários externos podem transmitir uma chave safety_identifier exclusiva no campo labels da solicitação. Anexar identificadores de segurança por usuário ajuda o Google a atribuir violações da política a usuários finais específicos e evitar ações de fiscalização em todo o projeto.

Ao transmitir safety_identifier em solicitações de API, siga estes requisitos:

• Formato e comprimento: atribua a cada usuário final uma string exclusiva de 1 a 63 caracteres contendo apenas letras minúsculas, dígitos, sublinhados (_) ou hífens (-). Valores com mais de 63 caracteres ou que contêm letras maiúsculas ou símbolos como @ ou . falham com um erro de HTTP 400 INVALID_ARGUMENT. Se você usar o hash SHA-256 nos IDs do usuário, trunque o resumo hexadecimal em letras minúsculas para 63 caracteres ou menos.
• Privacidade: não inclua informações de identificação pessoal (PII), como endereços de e-mail ou nomes completos, nos valores de safety_identifier. Em vez disso, use nomes de usuário anonimizados ou hashes truncados.
• Modelos e endpoints compatíveis: compatível com solicitações do Gemini generateContent e streamGenerateContent (global, multirregionais e regionais) e solicitações do Veo predictLongRunning (endpoints regionais, como us-central1).
• Acesso e faturamento: a transmissão de labels não requer permissões extras do IAM além da permissão de previsão aiplatform.endpoints.predict e não adiciona cobranças extras de API. As chaves com mais de 1.000 valores exclusivos por conta do Cloud Billing podem ser omitidas dos relatórios de custos sem afetar a atribuição de abuso. Para limites gerais de rótulos, consulte Requisitos para rótulos.

Os exemplos a seguir transmitem um safety_identifier de usuário final no campo labels:

POST https://aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/global/publishers/google/models/gemini-3.5-flash:generateContent

{
  "contents": [
    {
      "role": "user",
      "parts": [
        {
          "text": "Summarize the key responsibilities of an API gateway."
        }
      ]
    }
  ],
  "labels": {
    "safety_identifier": "user_session_001"
  }
}

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/global/publishers/google/models/gemini-3.5-flash:generateContent"

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/global/publishers/google/models/gemini-3.5-flash:generateContent" | Select-Object -Expand Content

{
  "candidates": [
    {
      "content": {
        "role": "model",
        "parts": [
          {
            "text": "An API gateway routes client requests, enforces authentication and rate limits, and centralizes observability across backend services."
          }
        ]
      },
      "finishReason": "STOP"
    }
  ],
  "usageMetadata": {
    "promptTokenCount": 10,
    "candidatesTokenCount": 24,
    "totalTokenCount": 34
  }
}

from google import genai
from google.genai import types

client = genai.Client(
    vertexai=True,
    project="PROJECT_ID",
    location="global",
)

response = client.models.generate_content(
    model="gemini-3.5-flash",
    contents="Summarize the key responsibilities of an API gateway.",
    config=types.GenerateContentConfig(
        labels={"safety_identifier": "user_session_001"},
    ),
)
print(response.text)

POST https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/us-central1/publishers/google/models/veo-3.1-generate-001:predictLongRunning

{
  "instances": [
    {
      "prompt": "A slow aerial pan over a coastal lighthouse at sunrise."
    }
  ],
  "parameters": {
    "aspectRatio": "16:9",
    "sampleCount": 1
  },
  "labels": {
    "safety_identifier": "user_session_001"
  }
}

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/us-central1/publishers/google/models/veo-3.1-generate-001:predictLongRunning"

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/us-central1/publishers/google/models/veo-3.1-generate-001:predictLongRunning" | Select-Object -Expand Content

{
  "name": "projects/my-genai-project/locations/us-central1/publishers/google/models/veo-3.1-generate-001/operations/7f8e9d0c-1234-5678-9abc-def012345678"
}

from google import genai
from google.genai import types

client = genai.Client(
    vertexai=True,
    project="PROJECT_ID",
    location="us-central1",
)

operation = client.models.generate_videos(
    model="veo-3.1-generate-001",
    prompt="A slow aerial pan over a coastal lighthouse at sunrise.",
    config=types.GenerateVideosConfig(
        aspect_ratio="16:9",
        labels={"safety_identifier": "user_session_001"},
    ),
)
print(operation.name)

A seguir

• Saiba mais sobre a IA responsável.
• Adicione rótulos de metadados personalizados às chamadas de API.