Ver períodos de trace do Model Armor

Este documento descreve os períodos do Model Armor em traces e como ver os detalhes deles. Para mais informações sobre rastreamentos, consulte Ver rastreamentos do agente.

Sobre o Cloud Trace e a observabilidade do agente

Um trace representa o caminho de uma solicitação nas partes do aplicativo distribuído. Ou seja, cada rastreamento representa uma única operação de ponta a ponta. Como os rastreamentos são compostos de intervalos, que são registros de uma única função ou operação, eles permitem acompanhar o fluxo de solicitações e examinar dados de latência. Essas informações podem ajudar você a identificar a causa raiz de um problema.

O Cloud Trace é o sistema de rastreamento distribuído para Cloud de Confiance by S3NSe oferece recursos para analisar rastreamentos ou analisar dados de rastreamento com SQL. No entanto, muitos serviços doCloud de Confiance , como Application Monitoring e o Agent Registry, podem mostrar os dados gerenciados pelo Cloud Trace. Com eles, é possível ver dados de rastreamento no contexto do serviço que você está usando.

Antes de começar

  1. Ative as APIs Cloud Trace, Cloud Logging, Telemetry e Model Armor, se alguma delas ainda não estiver ativada.

    Funções necessárias para ativar APIs

    Para ativar APIs, você precisa da permissão serviceusage.services.enable. Se você criou o projeto, provavelmente já tem essa permissão com o papel de Proprietário (roles/owner). Caso contrário, é possível receber essa permissão com o papel de Administrador do Service Usage (roles/serviceusage.serviceUsageAdmin). Saiba como conceder papéis.

    Ativar as APIs

  2. Configure o rastreamento para seu agente.
  3. Configure o Model Armor em um gateway ou em um servidor Cloud de Confiance MCP.

Funções exigidas

Para receber as permissões necessárias para visualizar dados de rastreamento, peça ao administrador para conceder a você os seguintes papéis do IAM no projeto:

Para mais informações sobre a concessão de papéis, consulte Gerenciar o acesso a projetos, pastas e organizações.

Também é possível conseguir as permissões necessárias usando papéis personalizados ou outros papéis predefinidos.

Para informações sobre outros papéis que você pode precisar, consulte Controle de acesso do Cloud Trace e Controle de acesso do Cloud Logging.

Payloads compatíveis

Para conferir uma lista de payloads compatíveis, consulte Payloads compatíveis e não compatíveis.

Para uma solicitação que contém um payload sem suporte, o Model Armor gera um período com um erro.

Nomes e atributos de intervalos do Model Armor

Os seguintes intervalos do Model Armor estão disponíveis:

  • Intervalo principal: apply_guardrail "Google Cloud Model Armor"
  • Intervalo filho: Request Path
  • Intervalo filho: Response Path

As seções a seguir listam todos os atributos possíveis de um intervalo do Model Armor. Nem todos os atributos estão presentes em todos os intervalos. Esses nomes de atributos estão sujeitos a mudanças.

Atributos do período pai

O intervalo principal, apply_guardrail "Google Cloud Model Armor", tem os seguintes atributos:

  • cloud.provider: o provedor de nuvem associado à operação.
  • cloud.region: a região Cloud de Confiance by S3NS em que a operação ocorreu.
  • gcp.project_id: o ID do projeto em que a operação ocorreu.
  • rpc.system: a estrutura ou o protocolo de chamada de procedimento remoto (RPC) subjacente usado na operação, por exemplo, grpc.
  • service.name: o serviço Cloud de Confiance associado à operação. Para intervalos do Model Armor, o valor desse campo é modelarmor.

Atributos de caminho da solicitação

O intervalo filho Request Path tem os seguintes atributos:

  • gen_ai.security.target.type: o tipo de conteúdo ou ação a que o guardrail é aplicado. No período Request Path, isso é sempre input.
  • gen_ai.security.decision.type: o veredito ou a ação que o Model Armor aplicou. Um valor de modify indica que o Model Armor ocultou (desidentificou) dados sensíveis do conteúdo de acordo com o modelo fornecido.
  • gen_ai.security.decision.code: um código numérico para a decisão de segurança.
  • gen_ai.security.decision.reason: um motivo legível para o usuário da decisão.
  • gen_ai.security.policy.id: o nome completo do recurso do modelo do Model Armor no formato projects/PROJECT_ID/locations/LOCATION/templates/MODEL_ARMOR_TEMPLATE_ID.
  • gen_ai.security.policy.name: o nome do modelo do Model Armor usado na operação.
  • gcp.modelarmor.filter.match.state: se o conteúdo violou algum dos filtros do Model Armor (também chamados de detectores).
  • gcp.modelarmor.violations: os filtros do Model Armor que o conteúdo violou. Um valor de deidentified indica que o Model Armor encobriu dados sensíveis do conteúdo de acordo com o modelo fornecido.
  • gcp.modelarmor.rai.violations: as categorias de IA responsável que o conteúdo violou. Para mais informações, consulte Filtro de segurança da IA responsável.
  • gcp.modelarmor.sdp.info_types: os tipos de dados sensíveis (como EMAIL_ADDRESS ou PHONE_NUMBER) identificados pelos filtros da Proteção de dados sensíveis.
  • error.type: um identificador do erro encontrado.

Atributos do caminho de resposta

O intervalo filho Response Path tem os seguintes atributos:

  • gen_ai.security.target.type: o tipo de conteúdo ou ação a que o guardrail é aplicado. No intervalo Response Path, isso é sempre output.
  • gen_ai.security.decision.type: o veredicto ou a ação que o Model Armor aplicou. Um valor de modify indica que o Model Armor mascarou (desidentificou) dados sensíveis do conteúdo de acordo com o modelo fornecido.
  • gen_ai.security.decision.code: um código numérico para a decisão de segurança.
  • gen_ai.security.decision.reason: um motivo legível para o usuário da decisão.
  • gen_ai.security.policy.id: o nome completo do recurso do modelo do Model Armor no formato projects/PROJECT_ID/locations/LOCATION/templates/MODEL_ARMOR_TEMPLATE_ID.
  • gen_ai.security.policy.name: o nome do modelo do Model Armor usado na operação.
  • gcp.modelarmor.filter.match.state: se o conteúdo violou algum dos filtros do Model Armor (também chamados de detectores).
  • gcp.modelarmor.violations: os filtros do Model Armor que o conteúdo violou. Um valor de deidentified indica que o Model Armor encobriu dados sensíveis do conteúdo de acordo com o modelo fornecido.
  • gcp.modelarmor.rai.violations: as categorias de IA responsável que o conteúdo violou. Para mais informações, consulte Filtro de segurança da IA responsável.
  • gcp.modelarmor.sdp.info_types: os tipos de dados sensíveis (como EMAIL_ADDRESS ou PHONE_NUMBER) identificados pelos filtros da Proteção de dados sensíveis.
  • error.type: um identificador do erro encontrado.

Conferir os detalhes de um período do Model Armor

Para conferir um período do Model Armor e os detalhes dele, incluindo atributos e DAG, siga estas etapas:

  1. No console Cloud de Confiance , acesse o Agent Registry.

    Acessar o Agent Registry

  2. Selecione o projeto.
  3. Clique no nome do agente.
  4. Clique na guia Traces.
  5. Clique no ID do rastreamento que você quer visualizar. Se o trace envolver um intervalo do Model Armor, ele vai incluir o intervalo apply_guardrail "Google Cloud Model Armor".

  6. Analise o trace:

    • Para conferir o rastreamento como um gráfico acíclico dirigido (DAG), clique na visualização Gráfico. Essa visualização representa um rastreamento de execução de um agente como um diagrama de nós e links. Os DAGs enfatizam as relações causais e as dependências entre diferentes intervalos de rastreamento e mostram como uma operação aciona a próxima. Cada nó no grafo é um período.
    • Para conferir o trace como uma linha do tempo, clique na visualização Linha do tempo. Cada barra na linha do tempo representa um período.

  7. Clique em um intervalo para conferir os atributos.

Como alternativa, clique em Ver no Cloud Trace para conferir todos os intervalos no seu projeto pelo Explorador de traces. Aplique filtros de extensão para pesquisar a extensão apply_guardrail "Google Cloud Model Armor".

A seguir