Anfragen und Antworten protokollieren und teilen

Die Gemini Enterprise Agent Platform kann Beispiele von Anfragen und Antworten für Gemini und unterstützte Partnermodelle protokollieren. Die Logs werden zur Ansicht und Analyse in einer BigQuery-Tabelle gespeichert. Darüber hinaus kann die Agent Platform Anfrage-/Antwort-Logs für bestimmte Advanced AI-Modelle an bestimmte MaaS-Partner weitergeben, um Sie bei der Erfüllung Ihrer Verpflichtungen gegenüber diesen MaaS-Partnern zu unterstützen.

Auf dieser Seite wird beschrieben, wie Sie Anfrage-/Antwort-Logs für Foundation-Basismodelle und abgestimmte Modelle konfigurieren.

Unterstützte API-Methoden für das Logging

Anfrage-/Antwortlogs werden für alle Gemini-Modelle unterstützt, die generateContent oder streamGenerateContent verwenden.

Die folgenden Partnermodelle, die rawPredict oder streamrawPredict verwenden, werden ebenfalls unterstützt:

  • Anthropic Claude

Anfrage-/Antwort-Logs für Basis-Foundation-Models

Sie können Anfrage-/Antwortlogs für Basis-Foundation-Models mit der REST API oder dem Python SDK konfigurieren. Es kann einige Minuten dauern, bis Logging-Konfigurationen wirksam werden.

Logging von Anfragen/Antworten aktivieren

Wählen Sie einen der folgenden Tabs aus, um eine Anleitung zum Aktivieren von Anfrage-/Antwortprotokollen für ein Basis-Foundation-Model zu erhalten.

Für Anthropic-Modelle wird nur REST für die Logging-Konfiguration unterstützt. Aktivieren Sie die Logging-Konfiguration über die REST API, indem Sie den Publisher auf anthropic und den Modellnamen auf eines der unterstützten Claude-Modelle festlegen.

Python SDK

Mit dieser Methode kann ein PublisherModelConfig erstellt oder aktualisiert werden.

# Specify the preview version of GenerativeModel
import vertexai
from vertexai.preview.generative_models import(
    GenerativeModel,
    )

PROJECT_ID = "PROJECT_ID"
LOCATION = "LOCATION"

vertexai.init(project=PROJECT_ID, location=LOCATION)

publisher_model = GenerativeModel("gemini-2.5-flash")

# Set logging configuration
publisher_model.set_request_response_logging_config(
    enabled=True,
    sampling_rate=1.0,
    bigquery_destination="bq://PROJECT_ID.DATASET_NAME.TABLE_NAME",
    enable_otel_logging=True
    )

REST API

Erstellen oder aktualisieren Sie einen PublisherModelConfig mit setPublisherModelConfig:

Ersetzen Sie diese Werte in den folgenden Anfragedaten:

  • ENDPOINT_PREFIX: Die Region der Modellressource, gefolgt von -. Beispiel: us-central1- Wenn Sie den globalen Endpunkt verwenden, lassen Sie das Feld leer. Das Anfrage-Antwort-Logging wird für alle vom Modell unterstützten Regionen unterstützt.
  • PROJECT_ID: Ihre Projekt-ID.
  • LOCATION: Die Region der Modellressource. Wenn Sie den globalen Endpunkt verwenden, geben Sie global ein.
  • PUBLISHER: Der Name des Publishers. Beispiel: google.
  • MODEL: Der Name des Foundation Models. Beispiel: gemini-2.0-flash-001.
  • SAMPLING_RATE: Um die Speicherkosten zu senken, können Sie eine Zahl zwischen 0 und 1 festlegen, um den Anteil der zu protokollierenden Anfragen zu definieren. Beispiel: Der Wert 1 protokolliert alle Anfragen und der Wert 0,1 protokolliert 10% der Anfragen.
  • BQ_URI: Der URI der BigQuery-Tabelle, die für das Logging verwendet werden soll. Beispiel: bq://PROJECT_ID.DATASET_NAME.TABLE_NAME. Wenn Sie den globalen Endpunkt verwenden (LOCATION auf global festgelegt), müssen Sie ein vorhandenes BigQuery-Dataset angeben, z. B. bq://PROJECT_ID.DATASET_NAME oder bq://PROJECT_ID.DATASET_NAME.TABLE_NAME. Wenn Sie einen regionalen Endpunkt verwenden und nur eine Projekt-ID (bq://PROJECT_ID) angeben, wird ein Dataset mit dem Namen publishers_PUBLISHER_models_MODEL_ENDPOINT_ID erstellt, wobei PUBLISHER und MODEL den BigQuery-Benennungsregeln folgen. Wenn Sie keinen Tabellennamen angeben, wird eine Tabelle mit dem Namen request_response_logging erstellt.

HTTP-Methode und URL: 

POST https://ENDPOINT_PREFIXaiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig

JSON-Text der Anfrage:

{
  "publisherModelConfig": {
     "loggingConfig": {
       "enabled": true,
       "samplingRate": SAMPLING_RATE,
       "bigqueryDestination": {
         "outputUri": "bq://BQ_URI"
       },
       "enableOtelLogging": true
     }
   }
 }

Wenn Sie die Anfrage senden möchten, wählen Sie eine der folgenden Optionen aus:

curl

Speichern Sie den Anfragetext in einer Datei mit dem Namen request.json und führen Sie den folgenden Befehl aus: 

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://ENDPOINT_PREFIXaiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig"

PowerShell

Speichern Sie den Anfragetext in einer Datei mit dem Namen request.json und führen Sie den folgenden Befehl aus: 

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://ENDPOINT_PREFIXaiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig" | Select-Object -Expand Content

Sie sollten eine JSON-Antwort ähnlich wie diese erhalten:

Logging-Konfiguration abrufen

Rufen Sie die Anfrage-/Antwort-Logging-Konfiguration für das Foundation Model mithilfe der REST API ab.

REST API

Rufen Sie die Anfrage-/Antwort-Logging-Konfiguration mit fetchPublisherModelConfig ab:

Ersetzen Sie diese Werte in den folgenden Anfragedaten:

  • PROJECT_ID: Ihre Projekt-ID.
  • LOCATION: Der Speicherort der Modellressource.
  • PUBLISHER: Der Name des Publishers. Beispiel: google.
  • MODEL: Der Name des Foundation Models. Beispiel: gemini-2.0-flash-001.

HTTP-Methode und URL:

GET https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:fetchPublisherModelConfig

Senden Sie die Anfrage mithilfe einer der folgenden Optionen:

curl

Führen Sie folgenden Befehl aus: 

curl -X GET \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:fetchPublisherModelConfig"

PowerShell

Führen Sie folgenden Befehl aus: 

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method GET `
    -Headers $headers `
    -Uri "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:fetchPublisherModelConfig" | Select-Object -Expand Content

Sie sollten eine JSON-Antwort erhalten, die in etwa so aussieht:

Logging deaktivieren

Deaktivieren Sie das Anfrage-/Antwort-Logging für das Foundation Model mithilfe der REST API oder des Python SDK.

Python SDK

# Specify the preview version of GenerativeModel
import vertexai
from vertexai.preview.generative_models import(
    GenerativeModel,
    )

PROJECT_ID = "PROJECT_ID"
LOCATION = "LOCATION"

vertexai.init(project=PROJECT_ID, location=LOCATION)

publisher_model = GenerativeModel("gemini-2.5-flash")

# Disable logging
publisher_model.set_request_response_logging_config(
    enabled=False,
    sampling_rate=1.0,
    bigquery_destination="bq://PROJECT_ID.DATASET_NAME.TABLE_NAME"
    )

REST API

Verwenden Sie setPublisherModelConfig, um das Logging zu deaktivieren:

Ersetzen Sie diese Werte in den folgenden Anfragedaten:

  • PROJECT_ID: Ihre Projekt-ID.
  • LOCATION: Der Speicherort der Modellressource.
  • PUBLISHER: Der Name des Publishers. Beispiel: google.
  • MODEL: Der Name des Foundation Models. Beispiel: gemini-2.0-flash-001.

HTTP-Methode und URL:

POST https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig

JSON-Text der Anfrage:

{
  "publisherModelConfig": {
     "loggingConfig": {
       "enabled": false
     }
  }
}

Wenn Sie die Anfrage senden möchten, wählen Sie eine der folgenden Optionen aus:

curl

Speichern Sie den Anfragetext in einer Datei mit dem Namen request.json und führen Sie den folgenden Befehl aus: 

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig"

PowerShell

Speichern Sie den Anfragetext in einer Datei mit dem Namen request.json und führen Sie den folgenden Befehl aus: 

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig" | Select-Object -Expand Content

Sie sollten eine JSON-Antwort ähnlich wie diese erhalten:

Anfrage-/Antwort-Logs für abgestimmte Modelle

Sie können Anfrage-/Antwortprotokolle für optimierte Modelle mit der REST API oder dem Python SDK konfigurieren.

Anfrage-/Antwortlogs aktivieren

Wählen Sie einen der folgenden Tabs aus, um eine Anleitung zum Aktivieren von Anfrage-/Antwortlogs für ein abgestimmtes Modell zu erhalten.

Python SDK

Mit dieser Methode kann die Konfiguration des Anfrage-/Antwort-Loggings für einen Endpunkt aktualisiert werden.

# Specify the preview version of GenerativeModel
import vertexai
from vertexai.preview.generative_models import(
    GenerativeModel,
    )

PROJECT_ID = "PROJECT_ID"
LOCATION = "LOCATION"

vertexai.init(project=PROJECT_ID, location=LOCATION)

tuned_model = GenerativeModel(f"projects/{PROJECT_ID}/locations/{LOCATION}/endpoints/ENDPOINT_ID")

# Set logging configuration
tuned_model.set_request_response_logging_config(
    enabled=True,
    sampling_rate=1.0,
    bigquery_destination=f"bq://{PROJECT_ID}.DATASET_NAME.TABLE_NAME",
    enable_otel_logging=True,
    )

REST API

Sie können das Anfrage-/Antwort-Logging nur aktivieren, wenn Sie mit projects.locations.endpoints.create einen Endpunkt erstellen oder mit projects.locations.endpoints.patch einen vorhandenen Endpunkt patchen.

Anfragen und Antworten werden auf Endpunktebene protokolliert, sodass Anfragen, die an alle bereitgestellten Modelle unter demselben Endpunkt gesendet werden, protokolliert werden.

Wenn Sie einen Endpunkt erstellen oder patchen, füllen Sie das Feld predictRequestResponseLoggingConfig der Endpunktressource mit den folgenden Einträgen aus:

  • enabled: Wird auf True festgelegt, um das Anfrage-/Antwort-Logging zu aktivieren.

  • samplingRate: Um die Speicherkosten zu senken, können Sie eine Zahl zwischen 0 und 1 festlegen, um den Anteil der zu protokollierenden Anfragen zu definieren. Bei einem Wert von 1 werden beispielsweise alle Anfragen protokolliert, bei einem Wert von 0, 1 werden 10% der Anfragen protokolliert.

  • BigQueryDestination: Die BigQuery-Tabelle, die für das Logging verwendet werden soll. Wenn Sie nur eine Projekt-ID angeben, wird ein Dataset mit dem Namen ENDPOINT_DISPLAYNAMEENDPOINT_ID erstellt, wobei ENDPOINT_DISPLAY_NAME den BigQuery-Benennungsregeln folgt. Wenn Sie keinen Tabellennamen angeben, wird eine Tabelle mit dem Namen request_response_logging erstellt.

  • enableOtelLogging: Wird auf true gesetzt, um zusätzlich zum Standard-Anfrage-/Antwort-Logging das OpenTelemetry (OTEL)-Logging zu aktivieren.

Das BigQuery-Tabellenschema finden Sie unter Logging-Tabellenschema.

Hier sehen Sie eine Beispielkonfiguration:

{
  "predictRequestResponseLoggingConfig": {
    "enabled": true,
    "samplingRate": 0.5,
    "bigqueryDestination": {
      "outputUri": "bq://PROJECT_ID.DATASET_NAME.TABLE_NAME"
    },
    "enableOtelLogging": true
  }
}

Logging-Konfiguration abrufen

Rufen Sie die Anfrage-/Antwort-Logging-Konfiguration für das abgestimmte Modell mithilfe der REST API ab.

REST API

Ersetzen Sie diese Werte in den folgenden Anfragedaten:

  • PROJECT_ID: Ihre Projekt-ID.
  • LOCATION: Der Standort der Endpunktressource.
  • MODEL: Der Name des Foundation Models. Beispiel: gemini-2.0-flash-001.
  • ENDPOINT_ID: Die ID des Endpunkts.

HTTP-Methode und URL: 

GET https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/endpoints/ENDPOINT_ID

Senden Sie die Anfrage mithilfe einer der folgenden Optionen:

curl

Führen Sie folgenden Befehl aus: 

curl -X GET \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/endpoints/ENDPOINT_ID"

PowerShell

Führen Sie folgenden Befehl aus: 

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method GET `
    -Headers $headers `
    -Uri "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/endpoints/ENDPOINT_ID" | Select-Object -Expand Content

Sie sollten eine JSON-Antwort erhalten, die in etwa so aussieht:

Logging-Konfiguration deaktivieren

Deaktivieren Sie die Konfiguration des Anfrage-/Antwort-Loggings für den Endpunkt.

Python SDK

# Specify the preview version of GenerativeModel
import vertexai
from vertexai.preview.generative_models import(
    GenerativeModel,
    )

PROJECT_ID = "PROJECT_ID"
LOCATION = "LOCATION"

vertexai.init(project=PROJECT_ID, location=LOCATION)

tuned_model = GenerativeModel(f"projects/{PROJECT_ID}/locations/{LOCATION}/endpoints/ENDPOINT_ID")

# Disable logging
tuned_model.set_request_response_logging_config(
    enabled=False,
    sampling_rate=1.0,
    bigquery_destination="bq://PROJECT_ID.DATASET_NAME.TABLE_NAME"
    )

REST API

{
"predictRequestResponseLoggingConfig": {
  "enabled": false
}
}

Schema der Logging-Tabelle

In BigQuery werden die Logs mit dem folgenden Schema aufgezeichnet:

Feldname Typ Hinweise
endpoint STRING Ressourcenname des Endpunkts, auf dem das abgestimmte Modell bereitgestellt wird.
deployed_model_id STRING ID des bereitgestellten Modells für ein abgestimmtes Modell, das auf einem Endpunkt bereitgestellt wurde.
logging_time TIMESTAMP Der Zeitpunkt, zu dem das Logging durchgeführt wird. Dies ist ungefähr die Zeit, zu der die Antwort zurückgegeben wird.
request_id NUMERIC Die automatisch generierte ganzzahlige Anfrage-ID, die auf der API-Anfrage basiert.
request_payload STRING Enthalten für das Logging von Partnermodellen und die Abwärtskompatibilität mit dem Anfrage-/Antwort-Log des Agent Platform-Endpunkts.
response_payload STRING Enthalten für das Logging von Partnermodellen und die Abwärtskompatibilität mit dem Anfrage-/Antwort-Log des Agent Platform-Endpunkts.
Modell STRING Name der Modellressource.
model_version STRING Die Modellversion. Bei Gemini-Modellen ist dies oft „default“.
api_method STRING generateContent, streamGenerateContent, rawPredict, streamRawPredict
full_request JSON Die vollständige GenerateContentRequest.
full_response JSON Die vollständige GenerateContentResponse.
Metadaten JSON Alle Metadaten des Aufrufs; enthält die Anfragelatenz.
otel_log JSON Logs im OpenTelemetry-Schemaformat. Nur verfügbar, wenn otel_logging in der Logging-Konfiguration aktiviert ist.

Anfrage-Antwort-Paare, die das Zeilenlimit von 10 MB der BigQuery Write API überschreiten, werden nicht aufgezeichnet.

Anfragen und Antworten mit MaaS-Partnern teilen

Für bestimmte Advanced KI-Modelle verlangen einige MaaS-Partner, dass ein Protokoll der Prompts und Antworten manipulationssicher an ihre Trust and Safety-Teams weitergegeben wird, damit sie auf potenziellen Missbrauch prüfen können. Die Nutzung von Anthropic Advanced AI unterliegt beispielsweise Abschnitt F der dienstspezifischen Nutzungsbedingungen von Anthropic. Während die Funktion dataSharingEnabledProvider aktiv ist, werden protokollierte Anfragen und Antworten gemäß dem Addendum zur erweiterten KI-Sicherheit in Echtzeit an den MaaS-Partner weitergegeben.

Die manipulationssichere Freigabe von Anfrage-/Antwort-Logs kann mit der setPublisherModelConfig API aktiviert werden, wie in den folgenden Abschnitten beschrieben.

Unterstützte Modelle

In der folgenden Tabelle sind MaaS-Partner und ‑Modelle aufgeführt, die das Teilen von Anfragen und Antworten unterstützen:

Unterstützter MaaS-Partner Unterstützte Modelle
Anthropic
  • Claude Mythos Preview
  • Claude Mythos 5
  • Claude Fable 5 von Anthropic in Google Cloud

Der MaaS-Partner und das Modell müssen übereinstimmen. Das Anfrage-/Antwort-Log kann nur für den MaaS-Partner freigegeben werden, der das Modell veröffentlicht hat.

Vorbereitung

Google muss die Einwilligung zum Zusatz zur Sicherheit fortschrittlicher KI-Funktionen für dieses Projekt erhalten, bevor die Datenweitergabe aktiviert werden kann. Weitere Informationen zum Zusatz finden Sie unter Erweiterte KI-Sicherheit.

Sie müssen das Anfrage-/Antwort-Logging für BigQuery nicht aktivieren, um die Freigabe von Anfrage-/Antwort-Logs zu verwenden.

Beschränkungen

Projekte, die durch VPC Service Controls geschützt sind, können standardmäßig keine Daten mit MaaS-Partnern teilen. Das Konfigurieren einer VPC Service Controls-Regel für ausgehenden Traffic wird nicht unterstützt. Wenn Sie die Datenweitergabe für ein durch VPC Service Controls geschütztes Projekt aktivieren möchten, reichen Sie eine Supportanfrage ein.

Datenweitergabe aktivieren

Gehen Sie dazu so vor:

REST API

Ersetzen Sie diese Werte in den folgenden Anfragedaten:

  • ENDPOINT_PREFIX: das entsprechende Präfix für den Standort des Modellendpunkts. Verwenden Sie die folgenden Werte:
    • Verwenden Sie für den Endpunkt global den Wert aiplatform.
    • Verwenden Sie für multiregionale Endpunkte wie us oder eu die Option aiplatform.LOCATION.rep.
    • Verwenden Sie für regionale Endpunkte wie us-central1 die Option LOCATION-aiplatform.
  • PROJECT_ID: Ihre Projekt-ID.
  • LOCATION: Der Standort des Modellendpunkts. Beispiel: global, us, eu oder us-central1.
  • PUBLISHER: Der Name des Modell-Publishers in Kleinbuchstaben. Beispiel: anthropic.
  • MODEL: Der Name des Foundation Models. Beispiel: claude-fable-5.
  • MAAS_PARTNER: Der Name des Modell-Publishers in Großbuchstaben. Der MaaS-Partner muss die oben beschriebene Großbuchstabenversion des MODEL sein. Beispiel: ANTHROPIC.

HTTP-Methode und URL:

POST https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig

JSON-Text der Anfrage:

{
  "publisherModelConfig": {
    "dataSharingEnabledProvider": "ANTHROPIC"
  }
}

Wenn Sie die Anfrage senden möchten, wählen Sie eine der folgenden Optionen aus:

curl

Speichern Sie den Anfragetext in einer Datei mit dem Namen request.json und führen Sie den folgenden Befehl aus: 

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig"

PowerShell

Speichern Sie den Anfragetext in einer Datei mit dem Namen request.json und führen Sie den folgenden Befehl aus: 

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig" | Select-Object -Expand Content

Sie sollten einen erfolgreichen Statuscode (2xx) und eine leere Antwort als Ausgabe erhalten.

Freigabekonfiguration abrufen

Gehen Sie dazu so vor:

REST API

Ersetzen Sie diese Werte in den folgenden Anfragedaten:

  • ENDPOINT_PREFIX: das entsprechende Präfix für den Standort des Modellendpunkts. Verwenden Sie die folgenden Werte:
    • Verwenden Sie für den Endpunkt global den Wert aiplatform.
    • Verwenden Sie für multiregionale Endpunkte wie us oder eu die Option aiplatform.LOCATION.rep.
    • Verwenden Sie für regionale Endpunkte wie us-central1 die Option LOCATION-aiplatform.
  • PROJECT_ID: Ihre Projekt-ID.
  • LOCATION: Der Standort des Modellendpunkts. Beispiel: global, us, eu oder us-central1.
  • PUBLISHER: Der Name des Modell-Publishers in Kleinbuchstaben. Beispiel: anthropic.
  • MODEL: Der Name des Foundation Models. Beispiel: claude-fable-5.

HTTP-Methode und URL: 

GET https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:fetchPublisherModelConfig

Senden Sie die Anfrage mithilfe einer der folgenden Optionen:

curl

Führen Sie folgenden Befehl aus: 

curl -X GET \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     "https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:fetchPublisherModelConfig"

PowerShell

Führen Sie folgenden Befehl aus: 

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method GET `
    -Headers $headers `
    -Uri "https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:fetchPublisherModelConfig" | Select-Object -Expand Content

Sie sollten eine JSON-Antwort ähnlich wie diese erhalten:

{
  "loggingConfig": {},
  "dataSharingEnabledProvider": "ANTHROPIC"
}

Datenweitergabe deaktivieren

Gehen Sie dazu so vor:

REST API

Ersetzen Sie diese Werte in den folgenden Anfragedaten:

  • ENDPOINT_PREFIX: das entsprechende Präfix für den Standort des Modellendpunkts. Verwenden Sie die folgenden Werte:
    • Verwenden Sie für den Endpunkt global den Wert aiplatform.
    • Verwenden Sie für multiregionale Endpunkte wie us oder eu die Option aiplatform.LOCATION.rep.
    • Verwenden Sie für regionale Endpunkte wie us-central1 die Option LOCATION-aiplatform.
  • PROJECT_ID: Ihre Projekt-ID.
  • LOCATION: Der Standort des Modellendpunkts. Beispiel: global, us, eu oder us-central1.
  • PUBLISHER: Der Name des Modell-Publishers in Kleinbuchstaben. Beispiel: anthropic.
  • MODEL: Der Name des Foundation Models. Beispiel: claude-fable-5.

HTTP-Methode und URL: 

POST https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig

JSON-Text der Anfrage:

{
  "publisherModelConfig": {
    "dataSharingEnabledProvider": "MODEL_PROVIDER_UNSPECIFIED"
  }
}

Wenn Sie die Anfrage senden möchten, wählen Sie eine der folgenden Optionen aus:

curl

Speichern Sie den Anfragetext in einer Datei mit dem Namen request.json und führen Sie den folgenden Befehl aus: 

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig"

PowerShell

Speichern Sie den Anfragetext in einer Datei mit dem Namen request.json und führen Sie den folgenden Befehl aus: 

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig" | Select-Object -Expand Content

Sie sollten einen erfolgreichen Statuscode (2xx) und eine leere Antwort als Ausgabe erhalten.

Anfragen zur Datenweitergabe verhindern

Wenn der Projektadministrator verhindern möchte, dass Anfrage- und Antwortprotokolle an MaaS-Partner weitergegeben werden, kann er Folgendes tun:

  • Benutzerdefinierte Einschränkung des Organisationsrichtliniendienstes erzwingen: Erstellen und erzwingen Sie eine benutzerdefinierte Einschränkung des Organisationsrichtliniendienstes für aiplatform.googleapis.com/Endpoint, die das Festlegen von dataSharingEnabledProvider für alle Partnermodellanbieter verbietet. Weitere Informationen finden Sie unter Benutzerdefinierte Einschränkung erzwingen, um die Datenweitergabe zu verhindern.

  • VPC Service Controls-Perimeter erstellen: Erstellen Sie einen VPC Service Controls-Dienstperimeter, der das Projekt und aiplatform.googleapis.com als eingeschränkten Dienst enthält. Durch VPC Service Controls geschützte Projekte können standardmäßig keine Daten mit Partnermodellen teilen.

  • Zugriff auf Model Garden-Modelle deaktivieren: Deaktivieren Sie den Zugriff auf Model Garden-Modelle, die die Datenweitergabe unterstützen.

  • Geringste Berechtigungen erzwingen: Schränken Sie die Berechtigung aiplatform.endpoints.setPublisherModelConfig ein, um zu verhindern, dass nicht autorisierte Nutzer das Logging oder die Logfreigabe aktivieren.

Benutzerdefinierte Einschränkung erzwingen, um die Datenweitergabe zu verhindern

So erstellen Sie eine benutzerdefinierte Einschränkung für den Organisationsrichtliniendienst, die verhindert, dass Anfrage- und Antwortprotokolle an Partnermodellanbieter weitergegeben werden, und erzwingen diese:

  1. Erstellen Sie eine YAML-Datei für die benutzerdefinierte Einschränkung mit dem Namen prevent_data_sharing.yaml, die dem folgenden Beispiel ähnelt.

    name: organizations/ORGANIZATION_ID/customConstraints/custom.denyPartnerModelDataSharing
resourceTypes:

- aiplatform.googleapis.com/Endpoint
methodTypes:

- CREATE
- UPDATE
condition: "has(resource.publisherModelConfig.dataSharingEnabledProvider)"
actionType: DENY
displayName: Prevent partner model data sharing
description: Prohibits enabling request and response log sharing with any partner model provider.

    Ersetzen Sie ORGANIZATION_ID durch Ihre Organisations-ID von Cloud de Confiance .

  2. Erstellen Sie die benutzerdefinierte Einschränkung mit dem Befehl gcloud org-policies:

    gcloud org-policies set-custom-constraint prevent_data_sharing.yaml

  3. Erzwingen Sie die Richtlinie, indem Sie eine Datei zur Erzwingung von Organisationsrichtlinien mit dem Namen enforce_policy.yaml erstellen, die dem folgenden Beispiel ähnelt:

    name: organizations/ORGANIZATION_ID/policies/custom.denyPartnerModelDataSharing
spec:
  rules:

  - enforce: true

  4. Wenden Sie die Organisationsrichtlinie an:

    gcloud org-policies set-policy enforce_policy.yaml

Nächste Schritte