Bereitgestellte KI‑Agenten verwalten

In diesem Dokument wird beschrieben, wie Sie bereitgestellte KI-Agenten auf der Agent Platform verwalten. Wenn Sie einen neuen Agent bereitstellen möchten, finden Sie weitere Informationen unter Agent bereitstellen.

Bereitgestellte KI-Agenten auflisten

Listen Sie alle bereitgestellten KI-Agenten für ein bestimmtes Projekt und einen bestimmten Standort auf:

import agentplatform

client = agentplatform.Client(  # For service interactions via client.runtimes
    project="PROJECT_ID",
    location="LOCATION",
)

for agent in client.runtimes.list():
    print(agent)

for agent in client.runtimes.list(
    config={
        "filter": 'display_name="DISPLAY_NAME"',
    },
):
    print(agent)

GET https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines

curl -X GET \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines"

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method GET `
    -Headers $headers `
    -Uri "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines" | Select-Object -Expand Content

Bereitgestellten KI-Agenten abrufen

Jeder bereitgestellte Agent hat eine eindeutige RESOURCE_ID-ID. Weitere Informationen finden Sie unter Agent bereitstellen.

import agentplatform

client = agentplatform.Client(  # For service interactions via client.runtimes
    project="PROJECT_ID",
    location="LOCATION",
)

remote_agent = client.runtimes.get(
    name="projects/PROJECT_ID_OR_NUMBER/locations/LOCATION/reasoningEngines/RESOURCE_ID"
)

GET https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID

curl -X GET \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID"

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method GET `
    -Headers $headers `
    -Uri "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID" | Select-Object -Expand Content

Bereitgestellten KI-Agenten aktualisieren

Sie können ein oder mehrere Felder des bereitgestellten KI-Agenten gleichzeitig aktualisieren. Sie müssen jedoch mindestens eines der zu aktualisierenden Felder angeben.

Sie können die nicht versionierten oder versionierten Felder eines bereitgestellten KI-Agenten aktualisieren. Wenn Sie versionierte Felder aktualisieren, wird eine neue Version erstellt. Weitere Informationen zu versionierten Feldern und zum Verwalten von Überarbeitungen finden Sie unter Überarbeitungen und Traffic verwalten.

Wie lange die Aktualisierung des bereitgestellten KI-Agenten dauert, hängt vom durchgeführten Update ab. In der Regel sollte sie jedoch nur wenige Sekunden bis Minuten in Anspruch nehmen.

import agentplatform

client = agentplatform.Client(  # For service interactions via client.runtimes
    project="PROJECT_ID",
    location="LOCATION",
)

client.runtimes.update(
    name=RESOURCE_NAME,                    # Required.
    agent=UPDATED_AGENT,                   # Optional.
    config={                                                # Optional.
        "requirements": REQUIREMENTS,      # Optional.
        "display_name": "DISPLAY_NAME",    # Optional.
        "description": "DESCRIPTION",      # Optional.
        "extra_packages": EXTRA_PACKAGES,  # Optional.
    },
)

PATCH https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID?update_mask="display_name,description"

{
"displayName": "DISPLAY_NAME",
"description": "DESCRIPTION"
}

curl -X PATCH \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID?update_mask="display_name,description""

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method PATCH `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID?update_mask="display_name,description"" | Select-Object -Expand Content

Telemetrie für den bereitgestellten Agenten konfigurieren

Wenn Sie während der Agent-Entwicklung Traces aktiviert haben, können Sie die Cloud de Confiance Console verwenden, um Telemetrie für Ihren bereitgestellten Agenten zu konfigurieren.

Konfigurieren Sie die Telemetrie für bereitgestellte KI-Agenten mit aktivierter Telemetrie:

1. Rufen Sie in der Cloud de Confiance Console die Seite Bereitstellungen der Agent-Plattform auf.
   

   Zu Deployments

   Agent Platform-Instanzen, die Teil des ausgewählten Projekts sind, werden in der Liste angezeigt. Mit dem Feld Filter können Sie die Liste nach der angegebenen Spalte filtern.

2. Suchen Sie die Zeile für Ihre Agent Platform-Instanz. Klicken Sie in der Spalte Telemetriekonfiguration auf Konfigurieren. Der Bereich Dienstkonfiguration wird geöffnet.

3. Sie können die folgenden Konfigurationen vornehmen:

   • Beobachtbarkeit: Sie können Folgendes konfigurieren:

     • Instrumentierung von OpenTelemetry-Traces und ‑Logs aktivieren: Klicken Sie auf den Ein/Aus-Button, um Daten automatisch in das Dashboard zur Beobachtbarkeit des KI-Agenten und die Seiten für Traces einzufügen.

     • Logging von Prompt-Eingaben und Antwortausgaben aktivieren: Wenn Sie die vollständigen Inhalte von Prompts und Antworten der Nutzer erfassen und speichern möchten, klicken Sie auf den Schalter, um die Option zu aktivieren.

     Wenn die Telemetrieerfassung für Ihren Agenten deaktiviert ist, müssen Sie Ihren Agenten noch einmal bereitstellen und die Version des Vertex AI SDK auf >= 1.126.1 aktualisieren, um die Konfigurationsoptionen für Beobachtbarkeit aufzurufen.

   • Container: Konfigurieren Sie die Containereinstellungen für den bereitgestellten Agenten:

     • Skalierung: Geben Sie eine Mindestanzahl von Instanzen und eine maximale Anzahl von Instanzen ein.

     • Ressourcen: Wählen Sie Limits für Arbeitsspeicher und CPU für jeden Container aus.

     • Container-Nebenläufigkeit: Geben Sie eine Mindestanzahl von Instanzen ein, um die Nebenläufigkeit für jeden Container und KI-Agentenserver festzulegen. Der empfohlene Wert ist (2 × CPU + 1) und der Standardwert ist 9.

   • Zugriff und Berechtigungen: Klicken Sie auf Berechtigungen in IAM verwalten, um die Berechtigungen des KI-Agenten für das zugehörige Dienstkonto zu verwalten.

   • Bereitstellungsdetails: Hier finden Sie Bereitstellungsdetails für den Agenten, einschließlich Ressourcenname und Anzeigename.

   • Agent Platform Memory Bank: Hier können Sie sich die Memory Bank-Details für den Agenten ansehen, einschließlich Memory Generation und Memory Search.

4. Klicken Sie auf Aktualisieren oder Schließen.

Messwerte für den bereitgestellten KI-Agenten ansehen

Für bereitgestellte Agenten können Sie die Console verwenden, um Messwerte für Ihren Agenten aufzurufen:

1. Rufen Sie in der Cloud de Confiance Console die Seite Bereitstellungen der Agent-Plattform auf.
   

   Zu Deployments

   Bereitgestellte Agenten, die Teil des ausgewählten Projekts sind, werden in der Liste angezeigt. Mit dem Feld Filter können Sie die Liste nach der angegebenen Spalte filtern.

2. Klicken Sie auf den Namen Ihres KI-Agenten. Das Dashboard für den ausgewählten Agenten wird angezeigt.

3. Wählen Sie einen der folgenden Dashboard-Tabs aus:

   • Übersicht: Hier finden Sie ein Dashboard mit einer Zusammenfassung der Messwerte für Ihren Agenten, einschließlich Agenten-Latenz, Anzahl der Agenten-Anfragen und Agenten-Fehlerrate.

   • Modelle: Hier finden Sie ein Dashboard mit Messwerten für das Modell Ihres KI-Agenten, einschließlich der Anzahl der Modellaufrufe, der Modellfehlerrate und der Modelltokennutzung.

   • Tools: Hier finden Sie ein Dashboard mit Messwerten für die Tools Ihres KI-Agenten, darunter die Anzahl der Toolaufrufe, die Toolfehlerrate und die Toollatenz.

   • Nutzung: Hier finden Sie ein Dashboard mit Messwerten zur Nutzung Ihres KI-Agenten, einschließlich der Tokennutzung nach Eingabe und Ausgabe, der Container-CPU-Zuweisung und der Container-Arbeitsspeicherzuweisung.

   • Logs: Hier können Sie die Logs Ihres Agents aufrufen, wenn Sie Cloud Logging für Ihren Agent aktiviert haben.

Bereitgestellten KI-Agenten löschen

Einen bereitgestellten KI-Agenten aus der verwalteten Laufzeit von Agent Runtime löschen. Wenn Sie die Agent Runtime löschen, wird die Agentenidentität ungültig. In allen IAM-Unified Access Policies (UAPs), die diesem Hauptkonto Berechtigungen gewähren, bleibt das nicht mehr vorhandene Hauptkonto in den Regeln erhalten. Außerdem bleibt die Richtlinienbindung aktiv. Wenn Sie ein nicht mehr vorhandenes Hauptkonto entfernen möchten, aktualisieren Sie die UAP, um das Hauptkonto aus den Regeln zu entfernen. Wenn die Richtlinie keine aktiven Hauptkonten mehr enthält, löschen Sie die Richtlinienbindung.

remote_agent.delete(
    force=True, # Optional, if the agent has resources (e.g. sessions, memory)
)

import agentplatform

client = agentplatform.Client(  # For service interactions via client.runtimes
    project="PROJECT_ID",
    location="LOCATION",
)

client.runtimes.delete(
    name=RESOURCE_NAME,
    force=True, # Optional, if the agent has resources (e.g. sessions, memory)
)

DELETE https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID

curl -X DELETE \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID"

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method DELETE `
    -Headers $headers `
    -Uri "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID" | Select-Object -Expand Content

Nächste Schritte