Fundierung mit Agent Search

Auf dieser Seite wird erläutert, wie Sie Antworten mit Ihren Daten aus der Agentensuche fundieren können.

Gemini mit Ihren Daten fundieren

Wenn Sie Retrieval-Augmented Generation (RAG) verwenden möchten, verbinden Sie Ihr Modell mit Ihren Websitedaten oder Ihren Dokumentsätzen und verwenden Sie dann die Fundierung mit der Agentensuche.

Die Fundierung mit Ihren Daten unterstützt maximal 10 Datenquellen für die Agentensuche und kann mit der Fundierung mit der Google Suche kombiniert werden.

Unterstützte Modelle

In diesem Abschnitt sind die Modelle aufgeführt, die die Fundierung mit Ihren Daten unterstützen.

Klicken Sie, um die unterstützten Modelle zu maximieren.

Vorbereitung

Bevor Sie die Modellausgabe mit Ihren Daten fundieren können, führen Sie folgende Schritte aus:

  1. Rufen Sie in der Cloud de Confiance Console die Seite IAM auf und suchen Sie nach der discoveryengine.servingConfigs.search Berechtigung. Diese ist erforderlich, damit der Fundierungsdienst funktioniert.

    IAM aufrufen

    Bitten Sie Ihren Administrator, Ihnen die folgenden IAM-Rollen zuzuweisen, um die Berechtigungen zu erhalten, die Sie für die Fundierung mit der Agentensuche benötigen:

    • Alle Discovery Engine-Ressourcen lesen: Discovery Engine-Betrachter (roles/discoveryengine.viewer).

    • Alle Discovery Engine-Ressourcen lesen und schreiben sowie eine Agentensuche-Instanz erstellen: Discovery Engine-Bearbeiter (roles/discoveryengine.editor).

    Weitere Informationen zu IAM finden Sie unter IAM-Rollen und -Berechtigungen.

  2. KI-Anwendungen aktivieren und die API.

  3. Erstellen Sie eine KI-Anwendungen-Datenquelle und -Anwendung.

    Weitere Informationen finden Sie unter Einführung in die Agentensuche.

KI-Anwendungen aktivieren

Wenn Sie die Agentensuche verwenden möchten, um Ihre Antworten zu fundieren, müssen Sie den Dienst für die Agentensuche aktivieren. Gehen Sie dazu so vor:

  1. Rufen Sie in der Cloud de Confiance Console die Seite KI-Anwendungen auf.

    Zu KI-Anwendungen

  2. Optional: Lesen Sie die Nutzungsbedingungen für Daten.

KI-Anwendungen ist am Standort global oder am multiregionalen Standort eu und us verfügbar. Weitere Informationen finden Sie unter Standorte für KI-Anwendungen.

Datenspeicher in KI-Anwendungen erstellen

Wenn Sie einen Datenspeicher in KI-Anwendungen erstellen, können Sie die Fundierung mit Websitedaten oder Dokumenten durchführen.

Website

  1. Öffnen Sie in der Cloud de Confiance Console die Seite Create Data Store.

  2. Klicken Sie im Feld Websiteinhalte auf Auswählen.
    Der Bereich Websites für den Datenspeicher angeben wird angezeigt.

  3. Wenn Erweiterte Websiteindexierung nicht ausgewählt ist, aktivieren Sie das Kästchen Erweiterte Websiteindexierung.
    Datenspeicher konfigurieren Bereich wird angezeigt.

  4. Führen Sie im Abschnitt URL-Muster für die Indexierung angeben folgende Schritte aus:

    • Fügen Sie URLs für Websites zum Einschließen hinzu.
    • Optional: Fügen Sie URLs für Websites zum Ausschließen hinzu.
  5. Klicken Sie auf Weiter.

  6. Im Bereich Datenspeicher konfigurieren

    1. Wählen Sie einen Wert aus der Liste Standort des Datenspeichers aus.
    2. Geben Sie einen Namen in das Feld Name des Datenspeichers ein. Die ID wird generiert. Verwenden Sie diese ID, wenn Sie Ihre fundierten Antworten mit Ihrem Datenspeicher generieren. Weitere Informationen finden Sie unter Fundierte Antworten mit Ihrem Datenspeicher generieren.
    3. Klicken Sie auf Erstellen.

Dokumente

  1. Öffnen Sie in der Cloud de Confiance Console die Seite Create Data Store.

  2. Klicken Sie im Feld Cloud Storage auf Auswählen.
    Der Bereich Daten aus Cloud Storage wird angezeigt.

  3. Wählen Sie im Abschnitt Unstrukturierte Dokumente (PDF, HTML, TXT und mehr) die Option Unstrukturierte Dokumente (PDF, HTML, TXT und mehr) aus.

  4. Wählen Sie eine Option für die Synchronisierungshäufigkeit aus.

  5. Wählen Sie eine Option für Ordner oder Datei zum Importieren auswählen aus und geben Sie den Pfad in das Feld ein.

  6. Klicken Sie auf Weiter.
    Der Bereich Datenspeicher konfigurieren wird angezeigt.

  7. Im Bereich Datenspeicher konfigurieren

    1. Wählen Sie einen Wert aus der Liste Standort des Datenspeichers aus.
    2. Geben Sie einen Namen in das Feld Name des Datenspeichers ein. Die ID wird generiert.
    3. Wenn Sie Optionen für das Parsen und Aufteilen in Blöcke für Ihre Dokumente auswählen möchten, maximieren Sie den Abschnitt Optionen für die Dokumentverarbeitung. Weitere Informationen zu verschiedenen Parsern finden Sie unter Dokumente parsen.
    4. Klicken Sie auf Erstellen.
  8. Klicken Sie auf Erstellen.

Fundierte Antworten mit Ihrem Datenspeicher generieren

Folgen Sie der nachstehenden Anleitung, um ein Modell mit Ihren Daten zu fundieren. Es werden maximal 10 Datenspeicher unterstützt.

Wenn Sie Ihre Datenspeicher-ID nicht kennen, gehen Sie so vor:

  1. Rufen Sie in der Cloud de Confiance Console die Seite KI-Anwendungen auf und klicken Sie im Navigationsmenü auf Datenspeicher.

    Zur Seite „Datenspeicher“

  2. Klicken Sie auf den Namen des Datenspeichers.

  3. Rufen Sie auf der Datenseite Ihres Datenspeichers die Datenspeicher-ID ab.

Console

Führen Sie die folgenden Schritte aus, um Ihre Modellausgabe in KI-Anwendungen zu fundieren. Dazu nutzen Sie Agent Studio in der Cloud de Confiance Console:

  1. Rufen Sie in der Cloud de Confiance Console die Seite Agent Studio auf.

    Zu Agent Studio

  2. So aktivieren Sie die Fundierung:
    1. Wählen Sie in der Seitenleiste unter Modelleinstellungen Ihr Modell aus.
    2. Rufen Sie den Abschnitt Fundierung auf und aktivieren Sie die Option Ihre Daten. Der Konfigurationsbereich wird angezeigt.
      1. Wählen Sie in der folgenden Tabelle eine Option für die Fundierungsquelle aus:
      2. Fundierungsoption Beschreibung Eingabe
        RAG Engine Fundierung mit Ihren Daten und DIY-Komponenten. Wenn Sie keinen Korpus haben, müssen Sie einen erstellen. Andernfalls geben Sie Ihren Korpus ein.
        Agentensuche Fundierung mit Ihren Daten und einer S3NS-verwalteten Suchmaschine. Geben Sie den Pfad in das Feld Pfad zum Datenspeicher der Gemini Enterprise Agent Platform ein.
        Elasticsearch Fundierung mit Elasticsearch. Geben Sie die folgenden Informationen ein:
        1. Geben Sie einen Wert in das Feld Elasticsearch-Endpunkt ein.
        2. Geben Sie einen Wert in das Feld Elasticsearch API-Schlüssel ein.
        3. Geben Sie einen Wert in das Feld Elasticsearch-Index ein.
        4. Geben Sie einen Wert in das Feld Elasticsearch-Suchvorlage ein.
      3. Klicken Sie auf Speichern.
  3. Geben Sie Ihren Prompt in das Textfeld ein und klicken Sie auf Senden. Ihre Prompt-Antworten werden in KI-Anwendungen fundiert.

Python

Installieren

pip install --upgrade google-genai

Weitere Informationen finden Sie in der SDK-Referenzdokumentation.

Legen Sie Umgebungsvariablen fest, um das Google Gen AI SDK mit Vertex AI zu verwenden:

# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values
# with appropriate values for your project.
export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT
export GOOGLE_CLOUD_LOCATION=global
export GOOGLE_GENAI_USE_ENTERPRISE=True

from google import genai
from google.genai.types import (
    GenerateContentConfig,
    VertexAISearch,
    Retrieval,
    Tool,
    HttpOptions,
)

client = genai.Client(http_options=HttpOptions(api_version="v1"))

# Replace with your Agent Search data store details
DATASTORE_PATH = "projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATASTORE_ID"

tool = Tool(
    retrieval=Retrieval(
        vertex_ai_search=VertexAISearch(
            datastore=DATASTORE_PATH
        )
    )
)

response = client.models.generate_content(
    model="gemini-2.5-flash",  # Or another supported model
    contents="What information can you find about topic X in the provided documents?", # Your query
    config=GenerateContentConfig(
        tools=[tool],
    ),
)

print(response.text)

REST

Senden Sie zum Testen eines Text-Prompts mit der Agent Platform API eine POST-Anfrage an den Endpunkt des Publisher-Modells.

Ersetzen Sie folgende Werte in den Anfragedaten:

  • LOCATION: Die Region, in der die Anfrage verarbeitet werden soll. Wenn Sie den global Endpunkt verwenden möchten, schließen Sie den Standort aus dem Endpunktnamen aus und konfigurieren Sie den Standort der Ressource auf global.
  • PROJECT_ID: Ihre Projekt-ID. .
  • MODEL_ID: Die Modell-ID des multimodalen Modells.
  • PROMPT: Der Prompt, der an das Modell gesendet werden soll.

HTTP-Methode und URL:

POST https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/MODEL_ID:generateContent

JSON-Text der Anfrage:

{
  "contents": [{
    "role": "user",
    "parts": [{
      "text": "PROMPT"
    }]
  }],
  "tools": [{
    "retrieval": {
      "vertexAiSearch": {
        "datastore": projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATASTORE_ID
      }
    }
  }],
  "model": "projects/PROJECT_ID/locations/LOCATION/publishers/google/models/MODEL_ID"
}

Wenn Sie die Anfrage senden möchten, maximieren Sie eine der folgenden Optionen:

Sie sollten eine JSON-Antwort ähnlich wie diese erhalten:

{
  "candidates": [
    {
      "content": {
        "role": "model",
        "parts": [
          {
            "text": "You can make an appointment on the website https://dmv.gov/"
          }
        ]
      },
      "finishReason": "STOP",
      "safetyRatings": [
        "..."
      ],
      "groundingMetadata": {
        "retrievalQueries": [
          "How to make appointment to renew driving license?"
        ],
        "groundingChunks": [
          {
            "retrievedContext": {
              "uri": "https://vertexaisearch.cloud.google.com/grounding-api-redirect/AXiHM.....QTN92V5ePQ==",
              "title": "dmv"
            }
          }
        ],
        "groundingSupport": [
          {
            "segment": {
              "startIndex": 25,
              "endIndex": 147
            },
            "segment_text": "ipsum lorem ...",
            "supportChunkIndices": [1, 2],
            "confidenceScore": [0.9541752, 0.97726375]
          },
          {
            "segment": {
              "startIndex": 294,
              "endIndex": 439
            },
            "segment_text": "ipsum lorem ...",
            "supportChunkIndices": [1],
            "confidenceScore": [0.9541752, 0.9325467]
          }
        ]
      }
    }
  ],
  "usageMetadata": {
    "..."
  }
}

Ihre Antwort verstehen

Die Antwort beider APIs enthält den vom LLM generierten Text, der als Kandidat bezeichnet wird. Wenn Ihr Modell-Prompt erfolgreich mit Ihrer Datenquelle fundiert wird, enthalten die Antworten Fundierungsmetadaten, die die Teile der Antwort identifizieren, die aus Ihren Daten abgeleitet wurden. Es gibt jedoch mehrere Gründe, warum diese Metadaten möglicherweise nicht bereitgestellt werden und die Prompt-Antwort nicht fundiert wird. Dazu gehören eine geringe Relevanz der Quelle oder unvollständige Informationen in der Antwort des Modells.

Im Folgenden finden Sie eine Aufschlüsselung der Ausgabedaten:

  • Rolle: Gibt den Absender der fundierten Antwort an. Da die Antwort immer fundierten Text enthält, ist die Rolle immer model.
  • Text: Die vom LLM generierte fundierte Antwort.
  • Fundierungsmetadaten: Informationen zur Fundierungsquelle, die die folgenden Elemente enthalten:
    • Fundierungs-Chunks: Eine Liste von Ergebnissen aus Ihrem Index, die die Antwort unterstützen.
    • Fundierungsunterstützung: Informationen zu einer bestimmten Behauptung in der Antwort mit denen Quellenangaben angezeigt werden können:
    • Segment: Der Teil der Antwort des Modells, der durch einen Fundierungs-Chunk belegt wird.
    • Index des Fundierungs-Chunks: Der Index der Fundierungs-Chunks in der Liste der Fundierungs-Chunks, der dieser Behauptung entspricht.
    • Konfidenzwerte: Eine Zahl zwischen 0 und 1, die angibt, wie fundiert die Behauptung in der bereitgestellten Menge von Fundierungs-Chunks ist. Nicht für Gemini 2.5 und höher verfügbar.

Nächste Schritte