Antworten mit RAG fundieren

Die Fundierung ist eine Technik, mit der Sie Modellantworten erstellen können, die vertrauenswürdiger, hilfreicher und faktischer sind. Wenn Sie Antworten von generativen KI-Modellen fundieren, verknüpfen Sie sie mit überprüfbaren Informationsquellen. Um die Fundierung zu implementieren, müssen Sie relevante Quelldaten abrufen. Die empfohlene Best Practice ist die Verwendung der Retrieval-Augmented Generation-Technik (RAG). Der Abruf erfolgt in der Regel über eine Suchmaschine, die einen Index verwendet, in den die semantischen Bedeutungen des Quelltexts eingebettet sind.

Es gibt auch Dienste und Komponenten-APIs, die den RAG-Lebenszyklus implementieren, z. B. die Agent Search Builder API, die eine kombinierte Erstellung ermöglicht. Mit der kombinierten Erstellung können Sie eine RAG-Lösung mit einem der folgenden Dienste oder einer der folgenden APIs implementieren:

  • Grounding Generation API: Mit dieser API können Sie die Fundierung implementieren oder eine Verknüpfung zu einem Abrufanbieter für den vollständigen RAG-Lebenszyklus herstellen.
  • Document Layout Parser: Dieser Parser vereint die besten Funktionen von Document AI und Gemini für das Dokumentverständnis. Weitere Informationen zum Layoutparser finden Sie unter Layoutparser verwenden.
  • Gemini Enterprise Agent Platform Vector Search: Dieser Suchdienst ist sehr leistungsstark und verwendet eine hochwertige Vektordatenbank.
  • Check Grounding API: Diese API vergleicht die RAG-Ausgabe mit den abgerufenen Fakten und sorgt dafür, dass alle Aussagen fundiert sind, bevor die Antwort an den Nutzer zurückgegeben wird.

Antworten mit der RAG Engine auf der Gemini Enterprise Agent Platform fundieren

Um Antworten mit der RAG Engine zu fundieren, müssen Sie einen Prompt erstellen. Gehen Sie dazu so vor:

  1. Rufen Sie in der Cloud de Confiance Console die Seite Agent Studio auf.

    Zu Agent Studio

  2. Gehen Sie in der Seitenleiste unter Modelleinstellungen zum Abschnitt Fundierung und aktivieren Sie die Option Ihre Daten.

  3. Wählen Sie im Konfigurationsbereich RAG Engine als Fundierungsquelle aus.

  4. Wählen Sie in der Liste Korpus den Namen Ihres Korpus aus.

  5. Wählen Sie im Feld Top-K-Ähnlichkeit die Standardeinstellung 20 aus.

  6. Klicken Sie auf Speichern.

Nächste Schritte