In diesem Dokument wird beschrieben, wie Sie Ihren Cluster planen und entwerfen, indem Sie den Compute Advisor verwenden. Das ist eine KI-gestützte Schnittstelle, die auf Gemini basiert. Weitere Informationen zu den Komponenten, die Sie vor oder beim Erstellen eines GKE-Cluster konfigurieren müssen, finden Sie unter GKE – Übersicht.
Mit dem Compute Advisor können Sie Hardwareoptionen bewerten, Bereitstellungskosten schätzen und empfohlene Konfigurationen für Ihre Cluster ansehen. Um die Empfehlungen anzupassen, wertet der Compute Advisor Ihr Cloud de Confiance by S3NS Projekt aus. Dabei werden Ihre Kontingentlimits, vorhandenen Reservierungen, Rabatte für zugesicherte Nutzung (Committed Use Discounts, CUDs), die Standardregion und ‑zone, sowie alle Einschränkungen für den Ressourcenstandortberücksichtigt. Wenn Sie den Compute Advisor bei der Planung verwenden, können Sie eine optimale Konfiguration für Ihre Arbeitslast erreichen, bevor Sie einen GKE-Cluster erstellen oder ändern.
Beschränkungen
Wenn Sie den Compute Advisor in der Cloud de Confiance Console, können Sie keine Ressourcen direkt erstellen, ändern oder löschen.
Hinweis
Wenn Sie über die Cloud de Confiance Console auf Cloud de Confiance Dienste und APIs zugreifen, müssen Sie die Authentifizierung nicht einrichten.
Erforderliche Rollen
Bitten Sie Ihren Administrator, Ihnen die IAM-Rolle „Kubernetes Engine-Clusterbetrachter “ (roles/container.clusterViewer) für das Projekt zuzuweisen, um die Berechtigungen zu erhalten, die
Sie für den Zugriff auf Gemini und die Verwendung von Gemini benötigen.
Weitere Informationen zum Zuweisen von Rollen finden Sie unter Zugriff auf Projekte, Ordner und Organisationen verwalten.
Diese vordefinierte Rolle enthält die Berechtigungen, die für den Zugriff auf Gemini und die Verwendung von Gemini erforderlich sind. Maximieren Sie den Abschnitt Erforderliche Berechtigungen , um die notwendigen Berechtigungen anzuzeigen, die erforderlich sind:
Erforderliche Berechtigungen
Die folgenden Berechtigungen sind für den Zugriff auf Gemini und die Verwendung von Gemini erforderlich:
-
Liste der Cluster ansehen:
container.clusters.list
Sie können diese Berechtigungen auch mit benutzerdefinierten Rollen oder anderen vordefinierten Rollen erhalten.
In der Cloud de Confiance Console auf den Compute Advisor zugreifen
So greifen Sie in der Cloud de Confiance Console auf den Compute Advisor zu:
Rufen Sie in der Cloud de Confiance Console die Seite Übersicht auf.
Im Abschnitt Infrastruktur mit Compute Advisor gestalten können Sie Folgendes sehen:
Die UI-Elemente, die im vorherigen Screenshot angezeigt werden, sind folgende:
Prompts für schnelle Aktionen: Eine Reihe von Karten, die jeweils einen Beispiel prompt enthalten. Wenn Sie auf eine Karte klicken, wird das Prompt-Feld in der Cloud de Confiance Console automatisch mit dem Beispielprompt gefüllt.
Prompt-Feld: In diesem Feld können Sie Prompts eingeben und senden. Klicken Sie auf Prompt senden, um einen Prompt zu senden.
Vorherige Unterhaltungen ansehen: Mit dieser Funktion können Sie die Details einer früheren Unterhaltung ansehen und sie fortsetzen oder Unterhaltungen löschen, wenn Sie sie nicht mehr benötigen.
Seitenleiste „Unterhaltungsverlauf“: Hier werden Ihre letzten Chats angezeigt. Diese Seitenleiste ist erst sichtbar, nachdem Sie auf der Seite Übersicht einen Prompt gesendet haben. Sie können auf folgende Weise mit dieser Seitenleiste interagieren:
Wenn Sie eine neue Unterhaltung beginnen möchten, klicken Sie auf Neuer Chat.
Wenn Sie eine aktuelle Unterhaltung fortsetzen möchten, klicken Sie im Abschnitt Letzte Chats auf die Unterhaltung.
Wenn Sie eine Liste aller Unterhaltungen aufrufen möchten, klicken Sie auf Alle ansehen. Auf der Seite Mein Verlauf können Sie die Details einer früheren Unterhaltung ansehen und sie fortsetzen oder Unterhaltungen löschen, wenn Sie sie nicht mehr benötigen.
Compute Advisor verwenden
Nachdem Sie einen Prompt gesendet haben, generiert der Compute Advisor eine Antwort. Ein Bereich wird angezeigt und Cloud de Confiance dieConsole zeigt die Antwort auf Ihren Prompt in diesem Bereich an, wie im folgenden Screenshot zu sehen:
Je nach Prompt enthält der Antwortbereich die folgenden Elemente:
Kontextbezogene Informationen: Der Compute Advisor wertet automatisch den Kontext Ihres Projekts aus, um hochgradig angepasste Empfehlungen zu geben. Dazu gehören Kontingentlimits, vorhandene Reservierungen, CUDs, Ihre Standardregion und ‑zone sowie alle Einschränkungen für den Ressourcenstandort.
Interaktive Code-Snippets: Der Compute Advisor generiert gcloud-Befehle, REST API-Methoden oder Terraform-Ressourcen. Sie können diese Code-Snippets kopieren und einfügen oder in Cloud Shell ausführen.
Visuelle Canvas: Der Compute Advisor organisiert Empfehlungen in strukturierten Tabellen und nebeneinanderliegenden Vergleichen. Diese Ansicht hilft Ihnen, Produktfunktionen und Architekturansätze zu bewerten. Außerdem wird ein Implementierungsplan für Ihren Anwendungsfall bereitgestellt.
In den folgenden Abschnitten werden die Best Practices für das Schreiben von Prompts und Beispielprompts beschrieben, die Sie verwenden können, bevor Sie einen GKE-Cluster erstellen oder ändern.
Best Practices für Prompts
Um möglichst genaue und umsetzbare Empfehlungen vom Compute Advisor zu erhalten, empfehlen wir, Ihre Prompts so zu strukturieren wie einen Codeblock. Dieser Ansatz führt die generative KI durch klare Parameterdeklarationen, Rollendefinitionen, spezifische Anweisungen und explizite Ausgabeformate.
Beachten Sie beim Verwenden des Compute Advisor die folgenden Best Practices:
Fokus auf Design und Planung: Wir empfehlen, den Compute Advisor nicht zur Fehlerbehebung bei GKE-Clusterfehlern zu verwenden. Informationen zum Beheben dieser Fehler finden Sie stattdessen unter Fehlerbehebung bei GKE.
Rolle oder Persona angeben: Deklarieren Sie eine Zielrolle oder Persona, z. B. einen IT-Administrator, KI-Forscher oder Plattformtechniker, die der Compute Advisor annehmen soll. Dieser Ansatz bestimmt den Ton, die Tiefe und das Fachwissen der resultierenden Empfehlungen.
Explizite, nummerierte Anweisungen geben: Teilen Sie Ihr Ziel in konkrete, schrittweise Fragen oder Aufgaben auf. Dieser Ansatz strukturiert den Denkprozess des Compute Advisor und trägt dazu bei, dass alle Ihre Anforderungen erfüllt werden.
Bestimmtes Ausgabeformat definieren: Geben Sie explizit an, wie die Empfehlung formatiert werden soll, z. B. als Schritt-für-Schritt-Anleitung, als Markdown-Vergleichstabelle oder als einsatzbereiter gcloud-Code block.
Automatische Kontextinformationen nutzen: Sie müssen Ihre Standardregion oder ‑zone, verfügbaren Kontingente, CUDs oder Einschränkungen für den Ressourcenstandort nicht in Ihren Prompt aufnehmen. Der Compute Advisor kann auf diese Informationen in Ihrem Cloud de Confiance Projekt zugreifen.
Designs iterativ verfeinern: Sie können die vom Compute Advisor generierte Antwort ändern oder erweitern, indem Sie neue Prompts senden. Sie können den Assistenten beispielsweise bitten, Ihrem Bereitstellungsplan Netzwerkanforderungen hinzuzufügen oder die Speicheranforderungen zu ändern, ohne eine neue Unterhaltung zu starten.
Prompt-Beispiele
Im Folgenden finden Sie Beispiele für Prompts, mit denen Sie Ihren GKE-Cluster entwerfen und optimieren können:
Clustertopologie und Knotenpoolkonfiguration: Um den optimalen GKE-Modus, die optimalen Maschinentypen und die optimalen Knotenpoolkonfigurationen für eine Arbeitslast zu ermitteln, verwenden Sie einen Prompt wie den folgenden:
Act as a cloud architect. I need to design a GKE cluster topology for a scalable microservices application that requires both GPU nodes for AI inference and CPU nodes for general-purpose APIs. Please provide the following: 1. A comparison of running this workload on GKE Autopilot versus GKE Standard. 2. Recommendations for GKE machine types for the GPU node pool. 3. The optimal autoscaling and auto-provisioning settings. 4. A YAML manifest that configures tolerations for GPU taints, which are required for AI workloads. Format the comparison as a Markdown table, and provide the cluster creation steps as a ready-to-use gcloud CLI command.Bereitstellungsmodell und Kostenoptimierung: Um Bereitstellungs modelle zu bewerten und die Ressourcennutzung für Batchverarbeitungsarbeitslasten zu optimieren, verwenden Sie einen Prompt wie den folgenden:
Act as an IT administrator. I need to design a cost-optimized GKE cluster to run large-scale batch processing workloads that are fault-tolerant. Please provide the following: 1. A cost and reliability comparison of using Spot VMs versus standard VMs in GKE node pools. 2. An explanation of how to configure Kueue for queueing training jobs. 3. A warning about the risk of latency for real-time inference when using Spot VMs. 4. A YAML manifest to deploy the workloads onto Spot VM nodes. Format the comparison as a Markdown table, and provide the manifest as a ready-to-use code block.Topologie für zustandsorientierte Datenträger: Um eine optimierte Architektur für persistenten Speicher für eine hochverfügbare Datenbank in GKE zu finden, verwenden Sie einen Prompt wie den folgenden:
Act as a storage engineer. I need to design a StatefulSet topology in GKE for a distributed database that relies on Persistent Disks. Please provide the following: 1. A comparison of regional Persistent Disks versus zonal Persistent Disks. 2. An explanation of how the standard-rwo StorageClass prevents deadlocks in zonal Persistent Disks. 3. A YAML manifest that shows how to deploy a stateful workload with the "volumeBindingMode: WaitForFirstConsumer" field. Format the response with Markdown headers, and provide the deployment manifest as a ready-to-use code block.Karpenter-Migrationsprompt: Um eine Migration von AWS Karpenter zu den Autoscaling-Funktionen von GKE zu planen, verwenden Sie einen Prompt wie den folgenden:
Act as a Kubernetes migration specialist. I am migrating an EKS cluster that uses Karpenter to GKE. Please translate my AWS Karpenter NodePool into a GKE custom ComputeClass. Please provide the following: 1. A summary that maps Karpenter concepts to GKE Node Auto-Provisioning (NAP) and ComputeClasses. 2. A YAML manifest that shows how a ComputeClass provides the same variety of instance types and weighting for Spot VMs as Karpenter. 3. The changes required in the Pod manifest to use the new ComputeClass. Format the mapping as a Markdown table, and provide the GKE manifests as code blocks that are ready to use.