Questo documento spiega come pianificare e progettare il tuo cluster chiedendo a Compute Advisor, un'interfaccia basata sull'AI che utilizza Gemini. Per scoprire di più sui componenti che devi configurare prima o durante la creazione di un cluster GKE, consulta Panoramica di GKE.
Compute Advisor ti aiuta a valutare le opzioni hardware, stimare i costi di deployment e visualizzare le configurazioni consigliate per i tuoi cluster. Per personalizzare i suggerimenti, Compute Advisor valuta il tuo progettoCloud de Confiance by S3NS controllando i limiti di quota, le prenotazioni esistenti, gli sconti per impegno di utilizzo (CUD), la regione e la zona predefinite e qualsiasi vincolo di località delle risorse. Utilizzando Compute Advisor per pianificare, puoi raggiungere una configurazione ottimale per il tuo workload prima di creare o modificare un cluster GKE.
Limitazioni
Quando richiedi a Compute Advisor nella console Cloud de Confiance , non puoi creare, modificare o eliminare direttamente le risorse.
Prima di iniziare
Quando utilizzi la console Cloud de Confiance per accedere ai servizi Cloud de Confiance e alle API, non devi configurare l'autenticazione.
Ruoli obbligatori
Per ottenere le autorizzazioni necessarie per accedere a Gemini e utilizzarlo, chiedi all'amministratore di concederti il ruolo IAM Kubernetes Engine Cluster Viewer (roles/container.clusterViewer) nel progetto.
Per saperne di più sulla concessione dei ruoli, consulta Gestisci l'accesso a progetti, cartelle e organizzazioni.
Questo ruolo predefinito contiene le autorizzazioni necessarie per accedere a Gemini e utilizzarlo. Per vedere quali sono esattamente le autorizzazioni richieste, espandi la sezione Autorizzazioni obbligatorie:
Autorizzazioni obbligatorie
Per accedere a Gemini e utilizzarlo, sono necessarie le seguenti autorizzazioni:
-
Per visualizzare un elenco di cluster:
container.clusters.list
Potresti anche ottenere queste autorizzazioni con ruoli personalizzati o altri ruoli predefiniti.
Accedere a Compute Advisor nella console Cloud de Confiance
Per accedere a Compute Advisor nella console Cloud de Confiance , completa i seguenti passaggi:
Nella console Cloud de Confiance , vai alla pagina Panoramica.
Nella sezione Progetta la tua infrastruttura con Compute Advisor, puoi visualizzare quanto segue:
Gli elementi dell'interfaccia utente visualizzati nello screenshot precedente sono i seguenti:
Schede dei prompt di azione rapida: un insieme di schede, ognuna contenente un prompt di esempio. Se fai clic su una scheda, la console Cloud de Confiance compila automaticamente la casella del prompt con il prompt di esempio.
Campo del prompt: questo campo ti consente di inserire e inviare prompt. Per inviare un prompt, fai clic su Invia prompt.
Visualizza conversazioni precedenti: questa funzionalità ti consente di visualizzare i dettagli di una conversazione passata e di riprenderla o di eliminare le conversazioni se non ti servono più.
Riquadro laterale della cronologia delle conversazioni: mostra le tue chat recenti. Questo riquadro è visibile solo dopo che hai iniziato a creare prompt dalla pagina Panoramica. Puoi interagire con questo riquadro nei seguenti modi:
Per avviare una nuova conversazione, fai clic su Nuova chat.
Per riprendere una conversazione recente, fai clic sulla conversazione nella sezione Chat recenti.
Per visualizzare un elenco di tutte le tue conversazioni, fai clic su Visualizza tutto. Nella pagina La mia cronologia, puoi visualizzare i dettagli di una conversazione passata e riprenderla o eliminare le conversazioni se non ti servono più.
Prompt Compute Advisor
Dopo aver inviato un prompt, Compute Advisor inizia a generare una risposta. Viene visualizzato un riquadro e la console Cloud de Confiance mostra la risposta al tuo prompt nel riquadro, come mostrato nello screenshot seguente:
In base al prompt, il riquadro della risposta include i seguenti elementi:
Grounding contestuale: Compute Advisor valuta automaticamente il contesto del tuo progetto per fornire consigli altamente personalizzati, inclusi limiti di quota, prenotazioni esistenti, sconti per impegno di utilizzo, regione e zona predefinite ed eventuali vincoli di località delle risorse.
Snippet di codice interattivi: Compute Advisor genera comandi gcloud, metodi API REST o risorse Terraform. Puoi copiare e incollare questi snippet di codice o eseguirli in Cloud Shell.
Canvas visivo: Compute Advisor organizza i suggerimenti in tabelle strutturate e confronti fianco a fianco. Questa visualizzazione ti aiuta a valutare le funzionalità del prodotto e gli approcci architetturali. Fornisce anche un piano di implementazione per il tuo caso d'uso.
Le sezioni seguenti descrivono le best practice per la scrittura di prompt ed esempi di prompt che puoi utilizzare prima di creare o modificare un cluster GKE.
Best practice per i prompt
Per ottenere consigli più accurati e fruibili da Compute Advisor, ti consigliamo di strutturare i prompt nello stesso modo in cui struttureresti un blocco di codice. Questo approccio guida l'AI generativa utilizzando dichiarazioni di parametri chiare, definizioni dei ruoli, istruzioni specifiche e formati di output espliciti.
Quando utilizzi i prompt di Compute Advisor, tieni presente le seguenti best practice:
Concentrati sulla progettazione e sulla pianificazione: ti consigliamo di non chiedere a Compute Advisor di risolvere i problemi relativi agli errori del cluster GKE. Per risolvere questi errori, consulta Risolvere i problemi di GKE.
Specifica un utente tipo o un ruolo: dichiara un ruolo o un utente tipo di destinazione, ad esempio un amministratore IT, un ricercatore AI o un platform engineer, che Compute Advisor deve adottare. Questo approccio guida il tono, la profondità e il livello di competenza dei suggerimenti risultanti.
Fornisci istruzioni esplicite e numerate: suddividi il tuo obiettivo in domande o attività concrete e passo passo. Questo approccio struttura il processo di ragionamento di Compute Advisor e contribuisce a garantire che Compute Advisor soddisfi tutti i tuoi requisiti.
Definisci un formato di output specifico: indica esplicitamente come vuoi che venga formattato il suggerimento, ad esempio una spiegazione dettagliata, una tabella di confronto Markdown o un blocco di codice gcloud pronto per l'uso.
Sfrutta la base contestuale automatica: non devi includere la regione o la zona predefinita, le quote disponibili, gli sconti per impegno di utilizzo o i vincoli di località delle risorse nel prompt. Compute Advisor può accedere a queste informazioni nel tuo progetto Cloud de Confiance .
Perfezionare in modo iterativo i progetti: puoi modificare o espandere la risposta generata da Compute Advisor inviando nuovi prompt. Ad esempio, puoi chiedere all'assistente di aggiungere consigli sul networking al tuo piano di implementazione o modificare i requisiti di archiviazione senza avviare una nuova conversazione.
Prompt di esempio
Di seguito sono riportati alcuni esempi di prompt che puoi utilizzare per progettare e ottimizzare il tuo cluster GKE:
Topologia del cluster e configurazione pool di nodi pool: per determinare la modalità GKE, i tipi di macchine e le configurazioni pool di nodi ottimali per un carico di lavoro, utilizza un prompt come il seguente:
Act as a cloud architect. I need to design a GKE cluster topology for a scalable microservices application that requires both GPU nodes for AI inference and CPU nodes for general-purpose APIs. Please provide the following: 1. A comparison of running this workload on GKE Autopilot versus GKE Standard. 2. Recommendations for GKE machine types for the GPU node pool. 3. The optimal autoscaling and auto-provisioning settings. 4. A YAML manifest that configures tolerations for GPU taints, which are required for AI workloads. Format the comparison as a Markdown table, and provide the cluster creation steps as a ready-to-use gcloud CLI command.Modello di provisioning e ottimizzazione dei costi: per valutare i modelli di provisioning e ottimizzare l'utilizzo delle risorse per i workload di elaborazione batch, utilizza un prompt come il seguente:
Act as an IT administrator. I need to design a cost-optimized GKE cluster to run large-scale batch processing workloads that are fault-tolerant. Please provide the following: 1. A cost and reliability comparison of using Spot VMs versus standard VMs in GKE node pools. 2. An explanation of how to configure Kueue for queueing training jobs. 3. A warning about the risk of latency for real-time inference when using Spot VMs. 4. A YAML manifest to deploy the workloads onto Spot VM nodes. Format the comparison as a Markdown table, and provide the manifest as a ready-to-use code block.Topologia dei dischi stateful: per trovare un'architettura di archiviazione permanente ottimizzata per un database ad alta disponibilità su GKE, utilizza un prompt come il seguente:
Act as a storage engineer. I need to design a StatefulSet topology in GKE for a distributed database that relies on Persistent Disks. Please provide the following: 1. A comparison of regional Persistent Disks versus zonal Persistent Disks. 2. An explanation of how the standard-rwo StorageClass prevents deadlocks in zonal Persistent Disks. 3. A YAML manifest that shows how to deploy a stateful workload with the "volumeBindingMode: WaitForFirstConsumer" field. Format the response with Markdown headers, and provide the deployment manifest as a ready-to-use code block.Prompt per la migrazione di Karpenter: per pianificare una migrazione da AWS Karpenter alle funzionalità di scalabilità automatica di GKE, utilizza un prompt simile al seguente:
Act as a Kubernetes migration specialist. I am migrating an EKS cluster that uses Karpenter to GKE. Please translate my AWS Karpenter NodePool into a GKE custom ComputeClass. Please provide the following: 1. A summary that maps Karpenter concepts to GKE Node Auto-Provisioning (NAP) and ComputeClasses. 2. A YAML manifest that shows how a ComputeClass provides the same variety of instance types and weighting for Spot VMs as Karpenter. 3. The changes required in the Pod manifest to use the new ComputeClass. Format the mapping as a Markdown table, and provide the GKE manifests as code blocks that are ready to use.