使用 Gemini 设计和优化 GKE 集群

本文档介绍了如何通过向 Gemini 发出提示来规划和设计您的 集群 。

Compute Advisor 是控制台中由 Gemini 提供支持的 AI 赋能界面，可帮助您评估硬件选项、估算 部署费用，以及查看集群的推荐配置。 Cloud de Confiance 为了定制建议，Gemini 会检查您的配额限制、现有预留、 承诺使用折扣 (CUD)、 默认区域和可用区以及任何 资源位置限制，从而评估您的 Cloud de Confiance by S3NS 项目。 通过使用 Gemini 帮助您进行规划，您可以在创建或修改 GKE 集群之前为工作负载找到 最佳配置。

如需详细了解在创建 GKE 集群之前或创建时必须配置的组件，请参阅GKE 概览。

限制

在 Cloud de Confiance 控制台中向 Gemini 发出提示时，您无法使用 Gemini 创建、修改或删除资源。

准备工作

当您使用 Cloud de Confiance 控制台访问 Cloud de Confiance 服务 和 API 时，无需设置身份验证。

所需角色

如需获得访问 Gemini 并向其发出提示所需的权限，请让您的管理员为您授予项目的Kubernetes Engine Cluster Viewer (roles/container.clusterViewer) IAM 角色。如需详细了解如何授予角色，请参阅管理对项目、文件夹和组织的访问权限。

此预定义角色可提供 访问 Gemini 并向其发出提示所需的权限。如需查看所需的确切权限，请展开所需权限部分：

所需权限

如需访问 Gemini 并向其发出提示，您需要拥有以下权限：

  • 如需查看集群列表： container.clusters.list

您也可以使用自定义角色或其他预定义角色来获取这些权限。

在 Cloud de Confiance 控制台中访问 Gemini

如需在 Cloud de Confiance 控制台中访问 Gemini，请完成以下 步骤：

  1. 在 Cloud de Confiance 控制台中，前往概览页面。

    前往概览

  2. 在使用 Compute Advisor 设计基础架构 部分中，您可以查看以下内容：

    Compute Advisor 页面的屏幕截图以及构成该页面的界面元素。

    上图中的界面元素如下：

    • 快速操作提示卡片：一组卡片，每张卡片都包含一个示例 提示。如果您点击一张卡片， Cloud de Confiance 控制台会自动 在提示框中填充示例提示。

    • 提示框：您可以在此字段中输入和提交提示。如需提交提示，请点击提交提示 。

    • 查看之前的对话：借助此功能，您可以查看过去对话的详细信息并继续对话，或者删除不再需要的话题（如果不再需要）。

    • 对话记录侧边栏：显示您最近的聊天记录。只有在您从概览 页面开始发出提示后，此面板才会显示。 您可以按如下方式与此面板互动：

      • 如需开始新对话，请点击发起新聊天 。

      • 如需继续最近的对话，请在最近的聊天 部分中点击该对话。

      • 如需查看所有对话的列表，请点击查看全部 。在我的记录 页面上，您可以查看过去对话的详细信息并继续对话，或者删除不再需要的对话。

向 Gemini 发出提示

提交提示后，Gemini 会开始生成回答。 系统会显示一个窗格， Cloud de Confiance 控制台会在该窗格中显示对您的提示的回答 ，如以下屏幕截图所示：

提交提示后的 Compute Advisor 页面屏幕截图。

根据您的提示，回答窗格包含以下元素：

  • 情境基础：Gemini 会自动评估您的 项目情境，以提供高度定制的建议，包括配额 限制、现有预留、CUD、默认区域和可用区以及任何 资源位置限制。

  • 互动式代码段：Gemini 会生成 gcloud 命令、REST API 方法或 Terraform 资源。您可以复制并粘贴这些代码段，或在 Cloud Shell 中运行它们。

  • 可视化画布：Gemini 会将建议整理成 结构化表格和并排比较。此视图有助于您评估产品功能和架构方法。它还为您的使用场景提供了实现方案。

以下部分概述了撰写提示的最佳实践，以及 您在创建或修改 GKE 集群之前可以使用的示例提示。

关于提示的最佳实践

为了从 Gemini 获得最准确且可操作的建议，我们建议您以与代码块相同的方式构建提示。这种方法通过使用明确的参数声明、角色定义、具体说明和明确的输出格式来指导生成式 AI。

向 Gemini 发出提示时，请考虑以下最佳实践：

  • 专注于设计和规划：我们建议您不要向 Gemini 发出提示来排查 GKE 集群 错误。如需解决这些错误，请参阅 排查 GKE 问题。

  • 指定人设或角色：声明 Gemini 要采用的目标角色或人设，例如 IT 管理员、AI 研究员或平台工程师。这种方法可以指导生成的建议的语气、深度和专业程度。

  • 提供明确的编号说明：将您的目标分解为 具体的、分步的问题或任务。这种方法可以构建 Gemini 的推理过程，并有助于确保 Gemini 满足您的所有要求。

  • 定义特定的输出格式：明确说明您希望 建议的格式，例如分步说明、Markdown 比较表或可直接使用的 gcloud 代码 块。

  • 利用自动情境基础：您无需在提示中添加 默认区域或可用区、可用配额、CUD 或资源位置 限制。Gemini 可以在您的 Cloud de Confiance 项目中访问此 信息。

  • 以迭代方式优化设计：您可以通过发送新提示来修改或扩展 Gemini 生成的回答 。例如，您可以要求助理将网络建议添加到部署方案中，或修改存储要求，而无需开始新对话。

示例提示

以下是一些示例提示，可帮助您设计和优化 GKE 集群：

  • 集群拓扑和节点池配置：如需确定工作负载的最佳 GKE 模式、机器类型和节点池配置，请使用如下提示：

    Act as a cloud architect. I need to design a GKE cluster topology for a
scalable microservices application that requires both GPU nodes for AI
inference and CPU nodes for general-purpose APIs.

Please provide the following:
1. A comparison of running this workload on GKE Autopilot versus GKE Standard.
2. Recommendations for GKE machine types for the GPU node pool.
3. The optimal autoscaling and auto-provisioning settings.

Format the comparison as a Markdown table, and provide the cluster creation
steps as a ready-to-use gcloud CLI command.

  • 预配模型和费用优化：如需评估预配 模型并优化批处理工作负载的资源利用率， 请使用如下提示：

    Act as an IT administrator. I need to design a cost-optimized GKE cluster
to run large-scale batch processing workloads that are fault-tolerant.

Please provide the following:
1. A cost and reliability comparison of using Spot VMs versus standard VMs
   in GKE node pools.
2. An explanation of how to configure Kueue for queueing training jobs.
3. A manifest snippet configuration to deploy the workloads onto Spot VM nodes.

Format the comparison as a Markdown table, and provide the manifest as a
ready-to-use code block.

后续步骤