本页面介绍如何使用 Cloud de Confiance 控制台或 Agent Platform API(不支持 Google Cloud CLI)列出和查看项目中的训练集群。
查看集群可让您确认以下信息:
- 集群配置
- 集群和节点状态
- 登录节点信息
- 集群资源用量
如果您想了解如何更新集群,请参阅管理集群。
准备工作
向 Gemini Enterprise Agent Platform 进行身份验证,除非您已完成此操作。
选择标签页以了解您打算如何使用本页面上的示例:
控制台
当您使用 Cloud de Confiance 控制台访问 Cloud de Confiance by S3NS 服务和 API 时,无需设置身份验证。
REST
如需在本地开发环境中使用本页面上的 REST API 示例,请使用您提供给 gcloud CLI 的凭证。
安装 Google Cloud CLI,然后 使用联合身份登录 gcloud CLI。
如需了解详情,请参阅 Cloud de Confiance 身份验证文档中的使用 REST 时进行身份验证。
所需的角色
如需获得查看训练集群所需的权限,请让您的管理员为您授予项目的 Agent Platform Viewer (roles/aiplatform.viewer) IAM 角色。
如需详细了解如何授予角色,请参阅管理对项目、文件夹和组织的访问权限。
此预定义角色包含查看训练集群所需的权限。如需查看所需的确切权限,请展开所需权限部分:
所需权限
如需查看训练集群,您需要具备以下权限:
-
如需查看集群列表,请执行以下操作:
aiplatform.modelDevelopmentClusters.list -
如需查看单个集群的详细信息,请执行以下操作:
aiplatform.modelDevelopmentClusters.get
控制台显示
仅凭 IAM 权限无法在 Cloud de Confiance 控制台中显示训练集群。只有已加入 Gemini Enterprise Agent Platform 训练集群计划的项目才会显示训练集群页面。如果您没有看到该页面,请与您的销售代表联系。
Cloud de Confiance 控制台还要求在您的项目中启用以下 API。如果缺少任何一项,训练集群页面会显示启用 API 按钮,而不是您的集群:
aiplatform.googleapis.comcompute.googleapis.comfile.googleapis.comhypercomputecluster.googleapis.comlustre.googleapis.comservicenetworking.googleapis.comstorage.googleapis.com
API 的身份验证
本页面上的 Agent Platform API 示例使用以下别名,该别名会调用 Google Cloud CLI 来生成访问令牌:
alias gcurl='curl -H "Authorization: Bearer $(gcloud auth print-access-token)" -H "Content-Type: application/json"'
查看集群列表
这两个界面一次列出一个区域中的集群。在 Cloud de Confiance 控制台中,您可以从列表中选择区域;而在 Agent Platform API 中,区域是请求网址的一部分。
控制台
在 Cloud de Confiance 控制台中,前往训练集群页面。
在区域列表中,选择要查看集群的区域。
该页面会列出相应区域中的集群。表格中的每一列都描述了集群的某个属性:
列 说明 ID 集群 ID,您在 Agent Platform API 请求中将其用作 CLUSTER_ID。名称 集群的显示名称。 状态 集群的状态: Creating、Running、Updating、Stopping或Error。节点 集群中的节点数量。 创建日期 集群的创建时间。 机器类型 集群的节点池使用的机器类型。 使用模式 集群容量的获取方式: Reservation、Spot、Flex-start或On-demand。如需打开某个集群,请点击名称列中的相应名称。
REST
如需查看一个区域中的集群列表,请向 modelDevelopmentClusters 集合发送 GET 请求:
gcurl -X GET https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters
替换以下内容:
- PROJECT_ID:您的项目的 ID。
- REGION:集群所在的区域。
list 方法支持以下可选查询参数来控制分页:
pageSize(整数,可选):响应中要返回的聚类数量上限。即使存在更多项,服务返回的项数也可能小于此值。如果未指定,则使用默认页面大小。pageToken(字符串,可选):从上一个列表调用收到的令牌。 提供此令牌可检索后续结果页面。
以下示例请求第一页结果,每页最多包含 5 个聚类:
gcurl "https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters?pageSize=5"
成功的响应包含一个 modelDevelopmentClusters 数组,其中最多包含 5 个集群资源,还可能包含一个 nextPageToken 字符串。
查看集群的详细信息
Cloud de Confiance 控制台和 Agent Platform API 都会报告集群的配置及其当前状态,包括每个节点的状态。Cloud Monitoring 信息中心仅在 Cloud de Confiance 控制台中提供。
控制台
在 Cloud de Confiance 控制台中,前往训练集群页面。
在区域列表中,选择集群所在的区域。
在名称列中,点击要查看的集群的名称。 系统会在概览标签页中打开集群详情页面。
选择相应标签页即可查看相应详情:
概览:集群的名称、说明和位置,以及其配置的计算、网络和编排设置、登录节点和 Slurm 分区。
节点:两个用于描述集群中节点的表。
登录节点,其中包含状态、名称、可用区、机器类型、内部 IP、外部 IP 和连接 列。使用连接在登录节点上打开 SSH 会话。
计算节点,包含“状态”“名称”“可用区”“机器类型”“内部 IP”和“分区”列。
可观测性:预构建的 Cloud Monitoring 信息中心,涵盖整个集群的 CPU、内存和网络使用情况,以及 GPU 利用率、NVIDIA 数据中心 GPU 管理器 (DCGM) 指标、GPU 网络和 GPU 健康状况。
如需重新加载页面并显示集群的当前状态,请点击 刷新。如需删除集群,请点击 删除。
REST
如需查看单个集群的详细信息,请向集群资源发送 GET 请求:
gcurl -X GET https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters/CLUSTER_ID
替换以下内容:
- PROJECT_ID:您的项目的 ID。
- REGION:集群所在的区域。
- CLUSTER_ID:您要查看的集群的 ID。这是Cloud de Confiance 控制台训练集群页面列中显示的值。
响应是一个 ModelDevelopmentCluster 资源。除了集群的配置之外,其 clusterStatus 字段还会报告集群及其每个节点的当前状态:
clusterStatus.state:集群的状态,可以是PROVISIONING、RUNNING、UPDATING、STOPPING或ERROR。 Cloud de Confiance 控制台会将PROVISIONING显示为正在创建。clusterStatus.nodesStatus[]:集群中每个节点对应一个条目,其中包含节点的nodeState(PREPARING、RUNNING、UPDATING或ERROR)、Compute Engine 实例名称、节点池以及状态上次更改的时间。clusterStatus.detail:集群状态的直观易懂的说明(如有)。
如需查看配置字段的说明,请参阅参数参考文档。