Cluster aufrufen

Wenn Sie sich für Trainingscluster für die Gemini Enterprise Agent Platform interessieren, wenden Sie sich an Ihren Vertriebsmitarbeiter, um Zugriff zu erhalten.

Auf dieser Seite erfahren Sie, wie Sie die Trainingscluster in Ihrem Projekt mit der Cloud de Confiance Console oder der Agent Platform API auflisten und ansehen (Google Cloud CLI wird nicht unterstützt).

Wenn Sie sich einen Cluster ansehen, können Sie Folgendes prüfen:

  • Clusterkonfiguration
  • Cluster- und Knotenstatus
  • Informationen zum Log‑in-Knoten
  • Nutzung von Clusterressourcen

Eine Anleitung zum Aktualisieren eines Clusters finden Sie unter Cluster verwalten.

Hinweis

Authentifizieren Sie sich bei der Gemini Enterprise Agent Platform, sofern nicht bereits geschehen.

Wählen Sie den Tab für die geplante Verwendung der Beispiele auf dieser Seite aus:

Console

Wenn Sie über die Cloud de Confiance Console auf Cloud de Confiance by S3NS -Dienste und -APIs zugreifen, müssen Sie die Authentifizierung nicht einrichten.

REST

Wenn Sie die REST API-Beispiele auf dieser Seite in einer lokalen Entwicklungsumgebung verwenden möchten, verwenden Sie die Anmeldedaten, die Sie der gcloud CLI bereitstellen.

    Installieren Sie die Google Cloud CLI und melden Sie sich dann mit Ihrer föderierten Identität in der gcloud CLI an.

Weitere Informationen finden Sie in der Dokumentation zur Cloud de Confiance -Authentifizierung unter Für die Verwendung von REST authentifizieren.

Erforderliche Rollen

Bitten Sie Ihren Administrator, Ihnen die IAM-Rolle Agent Platform Viewer (roles/aiplatform.viewer) für das Projekt zuzuweisen, um die Berechtigungen zu erhalten, die Sie zum Aufrufen von Trainingsclustern benötigen. Weitere Informationen zum Zuweisen von Rollen finden Sie unter Zugriff auf Projekte, Ordner und Organisationen verwalten.

Diese vordefinierte Rolle enthält die Berechtigungen, die zum Aufrufen von Trainingsclustern erforderlich sind. Maximieren Sie den Abschnitt Erforderliche Berechtigungen, um die notwendigen Berechtigungen anzuzeigen:

Erforderliche Berechtigungen

Für das Aufrufen von Trainingsclustern sind die folgenden Berechtigungen erforderlich:

  • So rufen Sie eine Liste der Cluster auf: aiplatform.modelDevelopmentClusters.list
  • So rufen Sie die Details eines einzelnen Clusters auf: aiplatform.modelDevelopmentClusters.get

Sie können diese Berechtigungen auch mit benutzerdefinierten Rollen oder anderen vordefinierten Rollen erhalten.

Sichtbarkeit in der Console

IAM-Berechtigungen allein machen Trainingscluster nicht in der Cloud de Confiance Console sichtbar. Die Seite Training Clusters (Trainingscluster) wird nur für Projekte angezeigt, die für Gemini Enterprise Agent Platform-Trainingscluster registriert sind. Wenn Sie die Seite nicht sehen, wenden Sie sich an Ihren Vertriebsmitarbeiter.

Außerdem müssen die folgenden APIs in Ihrem Projekt in der Cloud de Confiance Console aktiviert sein. Wenn eine der APIs fehlt, wird auf der Seite Trainingscluster anstelle Ihrer Cluster der Button APIs aktivieren angezeigt:

  • aiplatform.googleapis.com
  • compute.googleapis.com
  • file.googleapis.com
  • hypercomputecluster.googleapis.com
  • lustre.googleapis.com
  • servicenetworking.googleapis.com
  • storage.googleapis.com

Authentifizierung für die API

In den Beispielen für die Agent Platform API auf dieser Seite wird der folgende Alias verwendet, mit dem die Google Cloud CLI aufgerufen wird, um ein Zugriffstoken zu generieren:

alias gcurl='curl -H "Authorization: Bearer $(gcloud auth print-access-token)" -H "Content-Type: application/json"'

Liste der Cluster aufrufen

In beiden Benutzeroberflächen werden Cluster jeweils in einer Region aufgeführt. In der Cloud de Confiance -Konsole wählen Sie die Region aus einer Liste aus. Bei der Agent Platform API ist die Region Teil der Anfrage-URL.

Console

  1. Rufen Sie in der Cloud de Confiance Console die Seite Training Clusters (Trainingscluster) auf.

    Zu Trainingsclustern

  2. Wählen Sie in der Liste Region die Region aus, in der Sie Cluster ansehen möchten.

    Auf der Seite werden die Cluster in dieser Region aufgeführt. Jede Spalte der Tabelle beschreibt eine Eigenschaft des Clusters:

    Spalte Beschreibung
    ID Die Cluster-ID, die Sie als CLUSTER_ID in Agent Platform API-Anfragen verwenden.
    Name Der Anzeigename des Clusters.
    Status Der Status des Clusters: Creating, Running, Updating, Stopping oder Error.
    Knoten Die Anzahl der Knoten im Cluster.
    Erstellungsdatum Wann der Cluster erstellt wurde.
    Maschinentypen Die Maschinentypen, die von den Knotenpools des Clusters verwendet werden.
    Nutzungsmodelle So wird die Kapazität des Clusters ermittelt: Reservation, Spot, Flex-start oder On-demand.

  3. Klicken Sie in der Spalte Name auf den Namen eines Clusters, um ihn zu öffnen.

REST

Wenn Sie eine Liste der Cluster in einer Region aufrufen möchten, senden Sie eine GET-Anfrage an die Sammlung modelDevelopmentClusters:

gcurl -X GET https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters

Ersetzen Sie Folgendes:

  • PROJECT_ID: die Projekt-ID.
  • REGION: Die Region, in der sich Ihre Cluster befinden.

Die Methode list unterstützt die folgenden optionalen Abfrageparameter zur Steuerung der Paginierung:

  • pageSize (Ganzzahl, optional): Die maximale Anzahl der Cluster, die in der Antwort zurückgegeben werden sollen. Der Dienst gibt möglicherweise weniger als diesen Wert zurück, auch wenn mehr Elemente vorhanden sind. Wenn nichts angegeben ist, wird eine Standardseitengröße verwendet.
  • pageToken (String, optional): Ein Token, das von einem vorherigen Listenaufruf empfangen wurde. Geben Sie dieses Token an, um die nächste Ergebnisseite abzurufen.

Im folgenden Beispiel wird die erste Ergebnisseite mit maximal fünf Clustern pro Seite angefordert:

gcurl "https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters?pageSize=5"

Eine erfolgreiche Antwort enthält ein modelDevelopmentClusters-Array mit bis zu fünf Clusterressourcen und möglicherweise auch einen nextPageToken-String.

Details eines Clusters ansehen

Sowohl die Cloud de Confiance Konsole als auch die Agent Platform API melden die Konfiguration eines Clusters und seinen aktuellen Status, einschließlich des Status der einzelnen Knoten. Cloud Monitoring-Dashboards sind nur in der Cloud de Confiance Console verfügbar.

Console

  1. Rufen Sie in der Cloud de Confiance Console die Seite Training Clusters (Trainingscluster) auf.

    Zu Trainingsclustern

  2. Wählen Sie in der Liste Region die Region aus, in der sich der Cluster befindet.

  3. Klicken Sie in der Spalte Name auf den Namen des Clusters, den Sie aufrufen möchten. Die Seite Clusterdetails wird auf dem Tab Übersicht geöffnet.

  4. Wählen Sie einen Tab aus, um die entsprechenden Details aufzurufen:

    • Übersicht: Name, Beschreibung und Standort des Clusters sowie die konfigurierten Einstellungen für Compute, Netzwerk und Orchestrierung, der Anmeldeknoten und die Slurm-Partitionen.

    • Knoten: Zwei Tabellen, in denen die Knoten im Cluster beschrieben werden.

    • Anmelden-Knoten mit den Spalten Status, Name, Zone, Maschinentyp, Interne IP-Adresse, Externe IP-Adresse und Verbinden. Verwenden Sie Verbinden, um eine SSH-Sitzung auf einem Anmeldeknoten zu öffnen.

    • Compute-Knoten mit den Spalten Status, Name, Zone, Maschinentyp, Interne IP-Adresse und Partition.

    • Beobachtbarkeit: Vorgefertigte Cloud Monitoring-Dashboards für CPU-, Arbeitsspeicher- und Netzwerknutzung im gesamten Cluster sowie GPU-Auslastung, NVIDIA Data Center GPU Manager-Messwerte (DCGM), GPU-Netzwerk und GPU-Zustand.

Wenn Sie die Seite mit dem aktuellen Status des Clusters neu laden möchten, klicken Sie auf  Aktualisieren. Wenn Sie das Cluster löschen möchten, klicken Sie auf  Löschen.

REST

Wenn Sie die Details eines einzelnen Clusters aufrufen möchten, senden Sie eine GET-Anfrage an die Clusterressource:

gcurl -X GET https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters/CLUSTER_ID

Ersetzen Sie Folgendes:

  • PROJECT_ID: die Projekt-ID.
  • REGION: Die Region, in der sich Ihr Cluster befindet.
  • CLUSTER_ID: Die ID des Clusters, den Sie aufrufen möchten. Dieser Wert wird in derCloud de Confiance Console auf der Seite Trainingscluster in der Spalte ID angezeigt.

Die Antwort ist eine ModelDevelopmentCluster-Ressource. Neben der Konfiguration des Clusters wird im Feld clusterStatus der aktuelle Status des Clusters und der einzelnen Knoten angegeben:

  • clusterStatus.state: Der Status des Clusters, entweder PROVISIONING, RUNNING, UPDATING, STOPPING oder ERROR. In der Cloud de Confiance Konsole wird PROVISIONING als Wird erstellt angezeigt.
  • clusterStatus.nodesStatus[]: Ein Eintrag für jeden Knoten im Cluster mit dem nodeState des Knotens (PREPARING, RUNNING, UPDATING oder ERROR), dem Namen der Compute Engine-Instanz, dem Knotenpool und der Uhrzeit, zu der sich der Status des Knotens zuletzt geändert hat.
  • clusterStatus.detail: Eine menschenlesbare Beschreibung des Clusterstatus, sofern verfügbar.

Eine Beschreibung der Konfigurationsfelder finden Sie in der Parameterreferenz.

Nächste Schritte