Alcune o tutte le informazioni in questa pagina potrebbero non essere applicabili a Cloud de Confiance di S3NS. Per maggiori dettagli, consulta Differenze rispetto a Google Cloud.

Google utilizza la tecnologia AI per tradurre i contenuti nella tua lingua preferita. Le traduzioni generate dall'AI potrebbero contenere errori.

Crea cluster

Se ti interessano i cluster di addestramento di Gemini Enterprise Agent Platform, contatta il tuo rappresentante di vendita per l'accesso.

Questa pagina fornisce il metodo diretto basato su API per creare e gestire un cluster di addestramento. Scoprirai come definire la configurazione completa del cluster, inclusi i nodi di accesso, le partizioni GPU ad alte prestazioni come A4 e le impostazioni dell'orchestratore Slurm, all'interno di un file JSON. Sono incluse anche informazioni su come utilizzare le chiamate curl e API REST per eseguire il deployment di questa configurazione, creare il cluster e gestirne il ciclo di vita con le operazioni GET, LIST, UPDATE e DELETE.

Definisci la configurazione del cluster

Crea un file JSON per definire la configurazione completa del cluster di addestramento.

Se il criterio dell'organizzazione vieta gli indirizzi IP pubblici sulle istanze di Compute, esegui il deployment del cluster di addestramento con il parametro enable_public_ips: false e utilizza Cloud NAT per il traffico in uscita verso internet.

Il primo passaggio per il provisioning di un cluster di addestramento consiste nel definire la sua configurazione completa in un file JSON. Questo file funge da progetto base per il cluster, specificando tutto, dal nome e dalle impostazioni della rete all'hardware per i nodi di accesso e i nodi worker.

La sezione seguente fornisce diversi file di configurazione JSON completi che fungono da modelli pratici per una serie di casi d'uso comuni. Consulta questo elenco per trovare l'esempio più adatto alle tue esigenze e utilizzalo come punto di partenza.

GPU solo con Filestore: Una configurazione standard per l'addestramento GPU per uso generico.
GPU con Filestore e Managed Lustre: Una configurazione avanzata per i job con I/O intensivo.
GPU con script di avvio: mostra come eseguire comandi personalizzati sui nodi all'avvio.
Cluster solo CPU: Una configurazione di base che utilizza solo risorse CPU.
Configurazione avanzata di Slurm: mostra l'impostazione dei parametri slurm.conf a livello di cluster, partizione o pool di nodi e l'esecuzione di script prolog ed epilog.

Ogni esempio è seguito da una descrizione dettagliata dei parametri chiave utilizzati all'interno di quella configurazione specifica.

Solo GPU con Filestore

Questa è la configurazione standard. Fornisce un'istanza Filestore che funge da directory /home per il cluster, adatta all'uso generale e all'archiviazione dei dati utente.

L'esempio seguente mostra i contenuti di gpu-filestore.json. Questa specifica crea un cluster con una partizione GPU. Puoi utilizzarlo come modello e modificare valori come machineType o nodeCount in base alle tue esigenze.

Per un elenco dei parametri, consulta Riferimento ai parametri.

 {
  "display_name": "DISPLAY_NAME",
  "network": {
    "network": "projects/PROJECT_ID/global/networks/NETWORK",
    "subnetwork": "projects/PROJECT_ID/regions/REGION/subnetworks/SUBNETWORK"
  },
  "node_pools": [
    {
      "id": "login",
      "machine_spec": {
        "machine_type": "n2-standard-8"
      },
      "scaling_spec": {
        "min_node_count": MIN_NODE_COUNT,
        "max_node_count": MAX_NODE_COUNT
      },
      "enable_public_ips": true,
      "zone": "ZONE",
      "boot_disk": {
        "boot_disk_type": "pd-standard",
        "boot_disk_size_gb": 200
      },
      "labels": { "example-key": "example-value" }
    },
    {
      "id": "a4",
      "machine_spec": {
        "machine_type": "a4-highgpu-8g",
        "accelerator_type": "NVIDIA_B200",
        "accelerator_count": 8,
        "reservation_affinity": {
          "reservationAffinityType": "RESERVATION_AFFINITY_TYPE",
          "key": "compute.googleapis.com/reservation-name",
          "values": [
            "projects/PROJECT_ID/zones/ZONE/reservations/RESERVATION_NAME"
          ]
        }
      },
      "provisioning_model": "RESERVATION",
      "scaling_spec": {
        "min_node_count": MIN_NODE_COUNT,
        "max_node_count": MAX_NODE_COUNT
      },
      "enable_public_ips": true,
      "zone": "ZONE",
      "boot_disk": {
        "boot_disk_type": "hyperdisk-balanced",
        "boot_disk_size_gb": 200
      },
      "labels": { "example-key": "example-value" }
    }
  ],
  "orchestrator_spec": {
    "slurm_spec": {
      "home_directory_storage": "projects/PROJECT_ID/locations/ZONE/instances/FILESTORE",
      "partitions": [
        {
          "id": "a4",
          "node_pool_ids": [
            "a4"
          ]
        }
      ],
      "login_node_pool_id": "login"
    }
  }
}

GPU con Filestore e Managed Lustre

Questa configurazione avanzata include l'istanza Filestore standard oltre a un file system Lustre ad alte prestazioni. Scegli questa opzione se i tuoi job di addestramento richiedono un accesso ad alta velocità effettiva a set di dati di grandi dimensioni.

Per un elenco dei parametri, consulta Riferimento ai parametri.

{
  "display_name": "DISPLAY_NAME",
  "network": {
    "network": "projects/PROJECT_ID/global/networks/NETWORK",
    "subnetwork": "projects/PROJECT_ID/regions/REGION/subnetworks/SUBNETWORK"
  },
  "node_pools": [
    {
      "id": "login",
      "machine_spec": {
        "machine_type": "n2-standard-8"
      },
      "scaling_spec": {
        "min_node_count": MIN_NODE_COUNT,
        "max_node_count": MAX_NODE_COUNT
      },
      "enable_public_ips": true,
      "zone": "ZONE",
      "boot_disk": {
        "boot_disk_type": "pd-standard",
        "boot_disk_size_gb": 200
      },
      "lustres": [
        "projects/PROJECT_ID/locations/ZONE/instances/LUSTRE"
      ]
    },
    {
      "id": "a4",
      "machine_spec": {
        "machine_type": "a4-highgpu-8g",
        "accelerator_type": "NVIDIA_B200",
        "accelerator_count": 8,
        "reservation_affinity": {
          "reservationAffinityType": "RESERVATION_AFFINITY_TYPE",
          "key": "compute.googleapis.com/reservation-name",
          "values": [
            "projects/PROJECT_ID/zones/ZONE/reservations/RESERVATION_NAME"
          ]
        }
      },
      "provisioning_model": "RESERVATION",
      "scaling_spec": {
        "min_node_count": MIN_NODE_COUNT,
        "max_node_count": MAX_NODE_COUNT
      },
      "enable_public_ips": true,
      "zone": "ZONE",
      "boot_disk": {
        "boot_disk_type": "hyperdisk-balanced",
        "boot_disk_size_gb": 200
      },
      "lustres": [
        "projects/PROJECT_ID/locations/ZONE/instances/LUSTRE"
      ]
    }
  ],
  "orchestrator_spec": {
    "slurm_spec": {
      "home_directory_storage": "projects/PROJECT_ID/locations/ZONE/instances/FILESTORE",
      "partitions": [
        {
          "id": "a4",
          "node_pool_ids": [
            "a4"
          ]
        }
      ],
      "login_node_pool_id": "login"
    }
  }
}

GPU con script di avvio

Questo esempio mostra come aggiungere uno script personalizzato a un pool di nodi. Questo script viene eseguito su tutti i nodi del pool all'avvio. Per configurare questa opzione, aggiungi i campi pertinenti alla definizione del pool di nodi oltre alle impostazioni generali. Per un elenco dei parametri e delle relative descrizioni, consulta Riferimento ai parametri.

{
  "display_name": "DISPLAY_NAME",
  "network": {
    "network": "projects/PROJECT_ID/global/networks/NETWORK",
    "subnetwork": "projects/PROJECT_ID/regions/REGION/subnetworks/SUBNETWORK"
  },
  "node_pools": [
    {
      "id": "login",
      "machine_spec": {
        "machine_type": "n2-standard-8"
      },
      "scaling_spec": {
        "min_node_count": MIN_NODE_COUNT,
        "max_node_count": MAX_NODE_COUNT
      },
      "enable_public_ips": true,
      "zone": "ZONE",
      "boot_disk": {
        "boot_disk_type": "pd-standard",
        "boot_disk_size_gb": 200
      },
      "startup_script" : "#Example script\nsudo mkdir -p /data\necho 'Script Finished'\n"
    },
    {
      "id": "a4",
      "machine_spec": {
        "machine_type": "a4-highgpu-8g",
        "accelerator_type": "NVIDIA_B200",
        "accelerator_count": 8,
        "reservation_affinity": {
          "reservationAffinityType": "RESERVATION_AFFINITY_TYPE",
          "key": "compute.googleapis.com/reservation-name",
          "values": [
            "projects/PROJECT_ID/zones/ZONE/reservations/RESERVATION_NAME"
          ]
        }
      },
      "provisioning_model": "PROVISIONING_MODEL",
      "scaling_spec": {
        "min_node_count": MIN_NODE_COUNT,
        "max_node_count": MAX_NODE_COUNT
      },
      "enable_public_ips": true,
      "zone": "ZONE",
      "boot_disk": {
        "boot_disk_type": "hyperdisk-balanced",
        "boot_disk_size_gb": 200
      },
      "startup_script" : "#Example script\nsudo mkdir -p /data\necho 'Script Finished'\n"
    }
  ],
  "orchestrator_spec": {
    "slurm_spec": {
      "home_directory_storage": "projects/PROJECT_ID/locations/ZONE/instances/FILESTORE",
      "partitions": [
        {
          "id": "a4",
          "node_pool_ids": [
            "a4"
          ]
        }
      ],
      "login_node_pool_id": "login"
    }
  }
}

Cluster solo CPU

Per eseguire il provisioning di un ambiente del cluster di addestramento, devi prima definire la sua configurazione completa in un file JSON. Questo file funge da progetto per il cluster, specificando tutto, dal nome e dalle impostazioni della rete all'hardware per i nodi di accesso e i nodi worker.

Per un elenco dei parametri, consulta Riferimento ai parametri.

{
  "display_name": "DISPLAY_NAME",
  "network": {
    "network": "projects/PROJECT_ID/global/networks/NETWORK",
    "subnetwork": "projects/PROJECT_ID/regions/REGION/subnetworks/SUBNETWORK"
  },
  "node_pools": [
    {
      "id": "cpu",
      "machine_spec": {
        "machine_type": "n2-standard-8"
      },
      "scaling_spec": {
        "min_node_count": MIN_NODE_COUNT,
        "max_node_count": MAX_NODE_COUNT
      },
      "zone": "ZONE",
      "enable_public_ips": true,
      "boot_disk": {
        "boot_disk_type": "pd-standard",
        "boot_disk_size_gb": 120
      }
    },
    {
      "id": "login",
      "machine_spec": {
        "machine_type": "n2-standard-8"
      },
      "scaling_spec": {
        "min_node_count": MIN_NODE_COUNT,
        "max_node_count": MAX_NODE_COUNT
      },
      "zone": "ZONE",
      "enable_public_ips": true,
      "boot_disk": {
        "boot_disk_type": "pd-standard",
        "boot_disk_size_gb": 120
      }
    }
  ],
  "orchestrator_spec": {
    "slurm_spec": {
      "home_directory_storage": "projects/PROJECT_ID/locations/ZONE/instances/FILESTORE",
      "partitions": [
        {
          "id": "cpu",
          "node_pool_ids": [
            "cpu"
          ]
        }
      ],
      "login_node_pool_id": "login"
    }
  }
}

Configurazione avanzata di Slurm

Questo esempio offre un controllo granulare su Slurm impostando i parametri slurm.conf per nome ed eseguendo script prolog ed epilog per la configurazione e la pulizia automatizzate dei job. I parametri possono essere impostati a livello di cluster, per una singola partizione o per un singolopool di nodil.

Esistono tre mappe di configurazione, una per ogni record slurm.conf:

config nella specifica Slurm per le impostazioni a livello di cluster
config su una partizione
Voce node_sets per un pool di nodi

Per le regole relative a nomi e valori dei parametri e ai parametri rifiutati, consulta Mappe di configurazione di Slurm.

Non devi definirli al momento della creazione. Tutte e tre le mappe possono essere modificate su un cluster in esecuzione senza riavviare i nodi o interrompere i job in coda. Vedi Aggiorna le impostazioni di configurazione di Slurm.

{
  "display_name": "DISPLAY_NAME",
  "network": {
    "network": "projects/PROJECT_ID/global/networks/NETWORK",
    "subnetwork": "projects/PROJECT_ID/regions/REGION/subnetworks/SUBNETWORK"
  },
  "node_pools": [
    {
      "id": "cpu",
      "machine_spec": {
        "machine_type": "n2-standard-8"
      },
      "scaling_spec": {
        "min_node_count": MIN_NODE_COUNT,
        "max_node_count": MAX_NODE_COUNT
      },
      "zone": "ZONE",
      "enable_public_ips": true,
      "boot_disk": {
        "boot_disk_type": "pd-standard",
        "boot_disk_size_gb": 120
      }
    },
    {
      "id": "login",
      "machine_spec": {
        "machine_type": "n2-standard-8"
      },
      "scaling_spec": {
        "min_node_count": MIN_NODE_COUNT,
        "max_node_count": MAX_NODE_COUNT
      },
      "zone": "ZONE",
      "enable_public_ips": true,
      "boot_disk": {
        "boot_disk_type": "pd-standard",
        "boot_disk_size_gb": 120
      }
    }
  ],
  "orchestrator_spec": {
    "slurm_spec": {
      "home_directory_storage": "projects/PROJECT_ID/locations/ZONE/instances/FILESTORE",
      "config": {
        "PriorityType": "priority/multifactor",
        "PriorityWeightAge": "1000",
        "PriorityWeightFairshare": "10000",
        "PreemptType": "preempt/partition_prio",
        "PreemptMode": "SUSPEND,GANG",
        "SchedulerParameters": "bf_continue,bf_window=1440,bf_resolution=600",
        "AccountingStorageEnforce": "limits,qos"
      },
      "prolog_bash_scripts": [
        "#!/bin/bash\necho 'Prolog script running'"
      ],
      "epilog_bash_scripts": [
        "#!/bin/bash\necho 'Epilog script running'"
      ],
      "partitions": [
        {
          "id": "cpu",
          "node_pool_ids": [
            "cpu"
          ],
          "config": {
            "MaxTime": "4-00:00:00",
            "DefMemPerCPU": "4096",
            "PriorityTier": "20"
          }
        }
      ],
      "node_sets": [
        {
          "node_pool_id": "cpu",
          "config": {
            "Weight": "10",
            "Features": "cpu,spot"
          }
        }
      ],
      "login_node_pool_id": "login"
    }
  }
}

La mappa con ambito cluster imposta la priorità multifattoriale, la preemption con priorità di partizione e SchedulerParameters, il cui termine bf_continue mostra la forma composita: un termine semplice attiva un flag e i termini sono separati da virgole. L'esecuzione del job dei limiti della mappa delle partizioni e la memoria predefinita per la partizione cpu e le etichette delle voci node_sets che raggruppano i nodi in modo che i job possano selezionarli con --constraint.

Una volta definito il cluster in un file JSON, utilizza i seguenti comandi dell'API REST per eseguire il deployment e gestire il cluster. Gli esempi utilizzano un alias gcurl, che è una scorciatoia autenticata e pratica per interagire con gli endpoint API. Questi comandi coprono l'intero ciclo di vita, dall'implementazione iniziale del cluster all'aggiornamento di un cluster, all'ottenimento del relativo stato, all'elenco di tutti i cluster e infine all'eliminazione del cluster.

Autenticazione

alias gcurl='curl -H "Authorization: Bearer $(gcloud auth print-access-token)" -H "Content-Type: application/json"'

Crea un file JSON

Crea un file JSON (ad esempio @cpu-cluster.json) per specificare la configurazione del cluster di addestramento del modello.

Esegui il deployment del cluster

Dopo aver creato il file di configurazione JSON, puoi eseguire il deployment del cluster utilizzando l'API REST.

Imposta le variabili di ambiente

Prima di eseguire il comando, imposta le seguenti variabili di ambiente. In questo modo, il comando API è più pulito e più facile da gestire.

PROJECT_ID: l'ID progetto Cloud de Confiance by S3NS in cui verrà creato il cluster.
REGION: La Cloud de Confiance by S3NS regione del cluster e delle relative risorse.
ZONE: la zona Cloud de Confiance by S3NS in cui verranno sottoposte a provisioning le risorse del cluster.
CLUSTER_ID: un identificatore univoco per il cluster di addestramento, che viene utilizzato anche come prefisso per denominare le risorse correlate.

Esegui il comando create

Ora esegui il seguente comando gcurl. Utilizza il file JSON (in questo esempio, cpu-cluster.json) come corpo della richiesta e le variabili di ambiente che hai appena impostato per creare l'endpoint API e i parametri di query.

  gcurl -X POST -d @cpu-cluster.json https://REGION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/REGION/modelDevelopmentClusters?model_development_cluster_id=CLUSTER_ID

Una volta avviato il deployment, verrà generato un ID operazione. Assicurati di copiare questo ID. Ti servirà per convalidare il cluster nel passaggio successivo.

  gcurl -X POST -d @cpu-cluster.json https://us-central1-aiplatform.googleapis.com/v1beta1/projects/managedtraining-project/locations/us-central1/modelDevelopmentClusters?model_development_cluster_id=training
  {
      "name": "projects/1059558423163/locations/us-central1/operations/2995239222190800896",
      "metadata": {
      "@type": "type.googleapis.com/google.cloud.aiplatform.v1beta1.CreateModelDevelopmentClusterOperationMetadata",
      "genericMetadata": {
        "createTime": "2025-10-24T14:16:59.233332Z",
        "updateTime": "2025-10-24T14:16:59.233332Z"
      },
      "progressMessage": "Create Model Development Cluster request received, provisioning..."
  }

Convalida il deployment del cluster

Monitora l'avanzamento del deployment utilizzando l'ID operazione fornito durante il deployment del cluster. Ad esempio, 2995239222190800896 è l'ID operazione nell'esempio citato in precedenza.

    gcurl https://REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/REGION/operations/OPERATION_ID

In sintesi

L'invio della configurazione del cluster con il comando POST gcurl avvia il provisioning del cluster, che è un'operazione asincrona a lunga esecuzione. L'API restituisce immediatamente una risposta contenente un Operation ID. È fondamentale salvare questo ID, poiché lo utilizzerai nei passaggi successivi per monitorare l'avanzamento del deployment, verificare che il cluster sia stato creato correttamente e gestirne il ciclo di vita.

Riferimento al parametro

Il seguente elenco descrive tutti i parametri utilizzati negli esempi di configurazione. I parametri sono organizzati in gruppi logici in base alla risorsa che configurano.

Impostazioni generali e di rete

DISPLAY_NAME: un nome univoco per il cluster di addestramento. La stringa può contenere solo caratteri alfanumerici minuscoli, deve iniziare con una lettera e non può superare i 10 caratteri.
PROJECT_ID: l'ID progetto Cloud de Confiance by S3NS .
REGION: la regione Cloud de Confiance by S3NS in cui si troveranno il cluster e le relative risorse.
NETWORK: la rete Virtual Private Cloud da utilizzare per le risorse del cluster.
ZONE: la Cloud de Confiance by S3NS zona per il cluster e le relative risorse.
SUBNETWORK: La subnet da utilizzare per le risorse del cluster.

Configurazione del node pool

I seguenti parametri vengono utilizzati per definire i pool di nodi per i nodi di accesso e di lavoro.

Impostazioni comuni del pool di nodi

ID: un identificatore univoco per il pool di nodi all'interno del cluster (ad esempio "login", "a4", "cpu").
PROVISIONING_MODEL: il modello di provisioning per il nodo worker (ad esempio ON_DEMAND, SPOT, RESERVATION, FLEX_START).
MACHINE_TYPE: il tipo di macchina per il nodo worker (ad esempio, a3-highgpu-8g, a3-megagpu-8g, a3-ultragpu-8g, a4-highgpu-8g). Per l'elenco completo dei tipi di macchina supportati, consulta Risorse di computing.
MIN_NODE_COUNT: MIN_NODE_COUNT deve essere uguale a MAX_NODE_COUNT.
MAX_NODE_COUNT: Per il pool di nodi di accesso, MAX_NODE_COUNT deve essere uguale a MIN_NODE_COUNT.
ENABLE_PUBLIC_IPS: un valore booleano (true o false) per determinare se il nodo di accesso ha un indirizzo IP pubblico.
BOOT_DISK_TYPE: Il tipo di disco di avvio per il nodo di accesso (ad esempio, pd-standard, pd-ssd).
BOOT_DISK_SIZE_GB: le dimensioni del disco di avvio in GB per il nodo di accesso.
LABELS: un insieme di coppie chiave/valore per etichettare il pool di nodi.
NODE_IMAGE (corrisponde a node_image all'interno di un oggetto node_pools): l'immagine VM da cui vengono avviati i nodi del pool di nodi, come percorso completo della risorsa immagine o famiglia di immagini (ad esempio, projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY). Se lo ometti, il pool di nodi utilizza l'immagine predefinita corrente per il tipo di macchina, che cambia nel tempo. Impostalo in modo che il pool di nodi rimanga su un'immagine specifica. La modifica dell'immagine di un pool di nodi ricrea i relativi nodi.

Impostazioni di archiviazione aggiuntive

FILESTORES (corrisponde a filestores all'interno di un oggetto node_pools): un elenco di istanze Filestore preesistenti da montare sul pool di nodi per l'accesso ai file condivisi.
LUSTRES (corrisponde a lustres all'interno di un oggetto node_pools): un elenco di istanze Lustre preesistenti da montare sul pool di nodi per l'accesso ai file ad alte prestazioni.

Impostazioni specifiche del lavoratore

ACCELERATOR_TYPE: l'acceleratore GPU corrispondente da collegare ai nodi worker. I valori supportati sono:
- NVIDIA_H100_80GB
- NVIDIA_H100_MEGA_80GB
- NVIDIA_H200_141GB
- NVIDIA_B200
ACCELERATOR_COUNT: Il numero di acceleratori da collegare a ogni nodo worker.
RESERVATION_AFFINITY_TYPE (corrisponde a machine_spec.reservation_affinity.reservationAffinityType): l'affinità di prenotazione per il pool di nodi. Questo parametro deve essere SPECIFIC_RESERVATION, l'unico valore supportato. Quando viene utilizzato SPECIFIC_RESERVATION, devi specificare la prenotazione in machine_spec.reservation_affinity.values.
RESERVATION_NAME: il nome della prenotazione da utilizzare per il pool di nodi. Questo valore viene utilizzato nel nome completo della risorsa di prenotazione fornito in machine_spec.reservation_affinity.values, ad esempio projects/PROJECT_ID/zones/ZONE/reservations/RESERVATION_NAME. È necessaria una prenotazione quando RESERVATION_AFFINITY_TYPE è SPECIFIC_RESERVATION.

Configurazione dell'orchestratore e dello spazio di archiviazione

Questi campi sono definiti all'interno del blocco orchestrator_spec.slurm_spec del file JSON.

Impostazioni di base di Slurm e Storage

HOME_DIRECTORY_STORAGE (corrisponde a home_directory_storage): il nome completo della risorsa dell'istanza Filestore preesistente da montare come directory /home.
LOGIN_NODE_POOL_ID (corrisponde a login_node_pool_id): l'ID del pool di nodi da utilizzare per i nodi di accesso.
partitions: un elenco di oggetti partizione, in cui ogni oggetto richiede un id e un elenco di node_pool_ids.
default_partition_id (facoltativo): il id della partizione utilizzata per eseguire i job Slurm quando non viene specificata esplicitamente alcuna partizione (ad esempio, quando si esegue sbatch senza il flag --partition). Se non viene impostata, la prima partizione nell'elenco delle partizioni diventa quella predefinita, pertanto il riordino dell'elenco cambierà la partizione predefinita.

Impostazioni avanzate di Slurm

prolog_bash_scripts: un elenco di stringhe, dove ogni stringa contiene l'intero contenuto di uno script Bash da eseguire prima dell'inizio di un job.
epilog_bash_scripts: un elenco di stringhe, dove ogni stringa contiene l'intero contenuto di uno script Bash da eseguire al termine di un job.
config, partitions[].config e node_sets: parametri Slurm impostati per nome. Consulta Mappe di configurazione di Slurm.
scheduling e accounting: sostituito. Questi due oggetti espongono un insieme fisso di parametri di priorità, preemption e contabilità, ognuno dei quali può essere impostato per nome nella mappa config con ambito cluster (priority_type come "PriorityType", preempt_mode come "PreemptMode" e così via). Funzionano ancora per i cluster che li utilizzano, ma i nuovi cluster devono utilizzare config, che supporta molti più parametri slurm.conf rispetto a questo sottoinsieme.

Mappe di configurazione Slurm

I parametri Slurm sono impostati per nome, in tre mappe, una per ogni record slurm.conf:

config: impostazioni con ambito cluster, scritte come righe globali Key=Value.
partitions[].config: impostazioni per una partizione, scritte come coppie aggiuntive nella riga PartitionName= della partizione.
node_sets: un elenco di oggetti, ognuno con una mappa node_pool_id e una mappa config. Le impostazioni vengono scritte come coppie aggiuntive nella riga NodeName= per i nodi del pool di nodi. Al massimo una voce per pool di nodi e il pool deve essere un pool di calcolo del cluster, non il pool di accesso.

In tutti e tre, le chiavi sono i nomi dei parametri Slurm come documentati da SchedMD, senza distinzione tra maiuscole e minuscole e ignorando i trattini bassi, quindi DefMemPerCPU, defmempercpu e def_mem_per_cpu indicano tutti lo stesso parametro. I valori sono scritti nel modo in cui li scrive slurm.conf, inclusi gli elenchi separati da virgole, ad esempio "PreemptMode": "SUSPEND,GANG" e i valori compositi, ad esempio "SchedulerParameters": "bf_window=1440,bf_resolution=600".

Ogni mappa supporta un sottoinsieme dei parametri slurm.conf validi per il relativo record, non tutti. Se hai bisogno di un parametro non supportato, contatta il tuo contatto dei cluster di addestramento di Gemini Enterprise Agent Platform.

Un parametro non supportato nell'ambito in cui lo hai impostato o un valore non valido per questo parametro viene rifiutato quando effettui la richiesta e l'errore indica il nome del parametro. Nessun elemento viene eliminato silenziosamente. Alcuni parametri vengono rifiutati per un motivo specifico:

Il servizio gestisce il controllo dell'integrità dei nodi e la rimessa in coda dei job, pertanto non è possibile impostare HealthCheckProgram, HealthCheckInterval, HealthCheckNodeState e RequeueExit.
Prolog e Epilog sono impostati tramite prolog_bash_scripts e epilog_bash_scripts.
I parametri slurmdbd.conf, come StorageHost e PurgeJobAfter, non sono configurabili: il database di contabilità è gestito dal servizio.
Nell'ambito della partizione, Default viene rifiutato. La partizione predefinita è una scelta a livello di cluster, impostata con default_partition_id.

Avviso:il servizio convalida ogni parametro singolarmente, non se il slurm.conf risultante è valido nel suo complesso. Alcune impostazioni accettate impediscono l'avvio del controller Slurm, ad esempio "PreemptType": "preempt/none" con "PreemptMode": "SUSPEND,GANG" o una partizione AllowQos che nomina una QoS non definita dal cluster. L'operazione di creazione o aggiornamento può comunque segnalare la riuscita, ma i comandi Slurm come sinfo e scontrol non vanno a buon fine. Controlla le impostazioni in base al riferimento slurm.conf per la versione di Slurm del cluster. Se i comandi Slurm non vanno a buon fine dopo una creazione o un aggiornamento, contatta il tuo contatto per i cluster di addestramento della Gemini Enterprise Agent Platform, che può identificare l'impostazione che ha causato l'errore.

Nota:la mappa config con ambito cluster sostituisce i campi scheduling e accounting, quindi un cluster utilizza uno o l'altro e una richiesta che imposta entrambi viene rifiutata. Tieni presente che ogni valore è il testo letterale slurm.conf, quindi i numeri vengono scritti come stringhe: "priority_weight_age": 1000 diventa "PriorityWeightAge": "1000". Le mappe con ambito di partizione e nodo non sono interessate: descrivono record slurm.conf diversi e possono essere utilizzate insieme a questi campi.

Configurazione di runtime

Questi campi sono definiti all'interno del blocco runtime_spec del file JSON.

service_account: il account di servizio predefinito utilizzato dal cluster durante l'esecuzione di qualsiasi carico di lavoro. Se non viene specificato, viene utilizzato il account di servizio Compute Engine predefinito. Questo campo non può essere aggiornato dopo la creazione del cluster.

Attenzione:contatta il team dell'Account Google prima di creare un cluster con un service_account personalizzato. Per impostazione predefinita, l'account di servizio Compute Engine predefinito del tuo progetto ha accesso ai repository degli agenti dei cluster di addestramento della piattaforma di agenti Gemini Enterprise. Se utilizzi un service account personalizzato, il team dedicato al tuo Account Google deve concedergli l'accesso separatamente.

Passaggi successivi

Utilizza il cluster di addestramento persistente attivo per eseguire i carichi di lavoro di machine learning.

Esegui un job sul tuo cluster: invia un CustomJob per eseguire un job di addestramento sul tuo cluster persistente.
- Scopri come eseguire un job di addestramento distribuito
Orchestra l'addestramento con le pipeline di Gemini Enterprise Agent Platform: per workflow ripetibili e di livello di produzione, automatizza il processo di invio dei job utilizzando le pipeline di Agent Platform.
- Scopri di più sull'orchestrazione dei job su un cluster di addestramento
Visualizza il cluster: elenca i cluster esistenti nel tuo progetto, controlla il loro stato e visualizza i dettagli di configurazione utilizzando la console Cloud de Confiance o l'API Agent Platform.
- Scopri come visualizzare i tuoi cluster di allenamento
Modifica del cluster: aggiorna la configurazione di un cluster esistente, ad esempio il numero di nodi o le partizioni Slurm.
- Scopri come gestire il cluster di addestramento
Elimina il cluster per interrompere l'addebito dei costi: i cluster di addestramento sono permanenti e comportano costi durante il periodo di attività.
- Scopri come eliminare il cluster di addestramento