Informazioni sulle richieste di prenotazione futura in modalità calendario

Questo documento fornisce una panoramica delle richieste di prenotazione futura in modalità calendario.

Utilizza le richieste di prenotazione futura in modalità calendario per ottenere risorse ad alta richiesta, ad esempio per creare istanze di macchine virtuali (VM) con GPU o TPU collegate. Quando Cloud de Confiance by S3NS approva una richiesta di prenotazione, Compute Engine esegue il provisioning delle risorse prenotate alla data e all'ora specificate e per una durata massima di 90 giorni. Puoi quindi utilizzare le risorse riservate per creare VM GPU, VM H4D o VM TPU per eseguire i seguenti carichi di lavoro:

  • Job di pre-addestramento dei modelli

  • Job di ottimizzazione dei modelli

  • Workload di simulazione per il computing ad alte prestazioni (HPC)

  • Aumenti dei workload di inferenza previsti nel breve termine

Per saperne di più su altri modi per prenotare risorse in Compute Engine, consulta Scegliere un tipo di prenotazione.

Creare una richiesta in modalità calendario

Le sezioni seguenti spiegano come visualizzare la disponibilità delle risorse e quali dettagli specificare quando crei una richiesta di prenotazione futura in modalità calendario.

Visualizzare la disponibilità futura della risorsa

Prima di creare una richiesta di prenotazione futura in modalità calendario, puoi visualizzare la disponibilità futura in una regione delle seguenti risorse:

  • Per le VM GPU o H4D, fino a 60 giorni prima

  • Per le TPU, fino a 120 giorni di anticipo

Compute Engine utilizza Dynamic Workload Scheduler (DWS) per visualizzare quando sono disponibili le risorse richieste. Quando crei una richiesta, specifica il numero, il tipo e il periodo di prenotazione delle risorse che hai confermato come disponibili. Cloud de Confiance è più probabile che approvi la tua richiesta se fornisci queste informazioni.

Definisci le proprietà della richiesta

Quando crei una richiesta di prenotazione futura in modalità calendario, devi specificare le seguenti proprietà:

  • Eliminazione automatica. Questa proprietà determina se Compute Engine elimina la prenotazione creata automaticamente (auto-created) per la tua richiesta all'ora di fine, anche se la prenotazione non è stata utilizzata completamente. Per creare una richiesta in modalità calendario, devi attivare l'opzione di eliminazione automatica.

  • Tipo di consumo. Questa proprietà definisce il modo in cui le VM utilizzano la prenotazione creata automaticamente. Quando crei una richiesta in modalità calendario, devi specificare che vuoi creare prenotazioni con target specifico. Questa impostazione indica che solo le VM che hanno come target la prenotazione possono utilizzarla.

  • Tipo di deployment. Questa proprietà definisce la collocazione delle risorse riservate. Compute Engine riserva le risorse in base al tipo di risorsa:

    • Per le VM GPU o H4D, devi specificare il tipo di deployment densa (DENSE) quando crei una richiesta. Questa configurazione specifica di riservare densamente le risorse per una latenza di rete minima.

    • Per le TPU, Compute Engine utilizza per impostazione predefinita il tipo di deployment flessibile (FLEXIBLE). Questa configurazione specifica di riservare le risorse il più vicino possibile in base al principio del "best effort".

  • Nome. Il nome della richiesta, che deve essere univoco all'interno del progetto.

  • Numero di risorse. Il numero di VM GPU, VM H4D o TPU da prenotare all'ora di inizio richiesta.

  • Stato della pianificazione. Questa proprietà definisce se inviare immediatamente la richiesta a Cloud de Confiance per la revisione o salvarla come bozza e inviarla in un secondo momento. Quando crei una richiesta in modalità calendario, devi specificare di inviare immediatamente la richiesta per la revisione.

  • Modalità di prenotazione. Questa proprietà definisce il metodo per prenotare le risorse, che devi impostare su CALENDAR per una richiesta in modalità calendario.

  • Nome prenotazione. Il nome della prenotazione che Compute Engine crea automaticamente se Cloud de Confiance approva la tua richiesta.

  • Tipo di condivisione. Questa proprietà definisce se altri progetti della tua organizzazione possono utilizzare la prenotazione creata automaticamente per la richiesta approvata. Puoi specificare una delle seguenti opzioni:

    • Singolo progetto. Solo il tuo progetto può utilizzare la capacità prenotata.

    • Condiviso. Puoi condividere la capacità riservata con un massimo di 100 altri progetti nella tua organizzazione. Se specifichi questa opzione, devi specificare i progetti con cui condividere la prenotazione creata automaticamente. Per maggiori informazioni, consulta le best practice per le prenotazioni condivise.

  • Periodo di prenotazione. La data e l'ora in cui Compute Engine esegue il provisioning della capacità richiesta e puoi utilizzarla. Il periodo di prenotazione include quanto segue:

    • Ora di inizio. Quando vuoi iniziare a utilizzare la capacità riservata. In base alle risorse che prenoti, l'ora di inizio deve essere almeno uno dei seguenti valori dal momento in cui crei e invii una richiesta:

      • Per le VM GPU e H4D, 87 ore (tre giorni e 15 ore)

      • Per le TPU, sei ore

    • Ora di fine. Quando la capacità richiesta non è più riservata a te. A questo punto, Compute Engine elimina la prenotazione creata automaticamente e arresta o elimina le VM che la utilizzano in base all'azione di terminazione specificata per le VM.

  • Proprietà della risorsa. I requisiti hardware delle VM con GPU, delle VM H4D o delle TPU che vuoi prenotare. Le VM possono utilizzare una prenotazione solo se le loro proprietà corrispondono a quelle della prenotazione. Per saperne di più, consulta i requisiti per utilizzare le prenotazioni.

  • Zona. La zona in cui vuoi prenotare la capacità.

Procedura di richiesta di revisione

Per prenotare la capacità utilizzando una richiesta di prenotazione futura in modalità calendario, devi creare e inviare la richiesta a Cloud de Confiance per la revisione. Dopo aver creato e inviato una richiesta, Cloud de Confiance la esamina entro un minuto e poi si verifica uno dei seguenti casi:

  • Cloud de Confiance approva la tua richiesta: Compute Engine prenota le risorse richieste e, entro un minuto dall'approvazione, crea automaticamente una prenotazione vuota. A meno che tu non annulli la richiesta, Compute Engine esegue il provisioning della capacità richiesta aumentando il numero di VM GPU, VM H4D o TPU nella prenotazione all'ora di inizio della richiesta.

  • Si verifica un errore. La richiesta non va a buon fine perché la zona della richiesta non dispone di risorse sufficienti. Ti consigliamo di visualizzare di nuovo la disponibilità futura delle risorse, quindi di creare e inviare una nuova richiesta di revisione.

Ciclo di vita della richiesta

Il seguente diagramma mostra i diversi stati in cui Compute Engine può impostare una richiesta di prenotazione futura in modalità calendario:

Un diagramma di flusso che mostra i diversi stati che può assumere una richiesta di prenotazione futura in modalità calendario.

Gli stati e il flusso di eventi mostrati nel diagramma precedente sono i seguenti:

  • PENDING_APPROVAL: hai creato e inviato una richiesta di revisione. Entro un minuto, Cloud de Confiance approva la richiesta.

  • APPROVED: Cloud de Confiance ha approvato la tua richiesta. Entro un minuto, Compute Engine crea una prenotazione vuota e modifica lo stato della richiesta in PROCURING.

  • PROCURING: Compute Engine pianifica il provisioning delle risorse riservate. Per impedire questo provisioning, puoi annullare la richiesta se soddisfa una delle seguenti condizioni:

    • L'ora di inizio è tra più di 30 giorni.

    • Annulli la richiesta entro 24 ore dall'approvazione e l'ora di inizio è almeno quattro giorni dopo.

    Prima che la richiesta raggiunga l'ora di inizio, il relativo stato cambia in PROVISIONING.

  • CANCELLED: hai annullato la richiesta mentre era nello stato PROCURING. Questa azione rilascia la capacità riservata e non ti vengono addebitati costi. Puoi conservare la richiesta per riferimento futuro o eliminarla se non ti serve più.

  • PROVISIONING: Compute Engine sta eseguendo il provisioning delle risorse prenotate aumentando il numero di VM con GPU, VM H4D o TPU nella prenotazione creata automaticamente. Quando la richiesta raggiunge l'ora di inizio, lo stato della richiesta cambia in FULFILLED.

  • FULFILLED: Compute Engine ha eseguito il provisioning delle risorse riservate e ti vengono addebitati i costi. Puoi utilizzare la prenotazione creata automaticamente creando VM fino all'ora di fine della richiesta.

Quando la richiesta raggiunge l'ora di fine, Compute Engine elimina la prenotazione creata automaticamente e arresta o elimina le VM che utilizzano la prenotazione in base all'azione di terminazione configurata nelle VM. Puoi conservare la richiesta in modalità calendario per documentazione o eliminarla se non ti serve più.

Consumare la capacità di provisioning

Dopo che Cloud de Confiance approva una richiesta di prenotazione futura in modalità calendario, Compute Engine crea automaticamente una prenotazione con le seguenti caratteristiche:

  • La prenotazione creata automaticamente non ha VM GPU, VM H4D o TPU riservate; non puoi ancora utilizzarla.

  • La prenotazione creata automaticamente eredita le proprietà della VM o della TPU specificate nella richiesta.

All'ora di inizio della richiesta, Compute Engine esegue il provisioning della capacità richiesta aumentando il numero di VM con GPU, VM H4D o TPU nella prenotazione creata automaticamente. Puoi quindi utilizzare la prenotazione creando VM GPU, VM H4D o VM TPU che soddisfano tutte le seguenti condizioni:

Puoi creare VM finché la prenotazione non viene consumata completamente o fino all'ora di fine della richiesta. All'ora di fine richiesta, Compute Engine elimina la prenotazione creata automaticamente e arresta o elimina le VM che la utilizzano.

Quota

I requisiti di quota per le richieste di prenotazione futura in modalità calendario dipendono dal tipo di macchina come segue:

  • Tipi di macchine GPU e TPU: non è richiesta alcuna quota per riservare la capacità.

  • Tipi di macchine H4D: la quota CPU viene utilizzata.

Quando crei VM utilizzando la capacità riservata, devi disporre di una quota sufficiente per le risorse che non fanno parte della prenotazione, ad esempio dischi o indirizzi IP. In caso contrario, la creazione delle VM non andrà a buon fine.

Prezzi

Quando crei e invii una richiesta di prenotazione futura in modalità calendario e Cloud de Confiance approva la tua richiesta, non ti vengono addebitati immediatamente costi. Al contrario, ti vengono addebitati costi quando si verifica quanto segue:

  • Compute Engine esegue il provisioning della capacità richiesta. Quando la tua richiesta raggiunge lo stato FULFILLED all'ora di inizio della richiesta, ti vengono addebitati i costi per le risorse di cui è stato eseguito il provisioning in base ai prezzi di DWS. Questo modello di prezzi offre vCPU, memoria, GPU e TPU a un prezzo scontato rispetto ai prezzi standard.

  • Utilizzi risorse al di fuori della prenotazione. Quando crei VM che utilizzano una prenotazione creata automaticamente, non vengono addebitati costi aggiuntivi per le risorse utilizzate. Ti vengono addebitati costi solo per le risorse che non fanno parte della prenotazione, ad esempio dischi o indirizzi IP.

Gli addebiti per le risorse prenotate vengono interrotti all'ora di fine della richiesta. A questo punto, Compute Engine elimina la prenotazione creata automaticamente e interrompe o elimina le VM che utilizzano la prenotazione in base all'azione di terminazione.

Limitazioni

Le sezioni seguenti spiegano le limitazioni per le richieste di prenotazione future in modalità calendario.

Limitazioni per tutte le richieste

Tutte le richieste di prenotazione futura in modalità calendario sono soggette alle seguenti limitazioni:

  • Puoi prenotare risorse per un periodo compreso tra 1 e 90 giorni.

  • Dopo aver inviato una richiesta e Cloud de Confiance l'ha approvata, si applicano le seguenti limitazioni:

    • Puoi annullare la richiesta se soddisfa una delle seguenti condizioni:

      • L'ora di inizio è tra più di 30 giorni.

      • Annulli la richiesta entro 24 ore dall'approvazione e l'ora di inizio è almeno quattro giorni dopo.

    • Puoi eliminare la richiesta dopo averla annullata o dopo che ha raggiunto l'ora di fine.

    • Non puoi modificare la richiesta.

Limitazioni per le richieste di VM GPU o H4D

Puoi prenotare solo VM GPU o VM H4D come segue:

  • Puoi prenotare il seguente numero di VM per richiesta:

    • Per le VM GPU, tra 1 e 80 VM

    • Per le VM H4D, tra 1 e 256 VM

  • Puoi prenotare le seguenti serie di macchine:

  • Puoi prenotare VM GPU o H4D solo in zone specifiche. Per maggiori informazioni, consulta le seguenti risorse:

  • Non puoi utilizzare un modello di istanza per creare richieste per VM GPU o H4D.

Limitazioni per le richieste di VM TPU

Puoi prenotare le VM TPU solo nel seguente modo:

  • Puoi prenotare 1, 4, 8, 16, 32, 64, 128, 256, 512 o 1024 chip TPU per richiesta.

  • Puoi prenotare le seguenti versioni di TPU:

  • Puoi prenotare TPU solo nelle seguenti zone:

    • TPU7x:

      • us-central1-c

    • TPU v6e:

      • asia-northeast1-b

      • europe-west4-a

      • us-east5-a

      • us-east5-b

      • us-south1-ai1b

    • TPU v5p:

      • us-east5-a

Limitazioni per tutte le prenotazioni create automaticamente

Una prenotazione creata automaticamente per una richiesta presenta le seguenti limitazioni:

  • Puoi modificare la prenotazione solo come segue:

    • Per consentire o meno l'utilizzo da parte dei job Vertex AI.

    • Dopo l'ora di inizio della prenotazione.

  • Non puoi applicare sconti per impegno di utilizzo (CUD) o sconti per utilizzo sostenuto (SUD) alla prenotazione.

  • Non puoi eliminare la prenotazione. Compute Engine la elimina all'ora di fine della prenotazione.

Passaggi successivi