Visualizza la disponibilità delle VM spot

Questo documento spiega come visualizzare la disponibilità in tempo reale e l'uptime previsto per le VM spot.

Prima di creare VM spot, puoi visualizzare la disponibilità in tempo reale e l'uptime previsto in più tipi di macchine e località utilizzando l'API advice.capacity. Queste informazioni ti aiutano a:

• Ridurre gli errori di disponibilità delle risorse. Quando vedi quali tipi di macchine, regioni o zone hanno capacità disponibile, puoi specificare queste configurazioni quando crei VM spot. Questa azione riduce le probabilità di riscontrare errori di disponibilità delle risorse.

• Ottimizza i workload per la preemption. Confrontando l'uptime previsto in diverse configurazioni di macchine e località, puoi scegliere le configurazioni più adatte ai tuoi workload. Il controllo di questi fattori ti consente di progettare e organizzare le tue VM spot in modo che il preempt non interrompa i tuoi carichi di lavoro.

Per scoprire come confrontare stabilità e costi tra diversi tipi di macchine e località, consulta invece Visualizzare il tasso di preemptive e i prezzi delle VM spot.

Limitazioni

Quando invii una richiesta all'API advice.capacity, non puoi visualizzare la disponibilità delle TPU.

Informazioni sulla visualizzazione della disponibilità delle risorse per le VM spot

Quando invii una richiesta all'API advice.capacity, l'output mostra le seguenti metriche di raccomandazione. Queste metriche si basano sul tipo di macchina che vuoi che le tue VM spot utilizzino, sulla zona in cui vuoi creare VM spot e sulla disponibilità in tempo reale e sulle tariffe di prerilascio storiche delle risorse richieste.

• Punteggio di ottenibilità: la probabilità che la tua richiesta di creazione di VM spot con il numero di VM e la configurazione della macchina specificati vada a buon fine. Per ulteriori informazioni, consulta Punteggio di ottenibilità per le VM spot.

• Tempo di attività stimato: il periodo di tempo minimo che puoi prevedere per l'esecuzione della maggior parte delle tue VM spot prima che Compute Engine le prerilasci. Per saperne di più, consulta Tempo di attività stimato per le VM spot.

Punteggio di ottenibilità per le VM spot

Quando invii una richiesta all'API advice.capacity, il punteggio di ottenibilità (obtainability) nell'output indica la probabilità che tu possa creare correttamente il numero specificato di VM spot in una o più zone. Compute Engine calcola questo punteggio in base alla disponibilità in tempo reale delle risorse richieste e al tasso di successo delle richieste di creazione recenti.

Il punteggio di ottenibilità varia da 0.0 a 1.0 e indica una delle seguenti probabilità di successo:

• Probabilità di successo elevate (da 0.7 a 1.0): è molto probabile che tu riesca a creare le VM spot richieste.

• Probabilità di successo media (da 0.4 a 0.6): è moderatamente probabile che tu riesca a creare le VM spot richieste. Se crei VM spot in blocco o in un MIG con una dimensione target, potresti ottenere solo una parte delle VM richieste.

• Probabilità di successo basse (da 0.0 a 0.3): è improbabile che tu riesca a creare le VM spot richieste. Ti consigliamo di verificare la disponibilità delle risorse in una località diversa o per un tipo di macchina diverso oppure di creare VM utilizzando un modello di provisioning diverso.

Tempo di attività stimato per le VM spot

Quando invii una richiesta all'API advice.capacity, l'uptime stimato (estimatedUptime) nell'output indica il tempo minimo previsto per l'esecuzione della maggior parte del numero specificato di VM spot prima del prerilascio. Compute Engine calcola questo uptime in base ai pattern di utilizzo storici e attuali per il tipo di macchina e la località specificati.

Compute Engine può impostare l'uptime stimato su uno dei seguenti valori:

• 60 minuti (3600 secondi): la maggior parte delle tue VM spot probabilmente verrà eseguita per un'ora prima che Compute Engine le prerilasci. Crea VM per carichi di lavoro a esecuzione prolungata che possono tollerare interruzioni, come i carichi di lavoro batch.

• 10 minuti (600 secondi): la maggior parte delle VM spot probabilmente verrà eseguita per 10 minuti prima che Compute Engine le prerilasci. Crea VM solo per attività a esecuzione breve o per carichi di lavoro a tolleranza di errore che salvano i progressi a intervalli brevi.

• 1 minuto (60 secondi): la maggior parte delle VM spot verrà eseguita per un minuto prima che Compute Engine le prerilasci. Ti consigliamo di procedere come segue:

  • Crea VM solo per attività molto brevi, test o carichi di lavoro non critici.

  • Verifica la disponibilità delle risorse in un'altra località o per un tipo di macchina diverso.

  • Crea VM utilizzando un modello di provisioning diverso.

Best practice

Per massimizzare le probabilità di ottenere capacità dopo aver utilizzato l'API advice.capacity, ti consigliamo le seguenti best practice:

• Confronta gli output tra diversi tipi di macchine: se il tuo workload è flessibile, confronta le opzioni con un numero diverso di VM spot o tipi di macchine. Ad esempio, puoi confrontare l'output per 100 VM con un tipo di macchina n1-standard-2 e 50 VM con un tipo di macchina n1-standard-4. Poi, puoi creare VM spot utilizzando la configurazione che bilancia meglio l'ottenibilità e l'uptime stimato per le esigenze del tuo workload.

• Confronta gli output in più località: se il tuo workload può essere eseguito in più regioni o zone, controlla la disponibilità in ogni località. Ad esempio, se due regioni offrono lo stesso uptime stimato, crea VM spot nella regione con il punteggio di ottenibilità più alto.

• Distribuire le VM in più zone: se specifichi una forma di distribuzione target ANY o BALANCED, l'API advice.capacity potrebbe consigliarti di creare VM spot in più zone. Ad esempio, per massimizzare le probabilità di creare 100 VM spot, l'output potrebbe consigliarti di creare 90 VM in una zona e 10 VM in un'altra zona.

Prima di iniziare

• L'API advice.capacity include zone AI per impostazione predefinita nei suoi suggerimenti relativi a disponibilità e uptime previsto. Per assicurarti di poter creare VM spot nelle zone AI se l'API consiglia di creare VM in una di queste zone, verifica che le zone AI siano attivate per il tuo progetto.
• Se non l'hai ancora fatto, configura l'autenticazione. L'autenticazione verifica la tua identità per l'accesso ad API e servizi Cloud de Confiance by S3NS . Per eseguire codice o esempi da un ambiente di sviluppo locale, puoi autenticarti su Compute Engine selezionando una delle seguenti opzioni:

  Seleziona la scheda relativa a come prevedi di utilizzare gli esempi in questa pagina:

  Console

  Quando utilizzi la console Cloud de Confiance per accedere ai servizi Cloud de Confiance by S3NS e alle API, non devi configurare l'autenticazione.

  gcloud

  1. Installa Google Cloud CLI, quindi accedi a gcloud CLI con la tua identità federata. Dopo aver eseguito l'accesso, inizializza Google Cloud CLI eseguendo il comando seguente:

     gcloud init

• Imposta una regione e una zona predefinite.

REST

Per utilizzare gli esempi di API REST in questa pagina in un ambiente di sviluppo locale, utilizzi le credenziali che fornisci a gcloud CLI.

Installa Google Cloud CLI, quindi accedi a gcloud CLI con la tua identità federata.

Per saperne di più, consulta Autenticati per usare REST nella documentazione sull'autenticazione di Cloud de Confiance .

Ruoli obbligatori

Per ottenere le autorizzazioni necessarie per visualizzare la disponibilità delle VM spot, chiedi all'amministratore di concederti il ruolo IAM Compute Viewer (roles/compute.viewer) nel progetto. Per saperne di più sulla concessione dei ruoli, consulta Gestisci l'accesso a progetti, cartelle e organizzazioni.

Questo ruolo predefinito contiene le autorizzazioni necessarie per visualizzare la disponibilità delle VM spot. Per vedere quali sono esattamente le autorizzazioni richieste, espandi la sezione Autorizzazioni obbligatorie:

Potresti anche ottenere queste autorizzazioni con ruoli personalizzati o altri ruoli predefiniti.

Visualizza la disponibilità delle VM spot

Per visualizzare la disponibilità delle VM spot, devi specificare la località, la configurazione della macchina e il numero di VM che vuoi creare. In base ai risultati, puoi creare le VM spot o visualizzare la disponibilità delle risorse in un'altra località o per un'altra configurazione della macchina.

A seconda dei requisiti del workload, valuta quanto segue:

• Per visualizzare la disponibilità in più serie di macchine, tipi di macchine e regioni o zone contemporaneamente, utilizza la console Cloud de Confiance .

• Per visualizzare la disponibilità delle forme di distribuzione target in un MIG a livello di regione, utilizza gcloud CLI o l'API REST.

• Per visualizzare la disponibilità delle VM con GPU N1 o degli SSD locali non collegati a un tipo di macchina per impostazione predefinita, utilizza l'API REST.

Per visualizzare la disponibilità delle VM spot, seleziona una delle seguenti opzioni:

gcloud beta compute advice capacity \
    --provisioning-model=SPOT \
    --instance-selection-machine-types=MACHINE_TYPES \
    --target-distribution-shape=TARGET_DISTRIBUTION_SHAPE \
    --size=SIZE \
    --region=REGION

recommendations:
- scores:
  obtainability: 0.9
  estimatedUptime: 600s
- shards:
  - instanceCount: 90
    machineType: n2-standard-2
    provisioningModel: SPOT
    zone: https://compute.s3nsapis.fr/compute/beta/projects/example-project/zones/us-central1-a
  - instanceCount: 10
    machineType: n2-standard-4
    provisioningModel: SPOT
    zone: https://compute.s3nsapis.fr/compute/beta/projects/example-project/zones/us-central1-c

POST https://compute.s3nsapis.fr/compute/beta/projects/PROJECT_ID/regions/REGION/advice/capacity

{
  "instanceProperties": {
    "scheduling": {
      "provisioningModel": "SPOT"
    }
  },
  "instanceFlexibilityPolicy": {
    "instanceSelections": {
      "MACHINE_SELECTION_1": {
        "machineTypes": [
          "MACHINE_TYPE_1"
        ]
      },
      "MACHINE_SELECTION_2": {
        "machineTypes": [
          "MACHINE_TYPE_2"
        ]
      }
    }
  },
  "distributionPolicy": {
    "targetShape": "TARGET_DISTRIBUTION_SHAPE"
  },
  "size": SIZE
}

{
  "recommendations": [
    {
      "scores": {
        "estimatedUptime": "600s",
        "obtainability": 0.9
      },
      "shards": [
        {
          "instanceCount": 90,
          "machineType": "n2-standard-2",
          "provisioningModel": "SPOT",
          "zone": "https://compute.s3nsapis.fr/compute/beta/projects/example-project/zones/us-central1-a"
        },
        {
          "instanceCount": 10,
          "machineType": "n2-standard-4",
          "provisioningModel": "SPOT",
          "zone": "https://compute.s3nsapis.fr/compute/beta/projects/example-project/zones/us-central1-c"
        }
      ]
    }
  ]
}

Passaggi successivi

• Scopri come creare e utilizzare le VM spot.

• Scopri di più sulle best practice per le VM spot.