Anfragen für vorausschauende Reservierungen im Kalendermodus

Dieses Dokument bietet einen Überblick über Anfragen für vorausschauende Reservierungen im Kalendermodus.

Mit Anfragen für vorausschauende Reservierungen im Kalendermodus können Sie Ressourcen mit hoher Nachfrage erhalten, z. B. zum Erstellen von VM-Instanzen mit angehängten GPUs oder TPUs. Wenn Cloud de Confiance by S3NS eine Reservierungsanfrage genehmigt, stellt Compute Engine die reservierten Ressourcen zum angegebenen Datum und zur angegebenen Uhrzeit für einen Zeitraum von bis zu 90 Tagen bereit. Sie können die reservierten Ressourcen dann zum Erstellen von GPU-VMs, H4D-VMs oder TPU-VMs verwenden, um die folgenden Arbeitslasten auszuführen:

  • Jobs zum Vortrainieren von Modellen

  • Jobs zur Modellabstimmung

  • Arbeitslasten für HPC-Simulationen (Hochleistungs-Computing)

  • Kurzfristig erwartete Steigerungen der Inferenz-Arbeitslast

Weitere Informationen zu anderen Möglichkeiten zum Reservieren von Ressourcen in Compute Engine finden Sie unter Reservierungstyp auswählen.

Anfrage im Kalendermodus erstellen

In den folgenden Abschnitten wird erläutert, wie Sie die Ressourcenverfügbarkeit aufrufen und welche Details Sie angeben müssen, wenn Sie eine Anfrage für vorausschauende Reservierungen im Kalendermodus erstellen.

Zukünftige Verfügbarkeit von Ressourcen ansehen

Bevor Sie eine Anfrage für eine vorausschauende Reservierung im Kalendermodus erstellen, können Sie die zukünftige Verfügbarkeit der folgenden Ressourcen in einer Region ansehen:

  • Für GPU- oder H4D-VMs bis zu 60 Tage im Voraus

  • Für TPUs bis zu 120 Tage im Voraus

Compute Engine verwendet den Dynamic Workload Scheduler (DWS), um zu sehen, wann die angeforderten Ressourcen verfügbar sind. Geben Sie beim Erstellen einer Anfrage die Anzahl, den Typ und den Reservierungszeitraum für die Ressourcen an, die Sie als verfügbar bestätigt haben. Cloud de Confiance genehmigt Ihre Anfrage mit größerer Wahrscheinlichkeit, wenn Sie diese Informationen angeben.

Anfrageattribute definieren

Wenn Sie eine Anfrage für eine vorausschauende Reservierung im Kalendermodus erstellen, müssen Sie die folgenden Attribute angeben:

  • Automatisch löschen Mit dieser Eigenschaft wird festgelegt, ob Compute Engine die automatisch erstellte (auto-created) Reservierung für Ihre Anfrage zum Endzeitpunkt löscht, auch wenn die Reservierung nicht vollständig genutzt wurde. Wenn Sie eine Anfrage im Kalendermodus erstellen möchten, müssen Sie die Option zum automatischen Löschen aktivieren.

  • Verbrauchstyp: Mit dieser Eigenschaft wird definiert, wie VMs die automatisch erstellte Reservierung nutzen. Wenn Sie eine Anfrage im Kalendermodus erstellen, müssen Sie angeben, dass Sie Reservierungen mit gezielter Ausrichtung erstellen möchten. Diese Einstellung bedeutet, dass nur VMs, die auf die Reservierung ausgerichtet sind, sie nutzen können.

  • Bereitstellungstyp Mit dieser Property wird die Colocation Ihrer reservierten Ressourcen definiert. Compute Engine reserviert Ressourcen basierend auf dem Ressourcentyp:

    • Für GPU- oder H4D-VMs müssen Sie beim Erstellen einer Anfrage den Bereitstellungstyp „dense“ (DENSE) angeben. In dieser Konfiguration werden Ressourcen dicht reserviert, um die Netzwerklatenz zu minimieren.

    • Für TPUs verwendet Compute Engine standardmäßig den flexiblen (FLEXIBLE) Bereitstellungstyp. In dieser Konfiguration werden Ressourcen bestmöglich reserviert.

  • Name: Der Name Ihrer Anfrage, der in Ihrem Projekt eindeutig sein muss.

  • Anzahl der Ressourcen: Die Anzahl der GPU-VMs, H4D-VMs oder TPUs, die Sie zum angeforderten Startzeitpunkt reservieren möchten.

  • Planungsstatus: Mit dieser Property wird festgelegt, ob Sie Ihre Anfrage sofort zur Überprüfung an Cloud de Confiance senden oder als Entwurf speichern und später einreichen. Wenn Sie eine Anfrage im Kalendermodus erstellen, müssen Sie angeben, dass die Anfrage sofort zur Überprüfung eingereicht werden soll.

  • Reservierungsmodus Mit dieser Property wird die Methode zum Reservieren von Ressourcen definiert. Sie muss für eine Anfrage im Kalendermodus auf CALENDAR festgelegt werden.

  • Name der Reservierung. Der Name der Reservierung, die von Compute Engine automatisch erstellt wird, wenn Cloud de Confiance Ihre Anfrage genehmigt.

  • Freigabetyp Mit dieser Property wird festgelegt, ob andere Projekte in Ihrer Organisation die automatisch erstellte Reservierung für Ihre genehmigte Anfrage nutzen können. Sie können eine der folgenden Optionen angeben:

    • Einzelnes Projekt Nur Ihr Projekt kann die reservierte Kapazität nutzen.

    • Freigegeben Sie können die reservierte Kapazität für bis zu 100 andere Projekte in Ihrer Organisation freigeben. Wenn Sie diese Option angeben, müssen Sie die Projekte angeben, für die die automatisch erstellte Reservierung freigegeben werden soll. Weitere Informationen finden Sie unter Best Practices für freigegebene Reservierungen.

  • Reservierungszeitraum. Das Datum und die Uhrzeit, zu der Compute Engine die angeforderte Kapazität bereitstellt und Sie sie nutzen können. Der Reservierungszeitraum umfasst Folgendes:

    • Startzeit Wann Sie mit der Nutzung Ihrer reservierten Kapazität beginnen möchten. Je nach den Ressourcen, die Sie reservieren, muss die Startzeit mindestens einen der folgenden Werte ab dem Zeitpunkt haben, an dem Sie eine Anfrage erstellen und senden:

      • Für GPU- und H4D-VMs: 87 Stunden (3 Tage und 15 Stunden)

      • Für TPUs: sechs Stunden

    • Ende: Wenn die angeforderte Kapazität nicht mehr für Sie reserviert ist. Zu diesem Zeitpunkt löscht Compute Engine die automatisch erstellte Reservierung und beendet oder löscht alle VMs, die die Reservierung nutzen, basierend auf der Beendigungsaktion, die Sie für die VMs angegeben haben.

  • Ressourceneigenschaften Die Hardwareanforderungen der GPU-VMs, H4D-VMs oder TPUs, die Sie reservieren möchten. VMs können eine Reservierung nur verwenden, wenn ihre Attribute mit den Attributen der Reservierung übereinstimmen. Weitere Informationen finden Sie unter Anforderungen für die Nutzung von Reservierungen.

  • Zone. Die Zone, in der Sie Kapazität reservieren möchten.

Überprüfungsprozess

Wenn Sie Kapazität mit einer Anfrage für eine vorausschauende Reservierung im Kalendermodus reservieren möchten, müssen Sie die Anfrage erstellen und zur Überprüfung an Cloud de Confiance senden. Nachdem Sie eine Anfrage erstellt und gesendet haben, wird sie von Cloud de Confiance innerhalb einer Minute geprüft. Anschließend passiert Folgendes:

  • Cloud de Confiance genehmigt Ihre Anfrage: Compute Engine reserviert die angeforderten Ressourcen und erstellt innerhalb einer Minute nach der Genehmigung automatisch eine leere Reservierung. Sofern Sie Ihre Anfrage nicht stornieren, stellt Compute Engine die angeforderte Kapazität bereit, indem die Anzahl der GPU-VMs, H4D-VMs oder TPUs in der Reservierung zum Startzeitpunkt der Anfrage erhöht wird.

  • Ein Fehler ist aufgetreten. Die Anfrage schlägt fehl, weil in der Zone der Anfrage nicht genügend Ressourcen vorhanden sind. Wir empfehlen Ihnen, die zukünftige Ressourcenverfügbarkeit noch einmal zu prüfen und dann eine neue Anfrage zur Überprüfung zu erstellen und einzureichen.

Anfragelebenszyklus

Das folgende Diagramm zeigt die verschiedenen Status, die Compute Engine für eine Anfrage für eine zukünftige Reservierung im Kalendermodus festlegen kann:

Ein Flussdiagramm, das die verschiedenen Status zeigt, die eine Anfrage für eine vorausschauende Reservierung im Kalendermodus durchlaufen kann.

Die im vorherigen Diagramm dargestellten Status und der Ereignisfluss sind wie folgt:

  • PENDING_APPROVAL: Sie haben eine Überprüfung beantragt. Innerhalb einer Minute Cloud de Confiance genehmigt die Anfrage.

  • APPROVED: Cloud de Confiance hat Ihre Anfrage genehmigt. Innerhalb einer Minute erstellt Compute Engine dann eine leere Reservierung und ändert den Anfragestatus in PROCURING.

  • PROCURING: Compute Engine plant die Bereitstellung Ihrer reservierten Ressourcen. Wenn eine der folgenden Bedingungen erfüllt ist, können Sie die Bereitstellung verhindern, indem Sie Ihren Antrag stornieren:

    • Der Starttermin liegt mehr als 30 Tage in der Zukunft.

    • Sie stornieren die Anfrage innerhalb von 24 Stunden nach der Genehmigung und die Startzeit liegt mindestens vier Tage in der Zukunft.

    Bevor die Anfrage den Startzeitpunkt erreicht, ändert sich der Anfragestatus in PROVISIONING.

  • CANCELLED: Sie haben Ihre Anfrage abgebrochen, als sie sich im Status PROCURING befand. Durch diese Aktion wird Ihre reservierte Kapazität freigegeben und es fallen keine Gebühren dafür an. Sie können Ihre Anfrage zur späteren Verwendung aufbewahren oder löschen, wenn Sie sie nicht mehr benötigen.

  • PROVISIONING: Compute Engine stellt Ihre reservierten Ressourcen bereit, indem die Anzahl der reservierten GPU-VMs, H4D-VMs oder TPUs in der automatisch erstellten Reservierung erhöht wird. Wenn die Anfrage ihre Startzeit erreicht, ändert sich der Anfragestatus in FULFILLED.

  • FULFILLED: Compute Engine hat Ihre reservierten Ressourcen bereitgestellt und Sie werden dafür in Rechnung gestellt. Sie können die automatisch erstellte Reservierung nutzen, indem Sie bis zur Endzeit der Anfrage VMs erstellen.

Wenn die Anfrage die Endzeit erreicht, löscht Compute Engine die automatisch erstellte Reservierung und beendet oder löscht alle VMs, die die Reservierung nutzen, basierend auf der in den VMs konfigurierten Beendigungsaktion. Sie können die Anfrage im Kalendermodus beibehalten oder löschen, wenn Sie sie nicht mehr benötigen.

Bereitgestellte Kapazität nutzen

Nachdem Cloud de Confiance eine Anfrage für eine zukünftige Reservierung im Kalendermodus genehmigt hat, erstellt Compute Engine automatisch eine Reservierung mit den folgenden Merkmalen:

  • Die automatisch erstellte Reservierung enthält keine reservierten GPU-VMs, H4D-VMs oder TPUs. Sie kann noch nicht genutzt werden.

  • Die automatisch erstellte Reservierung übernimmt die in Ihrer Anfrage angegebenen VM- oder TPU-Attribute.

Zur Startzeit der Anfrage stellt Compute Engine die angeforderte Kapazität bereit, indem die Anzahl der GPU-VMs, H4D-VMs oder TPUs in der automatisch erstellten Reservierung erhöht wird. Sie können die Reservierung dann nutzen, indem Sie GPU-VMs, H4D-VMs oder TPU-VMs erstellen, die alle folgenden Bedingungen erfüllen:

Sie können VMs erstellen, bis die Reservierung vollständig genutzt wurde oder bis zur Endzeit der Anfrage. Zum Ende der Anfrage löscht Compute Engine die automatisch erstellte Reservierung und stoppt oder löscht alle VMs, die die Reservierung nutzen.

Kontingent

Die Kontingentanforderungen für Anfragen für vorausschauende Reservierungen im Kalendermodus hängen vom Maschinentyp ab:

  • GPU- und TPU-Maschinentypen: Für die Reservierung von Kapazität ist kein Kontingent erforderlich.

  • H4D-Maschinentypen: Das CPU-Kontingent wird verbraucht.

Wenn Sie VMs erstellen, indem Sie reservierte Kapazität nutzen, müssen Sie ein ausreichendes Kontingent für alle Ressourcen haben, die nicht Teil Ihrer Reservierung sind, z. B. Laufwerke oder IP-Adressen. Andernfalls schlägt das Erstellen von VMs fehl.

Preise

Wenn Sie eine Anfrage für eine vorausschauende Reservierung im Kalendermodus erstellen und einreichen undCloud de Confiance Ihre Anfrage genehmigt, fallen nicht sofort Gebühren an. Stattdessen fallen Kosten an, wenn Folgendes geschieht:

  • Compute Engine stellt die angeforderte Kapazität bereit. Wenn Ihre Anfrage zum Startzeitpunkt der Anfrage den Status FULFILLED erreicht, fallen Gebühren für die bereitgestellten Ressourcen gemäß DWS-Preise an. Dieses Preismodell bietet vCPUs, Arbeitsspeicher, GPUs und TPUs zu einem ermäßigten Preis im Vergleich zu Standardpreisen.

  • Sie verwenden Ressourcen außerhalb der Reservierung. Wenn Sie VMs erstellen, die eine automatisch erstellte Reservierung nutzen, fallen keine zusätzlichen Gebühren für die genutzten Ressourcen an. Gebühren fallen nur für Ressourcen an, die nicht Teil der Reservierung sind, z. B. Festplatten oder IP-Adressen.

Ab dem Endzeitpunkt der Anfrage fallen keine Gebühren mehr für die reservierten Ressourcen an. Zu diesem Zeitpunkt löscht Compute Engine die automatisch erstellte Reservierung und stoppt oder löscht alle VMs, die die Reservierung nutzen, entsprechend ihrer Beendigungsaktion.

Beschränkungen

In den folgenden Abschnitten werden die Einschränkungen für zukünftige Reservierungsanfragen im Kalendermodus erläutert.

Beschränkungen für alle Anfragen

Für alle Anfragen für vorausschauende Reservierungen im Kalendermodus gelten die folgenden Einschränkungen:

  • Sie können Ressourcen für einen Zeitraum zwischen 1 und 90 Tagen reservieren.

  • Nachdem Sie eine Anfrage gesendet haben und Cloud de Confiance sie genehmigt hat, gelten die folgenden Einschränkungen:

    • Sie können die Anfrage abbrechen, wenn eine der folgenden Bedingungen erfüllt ist:

      • Der Starttermin liegt mehr als 30 Tage in der Zukunft.

      • Sie stornieren die Anfrage innerhalb von 24 Stunden nach der Genehmigung und die Startzeit liegt mindestens vier Tage in der Zukunft.

    • Sie können die Anfrage löschen, nachdem Sie sie abgebrochen haben oder nachdem sie abgelaufen ist.

    • Sie können die Anfrage nicht ändern.

Einschränkungen für Anfragen für GPU- oder H4D-VMs

Sie können GPU-VMs oder H4D-VMs nur so reservieren:

  • Sie können die folgende Anzahl von VMs pro Anfrage reservieren:

    • Für GPU-VMs: zwischen 1 und 80 VMs

    • Für H4D-VMs: zwischen 1 und 256 VMs

  • Sie können die folgenden Maschinenserien reservieren:

  • Sie können GPU- oder H4D-VMs nur in bestimmten Zonen reservieren. Hier finden Sie weitere Informationen:

  • Sie können keine Instanzvorlage verwenden, um Anfragen für GPU- oder H4D-VMs zu erstellen.

Einschränkungen für Anfragen für TPU-VMs

Sie können TPU-VMs nur so reservieren:

  • Sie können pro Anfrage 1, 4, 8, 16, 32, 64, 128, 256, 512 oder 1.024 TPU-Chips reservieren.

  • Sie können die folgenden TPU-Versionen reservieren:

  • Sie können TPUs nur in den folgenden Zonen reservieren:

    • TPU7x:

      • us-central1-c

    • TPU v6e:

      • asia-northeast1-b

      • europe-west4-a

      • us-east5-a

      • us-east5-b

      • us-south1-ai1b

    • TPU v5p:

      • us-east5-a

Einschränkungen für alle automatisch erstellten Reservierungen

Für automatisch erstellte Reservierungen für eine Anfrage gelten die folgenden Einschränkungen:

  • Sie können die Reservierung nur unter folgenden Voraussetzungen ändern:

    • Wenn Jobs in Vertex AI die Nutzung der Reservierung erlaubt oder verweigert werden soll.

    • Nach der Startzeit der Reservierung.

  • Sie können keine Rabatte für zugesicherte Nutzung (CUDs) oder Rabatte für kontinuierliche Nutzung (SUDs) auf die Reservierung anwenden.

  • Sie können die Reservierung nicht löschen. Compute Engine löscht sie zum Endzeitpunkt der Reservierung.

Nächste Schritte