Sobre as solicitações de reserva adiantada no modo de calendário

Este documento oferece uma visão geral das solicitações de reserva adiantada no modo de calendário.

Use solicitações de reserva adiantada no modo de agenda para conseguir recursos de alta demanda, como a criação de instâncias de máquina virtual (VM) com GPUs ou TPUs anexadas. Quando Cloud de Confiance by S3NS aprova uma solicitação de reserva, o Compute Engine provisiona os recursos reservados na data e hora especificadas e por um período de até 90 dias. Em seguida, use os recursos reservados para criar VMs de GPU, H4D ou TPU para executar as seguintes cargas de trabalho:

  • Jobs de pré-treinamento de modelos

  • Jobs de ajuste de modelo

  • Cargas de trabalho de simulação de computação de alto desempenho (HPC)

  • Aumentos esperados de curto prazo nas cargas de trabalho de inferência

Para mais informações sobre outras maneiras de reservar recursos no Compute Engine, consulte Escolher um tipo de reserva.

Criar uma solicitação no modo de calendário

As seções a seguir explicam como conferir a disponibilidade de recursos e quais detalhes especificar ao criar uma solicitação de reserva adiantada no modo de calendário.

Conferir a disponibilidade futura de recursos

Antes de criar uma solicitação de reserva adiantada no modo de agenda, é possível conferir a disponibilidade futura em uma região dos seguintes recursos:

  • Para VMs de GPU ou H4D, até 60 dias de antecedência

  • Para TPUs, até 120 dias de antecedência

O Compute Engine usa o Programador dinâmico de cargas de trabalho (DWS) para mostrar quando os recursos solicitados estão disponíveis. Ao criar uma solicitação, especifique o número, o tipo e o período de reserva dos recursos que você confirmou como disponíveis. Cloud de Confiance tem mais chances de aprovar sua solicitação se você fornecer essas informações.

Definir propriedades de solicitação

Ao criar uma solicitação de reserva adiantada no modo de calendário, especifique as seguintes propriedades:

  • Exclusão automática. Essa propriedade determina se o Compute Engine exclui a reserva criada automaticamente (criada automaticamente) para sua solicitação no horário de término, mesmo que a reserva não seja totalmente consumida. Para criar uma solicitação no modo de calendário, ative a opção de exclusão automática.

  • Tipo de consumo. Essa propriedade define como as VMs consomem a reserva criada automaticamente. Ao criar uma solicitação no modo de calendário, especifique que você quer criar reservas especificamente segmentadas. Essa configuração significa que apenas as VMs que segmentam a reserva podem consumi-la.

  • Tipo de implantação. Essa propriedade define a colocação dos seus recursos reservados. O Compute Engine reserva recursos com base no tipo de recurso:

    • Para VMs de GPU ou H4D, especifique o tipo de implantação densa (DENSE) ao criar uma solicitação. Essa configuração especifica a reserva densa de recursos para minimizar a latência da rede.

    • Para TPUs, o Compute Engine usa o tipo de implantação flexível (FLEXIBLE) por padrão. Essa configuração especifica a reserva de recursos o mais próximo possível com base no melhor esforço.

  • Nome. O nome da sua solicitação, que precisa ser exclusivo no projeto.

  • Número de recursos. O número de VMs de GPU, VMs H4D ou TPUs a serem reservadas no horário de início solicitado.

  • Status de planejamento. Essa propriedade define se você envia imediatamente sua solicitação para Cloud de Confiance para revisão ou se salva como rascunho e envia depois. Ao criar uma solicitação no modo de calendário, especifique que ela seja enviada imediatamente para revisão.

  • Modo de reserva. Essa propriedade define o método para reservar recursos, que precisa ser definido como CALENDAR para uma solicitação no modo de calendário.

  • Nome da reserva. O nome da reserva que o Compute Engine cria automaticamente se Cloud de Confiance aprovar sua solicitação.

  • Tipo de compartilhamento. Essa propriedade define se outros projetos na sua organização podem consumir a reserva criada automaticamente para sua solicitação aprovada. Você pode especificar uma das seguintes opções:

    • Projeto único. Somente seu projeto pode consumir a capacidade reservada.

    • Compartilhado. É possível compartilhar a capacidade reservada com até 100 outros projetos na sua organização. Se você especificar essa opção, precisará especificar os projetos com que compartilhar a reserva criada automaticamente. Para mais informações, consulte as práticas recomendadas para reservas compartilhadas.

  • Período de reserva. A data e a hora em que o Compute Engine provisiona a capacidade solicitada e você pode consumi-la. O período de reserva inclui o seguinte:

    • Horário de início. Quando você quiser começar a consumir a capacidade reservada. Com base nos recursos que você reserva, o horário de início precisa ser pelo menos um dos seguintes valores a partir do momento em que você cria e envia uma solicitação:

      • Para VMs de GPU e H4D, 87 horas (três dias e 15 horas)

      • Para TPUs, seis horas

    • Horário de término. Quando a capacidade solicitada não estiver mais reservada para você. Nesse momento, o Compute Engine exclui a reserva criada automaticamente e interrompe ou exclui todas as VMs que a consomem com base na ação de encerramento especificada para as VMs.

  • Propriedades do recurso. Os requisitos de hardware das VMs com GPU, VMs H4D ou TPUs que você quer reservar. As VMs só podem usar uma reserva se as propriedades delas corresponderem às propriedades da reserva. Para mais informações, consulte os requisitos para consumir reservas.

  • Zona. A zona em que você quer reservar capacidade.

Processo de solicitação de análise

Para reservar capacidade usando uma solicitação de reserva adiantada no modo de calendário, crie e envie a solicitação para Cloud de Confiance para análise. Depois que você criar e enviar uma solicitação,o Cloud de Confiance vai analisá-la em um minuto, e uma das seguintes situações vai acontecer:

  • Cloud de Confiance aprova sua solicitação: o Compute Engine reserva os recursos solicitados e, em um minuto após a aprovação, cria automaticamente uma reserva vazia. A menos que você cancele sua solicitação, o Compute Engine provisiona a capacidade solicitada aumentando o número de VMs de GPU, VMs H4D ou TPUs na reserva no horário de início da solicitação.

  • Ocorreu um erro. A solicitação falha porque a zona dela não tem recursos suficientes. Recomendamos que você verifique novamente a disponibilidade futura de recursos e crie e envie uma nova solicitação de revisão.

Ciclo de vida da solicitação

O diagrama a seguir mostra os diferentes estados que o Compute Engine pode definir para uma solicitação de reserva adiantada no modo de calendário:

Um fluxograma que mostra os diferentes estados que uma solicitação de reserva adiantada no modo de calendário pode passar.

Os estados e o fluxo de eventos mostrados no diagrama anterior são os seguintes:

  • PENDING_APPROVAL: você criou e enviou um pedido de análise. Em um minuto, Cloud de Confiance aprova a solicitação.

  • APPROVED: Cloud de Confiance aprovou sua solicitação. Em seguida, em um minuto, o Compute Engine cria uma reserva vazia e muda o estado da solicitação para PROCURING.

  • PROCURING: o Compute Engine programa o provisionamento dos recursos reservados. Para evitar esse provisionamento, você pode cancelar sua solicitação se ela atender a uma das seguintes condições:

    • O horário de início está a mais de 30 dias.

    • Você cancelar o pedido em até 24 horas após a aprovação, e o horário de início estiver pelo menos quatro dias depois.

    Antes de atingir o horário de início, o estado da solicitação muda para PROVISIONING.

  • CANCELLED: você cancelou sua solicitação enquanto ela estava no estado PROCURING. Essa ação libera a capacidade reservada, e você não recebe cobranças por ela. Você pode manter sua solicitação para referência futura ou excluir se não precisar mais dela.

  • PROVISIONING: o Compute Engine está provisionando seus recursos reservados aumentando o número de VMs de GPU reservadas, VMs H4D ou TPUs na reserva criada automaticamente. Quando o pedido atinge o horário de início, o estado dele muda para FULFILLED.

  • FULFILLED: o Compute Engine provisionou seus recursos reservados, e você recebe cobranças por eles. É possível consumir a reserva criada automaticamente criando VMs até o horário de término da solicitação.

Quando o pedido atinge o horário de término, o Compute Engine exclui a reserva criada automaticamente e interrompe ou exclui as VMs que a consomem com base na ação de encerramento configurada nas VMs. Você pode manter a solicitação no modo de calendário para registro ou excluir se não precisar mais dela.

Consumir capacidade provisionada

Depois que o Cloud de Confiance aprova uma solicitação de reserva adiantada no modo de calendário, o Compute Engine cria automaticamente uma reserva com as seguintes características:

  • A reserva criada automaticamente não tem VMs com GPU, VMs H4D ou TPUs reservadas. Portanto, você ainda não pode consumi-la.

  • A reserva criada automaticamente herda as propriedades de VM ou TPU especificadas na sua solicitação.

No horário de início da solicitação, o Compute Engine provisiona a capacidade solicitada aumentando o número de VMs com GPU, H4D ou TPUs na reserva criada automaticamente. Em seguida, é possível consumir a reserva criando VMs de GPU, VMs H4D ou VMs de TPU que atendam a todas as seguintes condições:

É possível criar VMs até que a reserva seja totalmente consumida ou até o horário de término da solicitação. No horário de término da solicitação, o Compute Engine exclui a reserva criada automaticamente e interrompe ou exclui todas as VMs que a utilizam.

Cota

Os requisitos de cota para solicitações de reserva adiantada no modo de calendário dependem do tipo de máquina, conforme a seguir:

  • Tipos de máquina de GPU e TPU: não é necessário ter cota para reservar capacidade.

  • Tipos de máquina H4D: a cota de CPU é consumida.

Ao criar VMs consumindo capacidade reservada, é preciso ter cota suficiente para recursos que não fazem parte da reserva, como discos ou endereços IP. Caso contrário, a criação de VMs vai falhar.

Preços

Quando você cria e envia uma solicitação de reserva adiantada no modo de calendário e Cloud de Confiance aprova sua solicitação, não há cobranças imediatas. Em vez disso, você recebe cobranças quando o seguinte acontece:

  • O Compute Engine provisiona a capacidade solicitada. Quando sua solicitação atinge o estado FULFILLED no horário de início, você recebe cobranças pelos recursos provisionados de acordo com os preços do DWS. Esse modelo de preços oferece vCPUs, memória, GPUs e TPUs a um preço com desconto em comparação com os preços padrão.

  • Você usa recursos fora da reserva. Ao criar VMs que consomem uma reserva criada automaticamente, você não gera cobranças adicionais pelos recursos consumidos. Você só recebe cobranças por recursos que não fazem parte da reserva, como discos ou endereços IP.

Você para de receber cobranças pelos recursos reservados no horário de término da solicitação. Nesse momento, o Compute Engine exclui a reserva criada automaticamente e interrompe ou exclui as VMs que consomem a reserva com base na ação de encerramento.

Limitações

As seções a seguir explicam as limitações para solicitações de reserva adiantada no modo de agenda.

Limitações para todas as solicitações

Todas as solicitações de reserva adiantada no modo de agenda têm as seguintes limitações:

  • É possível reservar recursos por um período entre 1 e 90 dias.

  • Depois que você enviar uma solicitação e o Cloud de Confiance aprovar, as seguintes limitações serão aplicadas:

    • Você pode cancelar a solicitação se ela atender a uma das seguintes condições:

      • O horário de início está a mais de 30 dias.

      • Você cancelar o pedido em até 24 horas após a aprovação, e o horário de início estiver pelo menos quatro dias depois.

    • Você pode excluir a solicitação depois de cancelar ou quando ela atingir o horário de término.

    • Não é possível modificar a solicitação.

Limitações para solicitações de VMs de GPU ou H4D

É possível reservar VMs de GPU ou H4D da seguinte maneira:

  • É possível reservar o seguinte número de VMs por solicitação:

    • Para VMs de GPU, entre 1 e 80 VMs

    • Para VMs H4D, entre 1 e 256 VMs

  • É possível reservar as seguintes séries de máquinas:

  • É possível reservar VMs de GPU ou H4D apenas em zonas específicas. Para ver mais informações, consulte os seguintes tópicos:

  • Não é possível usar um modelo de instância para criar solicitações de VMs de GPU ou H4D.

Limitações para solicitações de VMs de TPU

Só é possível reservar VMs de TPU da seguinte maneira:

  • É possível reservar 1, 4, 8, 16, 32, 64, 128, 256, 512 ou 1.024 chips de TPU por solicitação.

  • É possível reservar as seguintes versões de TPU:

  • Só é possível reservar TPUs nas seguintes zonas:

    • TPU7x:

      • us-central1-c

    • TPU v6e:

      • asia-northeast1-b

      • europe-west4-a

      • us-east5-a

      • us-east5-b

      • us-south1-ai1b

    • TPU v5p:

      • us-east5-a

Limitações para todas as reservas criadas automaticamente

Uma reserva criada automaticamente para uma solicitação tem as seguintes limitações:

  • Só é possível modificar a reserva da seguinte forma:

    • Para permitir ou não que jobs da Vertex AI a consumam.

    • Após o horário de início da reserva.

  • Não é possível aplicar descontos por compromisso de uso (CUDs) ou descontos por uso prolongado (SUDs) à reserva.

  • Não é possível excluir a reserva. O Compute Engine a exclui no horário de término.

A seguir