스팟 VM의 가용성 보기

이 문서에서는 스팟 VM의 실시간 가용성과 예상 가동 시간을 확인하는 방법을 설명합니다.

advice.capacity API를 사용하여 여러 머신 유형과 위치에서 실시간 가용성과 예상 가동 시간을 확인할 수 있습니다. 이 정보는 다음을 수행하는 데 도움이 됩니다.

• 리소스 가용성 오류 감소 사용 가능한 용량이 있는 리전 또는 영역을 확인한 후 스팟 VM을 만들 때 해당 구성을 지정할 수 있습니다. 이렇게 하면 리소스 가용성 오류가 발생할 가능성이 줄어듭니다.

• 선점을 위해 워크로드 최적화 다양한 머신 구성과 위치의 예상 가동시간을 비교하여 워크로드에 가장 적합한 구성을 선택할 수 있습니다. 이러한 요소를 확인하면 선점이 워크로드를 중단하지 않도록 스팟 VM을 설계하고 구성할 수 있습니다.

다양한 머신 유형과 위치에서 안정성과 비용을 비교하는 방법을 알아보려면 스팟 VM의 선점률 및 가격 보기를 참고하세요.

제한사항

advice.capacity API에 요청을 보내면 TPU의 가용성을 확인할 수 없습니다.

스팟 VM의 리소스 가용성 확인

advice.capacity API에 요청을 보내면 출력에 다음 추천 측정항목이 표시됩니다. 이러한 측정항목은 스팟 VM에서 사용하려는 머신 유형, 스팟 VM을 만들려는 영역, 요청된 리소스의 실시간 가용성 및 과거 선점률을 기반으로 합니다.

• 획득 가능성 점수: 지정된 VM 수와 머신 구성으로 스팟 VM을 생성하려는 요청이 성공할 가능성입니다. 자세한 내용은 스팟 VM의 획득 가능성 점수를 참고하세요.

• 예상 업타임: Compute Engine이 스팟 VM을 선점하기 전에 대부분의 스팟 VM이 실행될 것으로 예상되는 최소 시간입니다. 자세한 내용은 스팟 VM의 예상 업타임을 참고하세요.

스팟 VM 획득 가능성 점수

advice.capacity API에 요청을 보내면 출력의 획득 가능성 점수(obtainability)는 하나 이상의 영역에서 지정된 수의 스팟 VM을 성공적으로 만들 수 있는 가능성을 나타냅니다. Compute Engine은 요청된 리소스의 실시간 가용성과 최근 생성 요청의 성공률을 기반으로 이 점수를 계산합니다.

획득 가능성 점수는 0.0~1.0이며 다음 성공 가능성 중 하나를 나타냅니다.

• 성공 가능성이 높음 (0.7~1.0): 요청한 스팟 VM을 만들 가능성이 매우 높습니다.

• 성공 가능성 중간 (0.4~0.6): 요청한 스팟 VM을 생성할 가능성이 중간입니다. 스팟 VM을 일괄적으로 또는 대상 크기가 있는 MIG에서 만드는 경우 요청한 VM의 일부만 획득할 수 있습니다.

• 성공 가능성이 낮음 (0.0~0.3): 요청한 스팟 VM을 만들 수 없을 가능성이 높습니다. 다른 위치 또는 다른 머신 유형의 리소스 가용성을 확인하거나 다른 프로비저닝 모델을 사용하여 VM을 만드는 것이 좋습니다.

Spot VM의 예상 가동시간

advice.capacity API에 요청을 전송하면 출력의 예상 가동 시간(estimatedUptime)은 지정된 수의 Spot VM 대부분이 선점되기 전에 실행될 것으로 예상되는 최소 시간을 나타냅니다. Compute Engine은 지정된 머신 유형 및 위치의 과거 및 현재 사용 패턴을 기반으로 이 가동 시간을 계산합니다.

Compute Engine은 예상 가동시간을 다음 값 중 하나로 설정할 수 있습니다.

• 60분 (3,600초): Compute Engine이 선점하기 전에 대부분의 스팟 VM이 1시간 동안 실행될 수 있습니다. 일괄 워크로드와 같이 중단을 허용할 수 있는 장기 실행 워크로드용 VM을 만듭니다.

• 10분 (600초): Compute Engine이 선점하기 전에 대부분의 Spot VM이 10분 동안 실행될 가능성이 높습니다. 단기 실행 작업 또는 짧은 간격으로 진행 상황을 저장하는 내결함성 워크로드에만 VM을 만드세요.

• 1분 (60초): Compute Engine이 선점하기 전에 대부분의 스팟 VM이 1분 동안 실행될 수 있습니다. 다음 중 하나를 수행하는 것이 좋습니다.

  • 매우 짧은 작업, 테스트 또는 중요하지 않은 워크로드에만 VM을 만듭니다.

  • 다른 위치 또는 다른 머신 유형에서 리소스 가용성을 확인합니다.

  • 다른 프로비저닝 모델을 사용하여 VM을 만듭니다.

권장사항

advice.capacity API를 사용한 후 용량을 확보할 가능성을 극대화하려면 다음 권장사항을 따르세요.

• 여러 머신 유형의 출력 비교: 워크로드가 유연한 경우 스팟 VM 또는 머신 유형의 수가 다른 옵션을 비교합니다. 예를 들어 n1-standard-2 머신 유형이 있는 VM 100개와 n1-standard-4 머신 유형이 있는 VM 50개의 출력을 비교할 수 있습니다. 그런 다음 워크로드 요구사항에 대한 획득 가능성과 예상 가동시간의 균형을 가장 잘 맞추는 구성을 사용하여 스팟 VM을 만들 수 있습니다.

• 여러 위치의 출력 비교: 워크로드를 여러 리전 또는 영역에서 실행할 수 있는 경우 각 위치의 가용성을 확인합니다. 예를 들어 두 리전에서 동일한 예상 가동 시간을 제공하는 경우 획득 가능성 점수가 높은 리전에서 스팟 VM을 만듭니다.

• 여러 영역에 VM 분산: ANY 또는 BALANCED의 목표 분산 형태를 지정하면 advice.capacity API에서 여러 영역에 스팟 VM을 만들도록 권장할 수 있습니다. 예를 들어 스팟 VM 100개를 만들 가능성을 극대화하기 위해 한 영역에 VM 90개를 만들고 다른 영역에 VM 10개를 만들도록 출력에서 추천할 수 있습니다.

시작하기 전에

• advice.capacity API에는 가용성 및 예상 가동시간 권장사항에 기본적으로 AI 존이 포함됩니다. API에서 이러한 영역 중 하나에 VM을 만들도록 권장하는 경우 AI 영역에 스팟 VM을 만들 수 있도록 프로젝트에 AI 영역이 사용 설정되어 있는지 확인하세요.
• 아직 인증을 설정하지 않았다면 설정합니다. 인증은 Cloud de Confiance by S3NS 서비스 및 API에 액세스하기 위해 ID를 확인합니다. 로컬 개발 환경에서 코드 또는 샘플을 실행하려면 다음 옵션 중 하나를 선택하여 Compute Engine에 인증하면 됩니다.

  이 페이지의 샘플 사용 방법에 대한 탭을 선택하세요.

  콘솔

  Cloud de Confiance 콘솔을 사용하여 Cloud de Confiance by S3NS 서비스 및 API에 액세스하는 경우 인증을 설정할 필요가 없습니다.

  gcloud

  1. Google Cloud CLI를 설치한 후 제휴 ID로 gcloud CLI에 로그인합니다. 로그인한 후 다음 명령어를 실행하여 Google Cloud CLI를 초기화합니다.

     gcloud init

• 기본 리전 및 영역을 설정합니다.

REST

로컬 개발 환경에서 이 페이지의 REST API 샘플을 사용하려면 gcloud CLI에 제공한 사용자 인증 정보를 사용합니다.

Google Cloud CLI를 설치한 후 제휴 ID로 gcloud CLI에 로그인합니다.

자세한 내용은 Cloud de Confiance 인증 문서의 REST 사용을 위한 인증을 참조하세요.

필요한 역할

스팟 VM의 가용성을 보는 데 필요한 권한을 얻으려면 관리자에게 프로젝트에 대한 Compute 뷰어 (roles/compute.viewer) IAM 역할을 부여해 달라고 요청하세요. 역할 부여에 대한 자세한 내용은 프로젝트, 폴더, 조직에 대한 액세스 관리를 참조하세요.

이 사전 정의된 역할에는 스팟 VM의 가용성을 보는 데 필요한 권한이 포함되어 있습니다. 필요한 정확한 권한을 보려면 필수 권한 섹션을 펼치세요.

커스텀 역할이나 다른 사전 정의된 역할을 사용하여 이 권한을 부여받을 수도 있습니다.

스팟 VM의 가용성 보기

Spot VM의 가용성을 확인하려면 위치, 머신 구성, 만들려는 VM 수를 지정해야 합니다. 결과에 따라 스팟 VM을 만들거나 다른 위치 또는 다른 머신 구성의 리소스 가용성을 확인할 수 있습니다.

워크로드 요구사항에 따라 다음을 고려하세요.

• 여러 머신 시리즈, 머신 유형, 리전 또는 영역에서 동시에 가용성을 확인하려면 Cloud de Confiance 콘솔을 사용하세요.

• 리전 MIG의 목표 분산 형태의 가용성을 보려면 gcloud CLI 또는 REST API를 사용하세요.

• N1 GPU VM 또는 기본적으로 머신 유형에 연결되지 않은 로컬 SSD 디스크의 가용성을 보려면 REST API를 사용하세요.

스팟 VM의 가용성을 보려면 다음 옵션 중 하나를 선택합니다.

gcloud beta compute advice capacity \
    --provisioning-model=SPOT \
    --instance-selection-machine-types=MACHINE_TYPES \
    --target-distribution-shape=TARGET_DISTRIBUTION_SHAPE \
    --size=SIZE \
    --region=REGION

recommendations:
- scores:
  obtainability: 0.9
  estimatedUptime: 600s
- shards:
  - instanceCount: 90
    machineType: n2-standard-2
    provisioningModel: SPOT
    zone: https://compute.s3nsapis.fr/compute/beta/projects/example-project/zones/us-central1-a
  - instanceCount: 10
    machineType: n2-standard-4
    provisioningModel: SPOT
    zone: https://compute.s3nsapis.fr/compute/beta/projects/example-project/zones/us-central1-c

POST https://compute.s3nsapis.fr/compute/beta/projects/PROJECT_ID/regions/REGION/advice/capacity

{
  "instanceProperties": {
    "scheduling": {
      "provisioningModel": "SPOT"
    }
  },
  "instanceFlexibilityPolicy": {
    "instanceSelections": {
      "MACHINE_SELECTION_1": {
        "machineTypes": [
          "MACHINE_TYPE_1"
        ]
      },
      "MACHINE_SELECTION_2": {
        "machineTypes": [
          "MACHINE_TYPE_2"
        ]
      }
    }
  },
  "distributionPolicy": {
    "targetShape": "TARGET_DISTRIBUTION_SHAPE"
  },
  "size": SIZE
}

{
  "recommendations": [
    {
      "scores": {
        "estimatedUptime": "600s",
        "obtainability": 0.9
      },
      "shards": [
        {
          "instanceCount": 90,
          "machineType": "n2-standard-2",
          "provisioningModel": "SPOT",
          "zone": "https://compute.s3nsapis.fr/compute/beta/projects/example-project/zones/us-central1-a"
        },
        {
          "instanceCount": 10,
          "machineType": "n2-standard-4",
          "provisioningModel": "SPOT",
          "zone": "https://compute.s3nsapis.fr/compute/beta/projects/example-project/zones/us-central1-c"
        }
      ]
    }
  ]
}

다음 단계

• 스팟 VM을 만들고 사용하는 방법을 알아보세요.

• 스팟 VM 권장사항에 대해 자세히 알아보세요.