Anda dapat membuat instance yang menggunakan Advanced Compute Images untuk menyediakan lingkungan yang dioptimalkan untuk workload kecerdasan buatan (AI), machine learning (ML), dan komputasi berperforma tinggi (HPC). Anda dapat menggunakan antarmuka berikut:
- Google Cloud CLI
- Cloud de Confiance console
- Pengelola workload Slurm SchedMD
Untuk mempelajari Advanced Compute Images, lihat Ringkasan Advanced Compute Images.
Sebelum memulai
-
Siapkan autentikasi jika Anda belum melakukannya.
Autentikasi memverifikasi identitas Anda untuk mengakses layanan Cloud de Confiance by S3NS dan API. Untuk menjalankan
kode atau sampel dari lingkungan pengembangan lokal, Anda dapat melakukan autentikasi ke
Compute Engine dengan memilih salah satu opsi berikut:
Pilih tab untuk melihat bagaimana Anda berencana menggunakan contoh di halaman ini:
Konsol
Saat menggunakan konsol Cloud de Confiance untuk mengakses layanan Cloud de Confiance by S3NS dan API, Anda tidak perlu menyiapkan autentikasi.
gcloud
-
Instal Google Cloud CLI, lalu login ke gcloud CLI dengan identitas gabungan Anda. Setelah login, inisialisasi Google Cloud CLI dengan menjalankan perintah berikut:
gcloud init
-
- Tetapkan region dan zona default.
Peran yang diperlukan
Untuk mendapatkan izin yang Anda perlukan untuk membuat instance, minta administrator untuk memberi Anda peran IAM Compute Instance Admin (v1) (roles/compute.instanceAdmin.v1) pada project.
Untuk mengetahui informasi selengkapnya tentang cara memberikan peran, lihat Mengelola akses ke project, folder, dan organisasi.
Peran bawaan ini berisi izin yang diperlukan untuk membuat instance. Untuk melihat izin yang benar-benar diperlukan, perluas bagian Izin yang diperlukan:
Izin yang diperlukan
Izin berikut diperlukan untuk membuat instance:
-
compute.instances.createdi project -
Untuk menggunakan image kustom guna membuat VM:
compute.images.useReadOnlypada image -
Untuk menggunakan snapshot guna membuat VM:
compute.snapshots.useReadOnlypada snapshot -
Untuk menggunakan template instance guna membuat VM:
compute.instanceTemplates.useReadOnlypada template instance -
Untuk menentukan subnet bagi VM Anda:
compute.subnetworks.usedi project atau di subnet yang dipilih -
Untuk menentukan alamat IP statis untuk VM:
compute.addresses.usepada project -
Untuk menetapkan alamat IP eksternal ke VM saat menggunakan jaringan VPC:
compute.subnetworks.useExternalIpdi project atau di subnet yang dipilih -
Untuk menetapkan jaringan lama ke VM:
compute.networks.usepada project -
Untuk menetapkan alamat IP eksternal ke VM saat menggunakan jaringan lama:
compute.networks.useExternalIpdi project -
Untuk menetapkan metadata instance VM bagi VM:
compute.instances.setMetadatadi project -
Untuk menyetel tag untuk VM:
compute.instances.setTagsdi VM -
Untuk menetapkan label bagi VM:
compute.instances.setLabelsdi VM -
Untuk menetapkan akun layanan yang akan digunakan VM:
compute.instances.setServiceAccountdi VM -
Untuk membuat disk baru untuk VM:
compute.disks.createpada project -
Untuk memasang disk yang ada dalam mode hanya baca atau baca-tulis:
compute.disks.usepada disk -
Untuk memasang disk yang ada dalam mode hanya baca:
compute.disks.useReadOnlypada disk
Anda mungkin juga bisa mendapatkan izin ini dengan peran khusus atau peran bawaan lainnya.
Panduan Memulai
Tutorial ini menjelaskan langkah-langkah untuk membuat instance A3 Ultra atau A4 yang menggunakan Advanced Compute Images untuk mengonfigurasi dan menyesuaikan OS tamu.
Prasyarat
Sebelum membuat instance, selesaikan tugas berikut untuk membuat instance A3 Ultra dan A4:
- Dapatkan kapasitas resource untuk instance A3 Ultra atau A4.
- Buat jaringan VPC.
- Opsional: Buat kebijakan penempatan rapat
Membuat instance komputasi dengan Advanced Compute Images
Setelah menyelesaikan tugas prasyarat, Anda dapat menggunakan salah satu metode berikut untuk membuat instance.
Konsol
Di konsol Cloud de Confiance , buka halaman Create an instance.
Jika diminta, pilih project Anda, lalu klik Lanjutkan. Halaman Create an instance akan muncul dan menampilkan panel Machine configuration.
Di panel Machine configuration, lakukan hal berikut:
- Di kolom Name, tentukan nama untuk instance komputasi Anda. Untuk mengetahui informasi selengkapnya, lihat Konvensi penamaan resource.
Pilih Region dan Zone untuk instance. Jika Anda telah memesan resource komputasi, region dan zona yang Anda pilih harus cocok dengan region dan zona reservasi Anda.
Klik tab GPU, lalu selesaikan langkah-langkah berikut:
- Pada daftar GPU type, pilih jenis GPU Anda.
- Untuk instance A4, pilih NVIDIA B200.
- Untuk instance A3 Ultra, pilih NVIDIA H200 141 GB.
- Dalam daftar Number of GPUs, pilih 8.
- Opsional: Pilih jenis mesin lain.
- Pada daftar GPU type, pilih jenis GPU Anda.
Di menu navigasi, klik OS dan penyimpanan. Di panel OS dan penyimpanan yang muncul, selesaikan langkah-langkah berikut:
- Klik Ubah. Panel Boot disk akan muncul dan menampilkan tab Public images.
- Dalam daftar Operating system, pilih Advanced Compute Images.
- Dalam daftar Versi, pilih versi OS.
- Opsional: Di daftar Boot disk type, pilih jenis boot disk.
- Opsional: Tentukan properti tambahan untuk boot disk, seperti ukuran disk.
- Opsional: Untuk opsi konfigurasi lanjutan, luaskan bagian Tampilkan konfigurasi lanjutan.
- Untuk mengonfirmasi opsi boot disk dan kembali ke panel Operating system and storage, klik Select.
Di menu navigasi, klik Networking. Panel Networking akan muncul.
Opsional: Untuk mengonfigurasi akses ke instance Anda dari luar Cloud de Confiance by S3NS, selesaikan langkah-langkah berikut:
- Buka bagian Firewall.
Untuk mengizinkan traffic HTTP atau HTTPS ke instance komputasi, pilih Allow HTTP traffic atau Allow HTTPS traffic.
Compute Engine menambahkan tag jaringan ke instance komputasi Anda dan membuat aturan firewall masuk yang sesuai, yang mengizinkan semua traffic masuk di
tcp:80(HTTP) atautcp:443(HTTPS). Tag jaringan mengaitkan aturan firewall dengan instance. Untuk mengetahui informasi selengkapnya, lihat Ringkasan aturan firewall dalam dokumentasi Cloud Next Generation Firewall.
Untuk membuat instance multi-NIC, selesaikan langkah-langkah berikut di panel Networking. Untuk instance NIC tunggal, lewati langkah-langkah ini.
- Di bagian Network interfaces, selesaikan langkah-langkah berikut:
- Hapus antarmuka jaringan default. Untuk menghapus antarmuka, klik Hapus.
Klik Add a network interface. Gunakan opsi ini untuk menambahkan antarmuka jaringan yang terpasang ke jaringan VPC yang Anda buat di bagian sebelumnya. Saat Anda menambahkan antarmuka jaringan, ingatlah hal berikut:
Untuk antarmuka jaringan yang digunakan untuk komunikasi host-ke-host, pilih jaringan VPC dan subnet reguler dari daftar Jaringan dan Subnetwork, lalu tetapkan daftar Kartu antarmuka jaringan ke gVNIC.
Untuk antarmuka jaringan yang digunakan untuk komunikasi GPU ke GPU, pilih jaringan VPC dan subnet RoCE dari daftar Jaringan dan Subnetwork, lalu tetapkan daftar Kartu antarmuka jaringan ke MRDMA untuk antarmuka jaringan ini.
Di menu navigasi, klik Lanjutan. Kemudian, selesaikan langkah-langkah berikut untuk model penyediaan yang ingin Anda gunakan.
Flex-start
- Di bagian Provisioning model, dalam daftar VM provisioning model, pilih Flex-start.
Di kolom Enter number of hours, masukkan jumlah waktu maksimum yang Anda inginkan untuk menjalankan instance komputasi. Nilainya harus antara
0.01(0,01 jam, atau 36 detik) atau168(168 jam, atau tujuh hari).Pilih Setel waktu tunggu untuk pembuatan VM.
Berdasarkan persyaratan zona untuk workload Anda, tentukan salah satu durasi berikut untuk membantu meningkatkan peluang keberhasilan permintaan pembuatan VM Anda:
- Workload dengan persyaratan zona yang ketat: jika workload Anda mengharuskan Anda membuat VM di zona tertentu, tentukan durasi antara 90 detik dan 2 jam. Durasi yang lebih lama memberi Anda peluang yang lebih tinggi untuk mendapatkan sumber daya.
- Beban kerja tanpa persyaratan zona yang ketat: jika VM dapat berjalan di zona mana pun dalam region, tentukan durasi 0 detik atau hapus tanda centang Tetapkan waktu tunggu untuk pembuatan VM. Tindakan ini menentukan bahwa Compute Engine hanya mengalokasikan resource jika resource tersebut segera tersedia. Jika permintaan pembuatan VM gagal karena resource tidak tersedia, coba lagi permintaan di zona lain.
Di kolom Saat penghentian VM, pilih apakah akan menghentikan atau menghapus instance komputasi di akhir durasi jalannya:
- Untuk menghapus instance, pilih Hapus.
- Untuk menghentikan instance, pilih Stop.
Terikat dengan reservasi
Klik Pilih reservasi. Tindakan ini akan membuka panel dengan daftar reservasi yang tersedia dalam zona yang Anda pilih. Dari daftar reservasi, selesaikan langkah-langkah berikut:
- Pilih reservasi yang ingin Anda gunakan untuk instance komputasi. Anda juga dapat memilih blok tertentu dalam reservasi.
- Klik Pilih.
Spot
- Di bagian Model penyediaan, pilih Spot dari daftar Model penyediaan VM.
Opsional: Untuk memilih tindakan penghentian yang terjadi saat Compute Engine melakukan preempt terhadap Spot VM, selesaikan langkah-langkah berikut:
- Luaskan bagian VM provisioning model advanced settings.
- Dalam daftar Pada penghentian VM, pilih salah satu opsi berikut:
- Untuk menghentikan VM Spot selama preemption, pilih Hentikan (default).
- Untuk menghapus VM Spot selama preemption, pilih Hapus.
Untuk membuat dan memulai instance, klik Create.
gcloud
Untuk membuat VM, gunakan perintah
gcloud compute instances create.
Parameter yang perlu Anda tentukan bergantung pada opsi penggunaan yang Anda gunakan untuk deployment ini. Pilih tab yang sesuai dengan model penyediaan opsi pemakaian Anda.
Flex-start
Sebelum menjalankan perintah, tambahkan flag untuk kebijakan penempatan rapat jika perlu.
gcloud compute instances create INSTANCE_NAME \
--machine-type=MACHINE_TYPE \
--image-family=IMAGE_FAMILY \
--image-project=IMAGE_PROJECT \
--zone=ZONE \
--boot-disk-type=hyperdisk-balanced \
--boot-disk-size=DISK_SIZE \
--scopes=cloud-platform \
--network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
--network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-0,no-address \
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-1,no-address \
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-2,no-address \
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-3,no-address \
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-4,no-address \
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-5,no-address \
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-6,no-address \
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-7,no-address \
--reservation-affinity=none \
--provisioning-model=FLEX_START \
--request-valid-for-duration=REQUEST_VALID_FOR_DURATION \
--max-run-duration=MAX_RUN_DURATION \
--instance-termination-action=TERMINATION_ACTION \
--maintenance-policy=TERMINATE
Selesaikan langkah-langkah berikut:
-
Ganti kode berikut:
INSTANCE_NAME: nama VM.MACHINE_TYPE: jenis mesin yang akan digunakan untuk VM. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU.IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk mengetahui daftar sistem operasi yang didukung, lihat Detail sistem operasi.IMAGE_PROJECT: project ID image OS.ZONE: zona tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk menentukan kebijakan penempatan rapat, gunakan zona di region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.DISK_SIZE: ukuran boot disk dalam GB.GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan gVNIC.RDMA_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC yang menggunakan NIC RDMA.REQUEST_VALID_FOR_DURATION: berapa lama permintaan untuk membuat VM tetap valid. Anda harus memformat nilai sebagai jumlah hari, jam, menit, atau detik diikuti dengand,h,m, dans. Misalnya, tentukan30muntuk 30 menit atau1h2m3suntuk satu jam, dua menit, dan tiga detik.Berdasarkan persyaratan zona untuk workload Anda, tentukan salah satu durasi berikut untuk membantu meningkatkan peluang keberhasilan permintaan pembuatan VM Anda:
- Workload dengan persyaratan zona yang ketat: jika workload Anda mengharuskan Anda membuat
VM di zona tertentu, tentukan durasi antara 90 detik (
90s) dan dua jam (2h). Durasi yang lebih lama memberi Anda peluang yang lebih tinggi untuk mendapatkan resource. - Beban kerja tanpa persyaratan zona yang ketat: jika VM dapat berjalan di zona mana pun dalam
region, tentukan durasi nol detik (
0s). Tindakan ini menentukan bahwa Compute Engine hanya mengalokasikan resource jika resource tersebut tersedia secara langsung. Jika permintaan pembuatan VM gagal karena resource tidak tersedia, coba lagi permintaan di zona lain.
- Workload dengan persyaratan zona yang ketat: jika workload Anda mengharuskan Anda membuat
VM di zona tertentu, tentukan durasi antara 90 detik (
MAX_RUN_DURATION: berapa lama Anda ingin VM yang diminta berjalan. Anda harus memformat nilai sebagai jumlah hari, jam, menit, atau detik yang diikuti dengand,h,m, dans. Nilainya harus antara 10 menit dan tujuh hari.TERMINATION_ACTION: apakah Compute Engine menghentikan (STOP) atau menghapus (DELETE) VM di akhir durasi berjalannya.
-
Opsional: Untuk menggunakan kebijakan penempatan rapat, tambahkan flag berikut:
--resource-policies=POLICY_NAME
Ganti kode berikut:
POLICY_NAME: nama kebijakan penempatan yang ringkas.
- Jalankan perintah.
Terikat dengan reservasi
Sebelum menjalankan perintah, tambahkan flag untuk kebijakan penempatan rapat jika perlu.
gcloud compute instances create INSTANCE_NAME \
--machine-type=MACHINE_TYPE \
--image-family=IMAGE_FAMILY \
--image-project=IMAGE_PROJECT \
--zone=ZONE \
--boot-disk-type=hyperdisk-balanced \
--boot-disk-size=DISK_SIZE \
--scopes=cloud-platform \
--network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
--network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-0,no-address \
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-1,no-address \
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-2,no-address \
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-3,no-address \
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-4,no-address \
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-5,no-address \
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-6,no-address \
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-7,no-address \
--reservation-affinity=specific \
--reservation=RESERVATION \
--provisioning-model=RESERVATION_BOUND \
--instance-termination-action=TERMINATION_ACTION \
--maintenance-policy=TERMINATE \
--restart-on-failure
Selesaikan langkah-langkah berikut:
-
Ganti kode berikut:
INSTANCE_NAME: nama VM.MACHINE_TYPE: jenis mesin yang akan digunakan untuk VM. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU.IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk mengetahui daftar sistem operasi yang didukung, lihat Detail sistem operasi.IMAGE_PROJECT: project ID image OS.ZONE: zona tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk menentukan kebijakan penempatan rapat, gunakan zona di region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.DISK_SIZE: ukuran boot disk dalam GB.GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan gVNIC.RDMA_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC yang menggunakan NIC RDMA.-
RESERVATION: nama reservasi atau blok tertentu dalam reservasi. Untuk mendapatkan nama reservasi atau blok yang tersedia, lihat Melihat kapasitas yang dipesan. Berdasarkan persyaratan penempatan instance, pilih salah satu opsi berikut:Untuk membuat instance di blok mana pun:
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME
Selain itu, untuk membuat beberapa instance dalam blok yang sama, terapkan kebijakan penempatan rapat yang sama yang menentukan kolokasi blok (
maxDistance=2) saat membuat setiap instance. Kemudian, Compute Engine akan menerapkan kebijakan ke reservasi dan membuat instance di blok yang sama.Untuk membuat instance di blok tertentu:
projects/RESERVATION_OWNER_PROJECT_ID/reservations/RESERVATION_NAME/reservationBlocks/RESERVATION_BLOCK_NAME
TERMINATION_ACTION: apakah Compute Engine menghentikan (STOP) atau menghapus (DELETE) VM di akhir periode reservasi.
-
Opsional: Untuk menggunakan kebijakan penempatan rapat, tambahkan flag berikut:
--resource-policies=POLICY_NAME
Ganti kode berikut:
POLICY_NAME: nama kebijakan penempatan yang ringkas.
- Jalankan perintah.
Spot
Sebelum menjalankan perintah, tambahkan flag secara opsional untuk kebijakan penempatan rapat.
gcloud compute instances create INSTANCE_NAME \
--machine-type=MACHINE_TYPE \
--image-family=IMAGE_FAMILY \
--image-project=IMAGE_PROJECT \
--zone=ZONE \
--boot-disk-type=hyperdisk-balanced \
--boot-disk-size=DISK_SIZE \
--scopes=cloud-platform \
--network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-0,subnet=GVNIC_NAME_PREFIX-sub-0 \
--network-interface=nic-type=GVNIC,network=GVNIC_NAME_PREFIX-net-1,subnet=GVNIC_NAME_PREFIX-sub-1,no-address
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-0,no-address \
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-1,no-address \
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-2,no-address \
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-3,no-address \
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-4,no-address \
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-5,no-address \
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-6,no-address \
--network-interface=nic-type=MRDMA,network=RDMA_NAME_PREFIX-mrdma,subnet=RDMA_NAME_PREFIX-mrdma-sub-7,no-address \
--provisioning-model=SPOT \
--instance-termination-action=TERMINATION_ACTION \
--maintenance-policy=TERMINATE \
--no-restart-on-failure
Selesaikan langkah-langkah berikut:
-
Ganti kode berikut:
INSTANCE_NAME: nama VM.MACHINE_TYPE: jenis mesin yang akan digunakan untuk VM. Untuk mengetahui informasi selengkapnya, lihat Jenis mesin GPU.IMAGE_FAMILY: kelompok image dari image OS yang ingin Anda gunakan. Untuk mengetahui daftar sistem operasi yang didukung, lihat Detail sistem operasi.IMAGE_PROJECT: project ID image OS.ZONE: zona tempat jenis mesin yang ingin Anda gunakan tersedia. Untuk menentukan kebijakan penempatan rapat, gunakan zona di region yang sama dengan kebijakan penempatan rapat. Untuk mengetahui informasi tentang region, lihat Ketersediaan GPU menurut region dan zona.DISK_SIZE: ukuran boot disk dalam GB.GVNIC_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC standar yang menggunakan gVNIC.RDMA_NAME_PREFIX: awalan nama yang Anda tentukan saat membuat jaringan dan subnet VPC yang menggunakan NIC RDMA.TERMINATION_ACTION: tindakan yang akan diambil saat Compute Engine melakukan preempt terhadap instance, baikSTOP(default) atauDELETE.
-
Opsional: Untuk menggunakan kebijakan penempatan rapat, tambahkan flag berikut:
--resource-policies=POLICY_NAME
Ganti kode berikut:
POLICY_NAME: nama kebijakan penempatan yang ringkas.
- Jalankan perintah.
Setelah beberapa waktu, pembuatan instance komputasi selesai. Untuk memverifikasi konfigurasi instance dan melihat statusnya, jalankan perintah berikut:
gcloud compute instances describe INSTANCE_NAME
Mengonfigurasi Spot VM
Jika Anda membuat Spot VM, selesaikan langkah-langkah berikut:
Untuk menyiapkan Spot VM Anda agar siap menghadapi kemungkinan preemption, lihat artikel Mengelola preemption Spot VM.
Opsional: Pelajari praktik terbaik untuk Spot VM.
Mengakses instance komputasi
Setelah Anda membuat instance komputasi, instance akan dimulai secara otomatis. Untuk mengakses instance, lakukan salah satu hal berikut:
Konsol
Di konsol Cloud de Confiance , buka halaman VM instances.
Klik nama instance komputasi Anda.
Di bagian Remote Access, klik menu drop-down pertama dan pilih cara Anda ingin mengakses instance.
Compute Engine menyebarkan kunci SSH dan membuat pengguna Anda. Untuk mengetahui informasi selengkapnya, lihat Menghubungkan ke VM Linux.
gcloud
Untuk mengakses instance menggunakan SSH, gunakan
perintah gcloud compute ssh:
gcloud compute ssh INSTANCE_NAME --zone ZONE
Compute Engine menyebarkan kunci SSH dan membuat pengguna Anda. Untuk mengetahui informasi selengkapnya, lihat Menghubungkan ke VM Linux.
Pembersihan
Agar akun Cloud de Confiance by S3NS Anda tidak dikenai biaya untuk resource yang digunakan dalam panduan memulai ini, hapus semua instance komputasi dan semua resource terlampir yang Anda buat.
Konsol
Di konsol Cloud de Confiance , buka halaman VM instances.
Pilih instance yang ingin Anda hapus.
Klik Delete.
Dalam dialog, lakukan hal berikut:
Opsional: Untuk menghapus instance tanpa mematikan instance dengan benar, atau mengakhiri penonaktifan yang sedang berlangsung dengan benar, centang kotak Lewati penonaktifan yang benar (jika berlaku).
Untuk mengonfirmasi, klik Hapus.
Untuk menghapus disk yang digunakan oleh instance yang dihapus, buka halaman Disks, lalu lakukan langkah-langkah berikut:
Pilih disk yang ingin Anda hapus. Disk yang Anda pilih tidak boleh memiliki nilai di kolom Digunakan oleh.
Klik Delete.
Untuk mengonfirmasi, klik Hapus.
gcloud
Untuk menghapus satu atau beberapa instance di zona yang sama, gunakan
perintah gcloud compute instances delete.
Untuk menghapus secara paksa disk yang terpasang ke satu atau beberapa instance,
sertakan tanda --delete-disks:
gcloud compute instances delete INSTANCE_NAMES \
--delete-disks=DELETE_DISK_TYPE \
--zone=ZONE
Ganti kode berikut:
INSTANCE_NAMES: daftar nama instance yang dipisahkan oleh spasi—misalnya,instance-01 instance-02 instance-03.ZONE: zona tempat instance berada.DELETE_DISK_TYPE: tentukan salah satu nilai berikut:- Untuk menghapus penyimpanan persisten booting dan non-booting yang terpasang:
all - Untuk menghapus hanya penyimpanan persisten boot yang terlampir:
boot - Untuk menghapus hanya penyimpanan persisten non-boot:
data
- Untuk menghapus penyimpanan persisten booting dan non-booting yang terpasang:
Membuat image kustom berdasarkan Advanced Compute Images
Anda dapat membuat image yang disesuaikan berdasarkan image Advanced Compute Images. Kemudian, Anda dapat menggunakan image kustom saat membuat instance komputasi baru untuk workload dan aplikasi Anda.
Untuk membuat image kustom, selesaikan tugas berikut:
Konfigurasi lokasi penyimpanan untuk gambar. Untuk membuat, mengubah, dan menghapus image OS yang disimpan di Cloud Storage, Anda harus diberi peran
roles/compute.storageAdmin.Sesuaikan OS tamu sesuai kebutuhan untuk instance komputasi Anda.
Hentikan instance komputasi untuk mencegah penulisan apa pun ke disk. Jika Anda tidak dapat menghentikan instance, selesaikan langkah-langkah di Minimalkan penulisan data ke persistent disk.
Buat image kustom menggunakan boot disk instance komputasi Anda sebagai disk sumber. Anda dapat melakukannya menggunakan konsolCloud de Confiance atau Google Cloud CLI.
Konsol
Di konsol Cloud de Confiance , buka halaman Images.
Klik Create image.
Tentukan Nama untuk image Anda.
Di bagian Source disk, pilih nama boot disk untuk instance komputasi yang menggunakan Advanced Compute Images.
Jika instance komputasi tidak dihentikan, pilih Keep instance running untuk mengonfirmasi bahwa Anda ingin membuat image saat instance sedang berjalan. Anda seharusnya telah menyelesaikan langkah-langkah untuk meminimalkan penulisan ke disk booting.
Di menu drop-down Berdasarkan lokasi disk sumber (default), tentukan lokasi untuk menyimpan image kustom. Misalnya, tentukan
usuntuk menyimpan image di multi-regionus, atauus-central1untuk menyimpan image kustom di regionus-central1.Jika Anda tidak menentukan pilihan, Compute Engine akan menyimpan image di multi-region yang paling dekat dengan lokasi sumber image kustom.
Opsional: Tentukan properti lain untuk gambar Anda:
- Family: kelompok image yang mencakup image baru ini.
- Deskripsi: deskripsi untuk gambar kustom Anda.
- Label: label untuk mengelompokkan resource.
Tentukan kunci enkripsi. Anda dapat memilih antara kunci Google Cloud-powered encryption key atau Cloud Key Management Service (Cloud KMS). Jika kunci enkripsi tidak ditentukan, image akan dienkripsi menggunakan Google Cloud-powered encryption key.
Klik Create untuk membuat gambar.
gcloud
Gunakan perintah
gcloud compute images createuntuk membuat image kustom.Flag
--forceadalah flag opsional yang memungkinkan Anda membuat image dari instance yang sedang berjalan. Secara default, Anda tidak dapat membuat image dari instance yang sedang berjalan. Tentukan flag ini hanya jika Anda yakin ingin membuat image saat instance sedang berjalan.gcloud compute images create IMAGE_NAME \ --source-disk=SOURCE_DISK \ --source-disk-zone=ZONE \ [--family=IMAGE_FAMILY] \ [--storage-location=LOCATION] \ [--force]Ganti kode berikut:
IMAGE_NAME: nama untuk image baruSOURCE_DISK: disk tempat Anda ingin membuat imageZONE: zona tempat disk beradaIMAGE_FAMILY: Opsional: tanda yang menentukan kelompok image yang mencakup image iniLOCATION: Opsional: tanda yang memungkinkan Anda menentukan region atau multi-region tempat image Anda disimpan. Misalnya, tentukanusuntuk menyimpan image di multi-regionus, atauus-central1untuk menyimpannya di regionus-central1. Jika Anda tidak menentukan pilihan, Compute Engine akan menyimpan image dalam multi-region yang paling dekat dengan lokasi sumber image Anda.
Untuk mengetahui informasi selengkapnya tentang cara membuat image kustom, lihat Membuat image kustom.
Membagikan gambar
Setelah membuat image kustom, Anda dapat membagikannya di seluruh project. Jika Anda mengizinkan pengguna dari project lain menggunakan image kustom Anda, mereka dapat mengakses image ini dengan menentukan project image dalam permintaan mereka.
Menggunakan Advanced Compute Images dengan template instance
Anda dapat membuat template instance yang menentukan image Advanced Compute Images lalu menggunakan template tersebut untuk melakukan hal berikut:
Buat instance komputasi dalam grup instance terkelola (MIG).
Batasan untuk membuat template instance
Perhatikan batasan berikut saat membuat template instance:
- VPC Bersama pada antarmuka selain
nic0untuk template instance didukung di gcloud CLI dan REST, tetapi tidak di konsolCloud de Confiance . - Anda tidak dapat memperbarui template instance yang ada atau mengubah template instance setelah dibuat. Jika template instance sudah tidak berlaku, atau Anda perlu mengubah konfigurasi, buat template instance baru.
- Jika ingin menentukan kelompok image dalam template instance, Anda tidak dapat menggunakan konsol Cloud de Confiance . Anda dapat menggunakan Google Cloud CLI atau REST sebagai gantinya.
- Anda dapat menggunakan template instance untuk membuat instance komputasi dengan disk booting Hyperdisk Seimbang yang ada di storage pool, tetapi hanya jika storage pool berada di zona yang sama dengan instance.
- Anda tidak dapat menggunakan template instance global untuk membuat instance komputasi dengan disk non-boot yang ada di kumpulan penyimpanan.
- Untuk membuat template instance regional, jenis GPU yang Anda tentukan dalam template harus tersedia di setidaknya satu zona di region yang ditentukan.
Membuat template instance
Sebagian besar properti instance yang dapat Anda tentukan dalam permintaan untuk membuat instance komputasi individual juga dapat ditentukan untuk template instance, termasuk metadata instance, skrip startup, persistent disk, dan akun layanan. Informasi yang diperlukan untuk template instance mencakup jenis mesin, boot disk, dan jaringan.
Anda dapat membuat template instance regional atau global yang menggunakan Advanced Compute Images menggunakan konsol Cloud de Confiance atau Google Cloud CLI.
Untuk membuat template instance, akun pengguna Anda harus telah diberi semua izin yang diperlukan untuk memanggil metode instanceTemplates.insert.
Bagian berikut menjelaskan cara membuat template instance untuk digunakan dengan Grup Instance Terkelola (MIG), instance komputasi individual, atau reservasi. Untuk membuat template instance yang akan digunakan dengan AI Hypercomputer, ikuti petunjuk di Membuat MIG yang dioptimalkan untuk AI dengan jenis mesin Ultra A4 atau A3.
Buat resource tambahan yang diperlukan untuk instance A3 ultra atau A4
Sebelum membuat template instance untuk instance yang menggunakan Advanced Compute Images, Anda harus membuat terlebih dahulu resource yang akan Anda tentukan dalam template instance. Selesaikan tugas yang tercantum di Prasyarat untuk membuat resource ini.
Buat template instance yang menentukan image Advanced Compute Images
Anda dapat membuat template instance menggunakan perintah konsol Cloud de Confiance atau gcloud CLI.
Konsol
Di konsol Cloud de Confiance , buka halaman Instance templates.
Klik Buat template instance .
Di kolom Name, masukkan nama untuk template instance.
Pilih Lokasi sebagai berikut:
- Untuk menggunakan template instance di seluruh region, pilih Global (default).
- Untuk mengurangi dependensi lintas region, pilih Regional, lalu pilih Region tempat Anda ingin membuat template instance.
Di bagian Machine configuration, lakukan hal berikut:
- Klik tab GPU.
- Dalam daftar GPU type, pilih jenis GPU. Untuk instance A4, pilih
NVIDIA B200atau untuk instance A3 Ultra, pilihNVIDIA H200 141GB. - Dalam daftar Number of GPUs, pilih 8.
- Opsional: Pilih jenis mesin yang berbeda dari default.
Di bagian Boot disk, klik Change, lalu lakukan hal berikut:
- Dalam daftar Operating system, pilih Advanced Compute Images.
- Dalam daftar Versi, pilih versi OS.
- Opsional: Tentukan properti tambahan untuk boot disk, seperti ukuran disk.
Klik Create untuk membuat template instance.
gcloud
Untuk membuat template instance regional atau global, gunakan perintah instance-templates create.
Untuk template instance regional, Anda harus menggunakan flag --instance-template-region untuk menetapkan region template.
Saat membuat template instance untuk instance GPU, Anda harus menetapkan flag
--maintenance-policy ke TERMINATE.
Buat template instance regional menggunakan perintah berikut.
gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \ --instance-template-region=REGION \ --accelerator=count=8,type=GPU_TYPE \ --machine-type=MACHINE_TYPE \ --image-project=advanced-compute-images \ --image-family=IMAGE_FAMILY \ --maintenance-policy=TERMINATE
Buat template instance global menggunakan perintah berikut:
gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME --accelerator=count=8,type=GPU_TYPE \ --machine-type=MACHINE_TYPE \ --image-project=advanced-compute-images \ --image-family=IMAGE_FAMILY \ --maintenance-policy=TERMINATE
Ganti kode berikut:
- INSTANCE_TEMPLATE_NAME: nama untuk template instance.
- REGION: untuk template instance regional, ini adalah region tempat membuat template.
- GPU_TYPE: jenis GPU yang akan digunakan dengan instance komputasi.
Saat menggunakan Advanced Compute Images, Anda harus menentukan
nvidia-b200untuk instance A4 ataunvidia-h200-141gbuntuk instance A3 Ultra. - MACHINE_TYPE: jenis mesin instance komputasi. Untuk menggunakan Image Compute Lanjutan, Anda harus menentukan jenis mesin A3 Ultra atau A4.
- IMAGE_FAMILY: menentukan salah satu dari hal berikut:
- IMAGE_FAMILY: kelompok image. Tindakan ini akan menentukan
versi image OS terbaru dalam kelompok tersebut. Misalnya, Anda dapat
menentukan
aci-gpu-u2204-slurm-2511-cuda-130-nvidia-580-amd64. - IMAGE: versi tertentu dari image OS; misalnya,
aci-gpu-u2204-slurm-2511-cuda-130-nvidia-580-amd64-v20260427-1. Untuk menentukan versi tertentu dari image OS, bukan family image, Anda harus menggunakan flag--image, bukan flag--image-family.
- IMAGE_FAMILY: kelompok image. Tindakan ini akan menentukan
versi image OS terbaru dalam kelompok tersebut. Misalnya, Anda dapat
menentukan
Anda dapat menambahkan hingga 15 disk non-boot sekunder. Tentukan flag --create-disk
untuk setiap disk sekunder yang Anda buat.
- Untuk membuat disk sekunder dari image publik atau kustom, tentukan properti
imagedanimage-projectuntuk setiap disk dalam flag--create-disk. - Untuk membuat disk kosong, jangan sertakan properti
imageatauimage-project. - Secara opsional, sertakan properti untuk disk
sizedantype.
Untuk mengetahui daftar semua subperintah dan flag yang tersedia, lihat
referensi instance-templates.
Langkah berikutnya
* Tinjau Skenario dasar untuk membuat grup instance terkelola (MIG). * Pelajari cara memeriksa status instance untuk mengetahui kapan instance siap digunakan. * Pelajari cara terhubung ke instance Anda.