Dokumentasi orkestrasi AI/ML di Cloud Run

Baca dokumentasi produk

Cloud Run adalah platform terkelola sepenuhnya yang memungkinkan Anda menjalankan aplikasi dalam container, termasuk workload AI/ML, langsung di infrastruktur Google yang skalabel. Cloud Run menangani infrastruktur untuk Anda, sehingga Anda dapat berfokus pada penulisan kode, bukan menghabiskan waktu untuk mengoperasikan, mengonfigurasi, dan menskalakan resource Cloud Run. Kemampuan Cloud Run menyediakan hal berikut:

  • Akselerator hardware: akses dan kelola GPU untuk inferensi dalam skala besar.
  • Dukungan framework: terintegrasi dengan framework penayangan model yang sudah Anda kenal dan percayai seperti Hugging Face, TGI, dan vLLM.
  • Platform terkelola: dapatkan semua manfaat platform terkelola untuk mengotomatiskan, menskalakan, dan meningkatkan keamanan seluruh siklus proses AI/ML Anda sambil mempertahankan fleksibilitas.

Pelajari tutorial dan praktik terbaik kami untuk melihat cara Cloud Run dapat mengoptimalkan workload AI/ML Anda.

Referensi dokumentasi

Temukan pedoman dan panduan memulai, tinjau referensi utama, dan dapatkan bantuan terkait masalah umum.