Cloud Run 中的 AI/機器學習自動化調度管理機制說明文件

閱讀產品說明文件

Cloud Run 是全代管平台，可讓您直接在 Google 的可擴充基礎架構上執行容器化應用程式，包括 AI/ML 工作負載。這項服務會為您處理基礎架構，讓您專心編寫程式碼，不必花時間操作、設定及擴充 Cloud Run 資源。Cloud Run 的功能提供下列服務：

  • 硬體加速器：大規模存取及管理 GPU，用於推論。
  • 支援框架：與您熟悉且信賴的模型服務架構整合，例如 Hugging Face、TGI 和 vLLM。
  • 代管平台：享有代管平台的所有優點，自動化、擴充及提升整個 AI/機器學習生命週期的安全性，同時維持彈性。

歡迎參考我們的教學課程和最佳做法，瞭解如何運用 Cloud Run 最佳化 AI/機器學習工作負載。

說明文件資源

查看快速入門導覽課程與指南、瀏覽重要參考資料，並獲取常見問題相關說明。