Cloud Run 上的 AI/机器学习编排文档

阅读产品文档

Cloud Run 是一个全托管式平台，可让您直接在 Google 可伸缩的基础设施上运行容器化应用，包括 AI/机器学习工作负载。它会为您处理基础架构，因此您可以专注于编写代码，而不必花费时间来运维、配置和扩缩 Cloud Run 资源。Cloud Run 的功能可提供以下优势：

  • 硬件加速器：大规模访问和管理用于推理的 GPU。
  • 框架支持：与您已经熟悉并信任的模型部署框架（例如 Hugging Face、TGI 和 vLLM）集成。
  • 托管式 Kubernetes 的简易性：充分利用托管式平台的优势，自动执行整个 AI/机器学习生命周期的任务、实现扩缩并提升安全性，同时保持灵活性。

探索我们的教程和最佳实践，了解 Cloud Run 如何优化您的 AI/机器学习工作负载。

文档资源

查找快速入门和指南，查看重要参考文档，并获取有关常见问题的帮助。