Cloud Run에서의 AI/ML 조정 문서

Cloud Run은 AI/ML 워크로드를 포함한 컨테이너화된 애플리케이션을 Google의 확장 가능한 인프라에서 직접 실행할 수 있는 완전 관리형 플랫폼입니다. 이 플랫폼은 인프라를 대신 관리하므로, Cloud Run 리소스를 운영, 구성, 확장하는 데 시간을 들이지 않고 코드 작성에 집중할 수 있습니다. Cloud Run의 기능은 다음과 같은 이점을 제공합니다.

  • 하드웨어 가속기: 대규모 추론을 위해 GPU에 액세스하고 관리할 수 있습니다.
  • 프레임워크 지원: Hugging Face, TGI, vLLM 등 이미 익숙하고 신뢰할 수 있는 모델 서빙 프레임워크와 통합할 수 있습니다.
  • 관리형 플랫폼: 유연성을 유지하면서 AI/ML 전체 수명 주기를 자동화, 확장, 보안 강화할 수 있는 관리형 플랫폼의 모든 이점을 제공합니다.

튜토리얼과 권장사항을 통해 Cloud Run이 AI/ML 워크로드를 어떻게 최적화할 수 있는지 알아보세요.

문서 리소스

빠른 시작 및 가이드를 찾고 주요 참조를 검토하며 일반적인 문제에 대한 도움을 받을 수 있습니다.