Documentação sobre a orquestração de IA/ML no Cloud Run

O Cloud Run é uma plataforma totalmente gerida que lhe permite executar as suas aplicações em contentores, incluindo cargas de trabalho de IA/ML, diretamente na infraestrutura escalável da Google. Esta plataforma gere a infraestrutura por si, para que se possa concentrar em escrever o seu código em vez de gastar tempo a operar, configurar e dimensionar os seus recursos do Cloud Run. As capacidades do Cloud Run oferecem o seguinte:

  • Aceleradores de hardware: aceda e faça a gestão de GPUs para inferência em grande escala.
  • Suporte de frameworks: integre-se com as frameworks de apresentação de modelos que já conhece e nas quais confia, como o Hugging Face, o TGI e o vLLM.
  • Plataforma gerida: usufrua de todas as vantagens de uma plataforma gerida para automatizar, dimensionar e melhorar a segurança de todo o ciclo de vida da IA/AA, mantendo a flexibilidade.

Explore os nossos tutoriais e práticas recomendadas para ver como o Cloud Run pode otimizar as suas cargas de trabalho de IA/ML.