Documentação sobre a orquestração de IA/ML no Cloud Run
O Cloud Run é uma plataforma totalmente gerida que lhe permite executar as suas aplicações em contentores, incluindo cargas de trabalho de IA/ML, diretamente na infraestrutura escalável da Google. Esta plataforma gere a infraestrutura por si, para que se possa concentrar em escrever o seu código em vez de gastar tempo a operar, configurar e dimensionar os seus recursos do Cloud Run. As capacidades do Cloud Run oferecem o seguinte:
- Aceleradores de hardware: aceda e faça a gestão de GPUs para inferência em grande escala.
- Suporte de frameworks: integre-se com as frameworks de apresentação de modelos que já conhece e nas quais confia, como o Hugging Face, o TGI e o vLLM.
- Plataforma gerida: usufrua de todas as vantagens de uma plataforma gerida para automatizar, dimensionar e melhorar a segurança de todo o ciclo de vida da IA/AA, mantendo a flexibilidade.
Explore os nossos tutoriais e práticas recomendadas para ver como o Cloud Run pode otimizar as suas cargas de trabalho de IA/ML.
Recursos de documentação
Execute soluções de IA
- Concept
- Concept
- Procedimentos
- Procedimentos
- Procedimentos
- Tutorial
- Concept
- Concept
Inferência com GPUs
- Tutorial
- Procedimentos
- Tutorial
- Prática recomendada
- Tutorial
- Tutorial
- Prática recomendada
- Prática recomendada
Resolver problemas
- Concept
- Procedimentos
- Procedimentos
- Procedimentos