Documentación sobre la orquestación de IA y aprendizaje automático en Cloud Run

Cloud Run es una plataforma totalmente gestionada que te permite ejecutar tus aplicaciones en contenedores, incluidas las cargas de trabajo de IA y aprendizaje automático, directamente en la infraestructura escalable de Google. Se encarga de la infraestructura para que puedas centrarte en escribir el código en lugar de dedicar tiempo a operar, configurar y escalar tus recursos de Cloud Run. Las funciones de Cloud Run ofrecen lo siguiente:

  • Aceleradores de hardware: accede a GPUs y gestiónalas para hacer inferencias a gran escala.
  • Compatibilidad con frameworks: integra los frameworks de servicio de modelos que ya conoces y en los que confías, como Hugging Face, TGI y vLLM.
  • Plataforma gestionada: disfruta de todas las ventajas de una plataforma gestionada para automatizar, escalar y mejorar la seguridad de todo tu ciclo de vida de IA y aprendizaje automático, al tiempo que mantienes la flexibilidad.

Consulta nuestros tutoriales y prácticas recomendadas para ver cómo puede optimizar Cloud Run tus cargas de trabajo de IA y aprendizaje automático.