Ejecuta la inferencia de IA en Cloud Run con GPUs

Cloud Run te permite adjuntar GPUs para implementar modelos abiertos y publicar inferencias de IA. Puedes entrenar, ajustar y ejecutar modelos con un rendimiento acelerado.

Si no conoces los conceptos de IA, consulta GPUs para IA. Para obtener más información sobre las opciones de configuración, consulta la compatibilidad con GPU para servicios, trabajos y grupos de trabajadores.

Instructivos para servicios

• Ejecuta Gemma en Cloud Run
• Ejecuta la inferencia de LLM en GPUs de Cloud Run con Gemma y Ollama
• Ejecuta OpenCV en Cloud Run con aceleración de GPU
• Ejecuta la inferencia de LLM en GPUs de Cloud Run con Hugging Face Transformers.js

Instructivos para trabajos

• Ajusta LLMs con GPUs usando trabajos de Cloud Run
• Ejecuta la inferencia por lotes con GPUs en trabajos de Cloud Run
• Transcodificación de video acelerada por GPU con FFmpeg en trabajos de Cloud Run