Model Garden es una biblioteca de modelos de IA y AA que te ayuda a descubrir, probar, personalizar y, luego, implementar modelos y recursos de Google y sus socios.
Ventajas de Model Garden
Cuando trabajas con modelos de IA, Model Garden proporciona las siguientes ventajas:
- Los modelos disponibles se agrupan en una sola ubicación.
- Model Garden proporciona un patrón de implementación coherente para diferentes tipos de modelos.
- Model Garden proporciona integración integrada con otras partes de Gemini Enterprise Agent Platform, como el ajuste, la evaluación y la entrega de modelos.
- La entrega de modelos de IA generativa puede ser difícil. Gemini Enterprise Agent Platform se encarga de la implementación y la entrega de modelos por ti.
Explorar modelos
Para ver la lista de modelos de base, ajustables y para tareas específicas, tanto de código abierto como de Gemini Enterprise Agent Platform, ve a la página Model Garden en la Cloud de Confiance consola.
Las categorías de modelos disponibles en Model Garden son las siguientes:
| Categoría | Descripción |
|---|---|
| Soluciones específicas para tareas | La mayoría de estos modelos precompilados están listos para usar. Muchos se pueden personalizar con tus propios datos. |
Para filtrar modelos en el panel de filtro, especifica lo siguiente:
- Tareas: Haz clic en la tarea que deseas que realice el modelo.
- Colecciones de modelos: Haz clic para elegir modelos que administren Google, los socios o tú.
- Proveedores: Haz clic en el proveedor del modelo.
- Atributos: Haz clic en los atributos que desees en el modelo.
Para obtener más información sobre cada modelo, haz clic en su ficha del modelo.
Análisis de seguridad de modelos
Google realiza pruebas y comparativas exhaustivas en los contenedores de entrega y ajuste que proporcionamos. También se aplica el análisis de vulnerabilidades activo a los artefactos de contenedor.
Los modelos de terceros de socios destacados se someten a análisis de puntos de control de modelos para garantizar la autenticidad. HuggingFace y su analizador de terceros analizan directamente los modelos de terceros de HuggingFace Hub en busca de software malicioso, archivos pickle, capas de Keras Lambda y secretos. HuggingFace marca los modelos que se consideran inseguros a partir de estos análisis y se bloquea su implementación en Model Garden. Los modelos que se consideran sospechosos o que tienen la capacidad de ejecutar código remoto se indican en Model Garden, pero se pueden implementar. Te recomendamos que realices una revisión exhaustiva de cualquier modelo sospechoso antes de implementarlo en Model Garden.
Controla el acceso a modelos específicos
Puedes establecer una política de la organización de Model Garden a nivel de la organización, la carpeta o el proyecto para controlar el acceso a modelos específicos en Model Garden. Por ejemplo, puedes permitir el acceso a modelos específicos que hayas verificado y rechazar el acceso a todos los demás.
Más información sobre Model Garden
Para obtener más información sobre las opciones de implementación y las personalizaciones que puedes realizar con los modelos en Model Garden, consulta los recursos en las siguientes secciones.
Implementación y entrega
Obtén más información para personalizar las implementaciones y las funciones avanzadas de entrega.
- Implementa y entrega modelos de código abierto con el SDK de Python, la CLI, la API de REST o la consola.
- Implementa Gemma y haz predicciones
- Entrega modelos abiertos con un contenedor de Hex-LLM en Cloud TPU
- Instructivo en Medium sobre la entrega de Gemma 2 usando varios adaptadores LoRA con DLC de Hugging Face para la inferencia de PyTorch
- Instructivo en LinkedIn sobre cómo usar controladores personalizados para entregar PaliGemma para la descripción de imágenes con DLC de Hugging Face para la inferencia de PyTorch
- Implementa y entrega un modelo de Hugging Face
- Usa el contenedor de entrega de GPU de xDiT para la generación de imágenes y videos
- Usa vLLM para entregar modelos de lenguaje solo de texto y multimodales en GPU de Cloud