Prueba las capacidades del modelo en Model Garden

Model Garden proporciona varias opciones para que veas y pruebes rápidamente las capacidades de los modelos. En el caso de los modelos compatibles, puedes probar entornos de pruebas de demostración o iniciar aplicaciones de demostración llamadas Model Garden Spaces que puedes compartir con otras personas para mostrar las capacidades de un modelo.

Los entornos de pruebas se basan en extremos de predicción en línea de Gemini Enterprise Agent Platform implementados previamente y no generan cargos. Cuando abres la tarjeta de un modelo compatible, puedes usar el panel Probar para probar rápidamente las capacidades del modelo enviando una instrucción de texto. También puedes establecer algunos de los parámetros más comunes, como la temperatura y la cantidad de tokens de salida. La zona de pruebas se limita solo a la entrada y salida de texto.

Cuando inicias Spaces, tienes una aplicación web en funcionamiento que está lista para usar con mucho menos esfuerzo manual que implementar un modelo y compilar una app para usar el extremo del modelo. Model Garden implementa el modelo que seleccionaste en Gemini Enterprise Agent Platform y la app de ejemplo en una instancia de Cloud Run que usa el extremo del modelo implementado. La aplicación también puede usar extremos existentes o un extremo de MaaS.

Antes de comenzar

En este instructivo, debes configurar un proyecto de Cloud de Confiance by S3NS y habilitar la API de Agent Platform.

  1. In the Cloud de Confiance console, on the project selector page, select or create a Cloud de Confiance project.

    Roles required to select or create a project

    • Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
    • Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

    Go to project selector

  2. If you're using an existing project for this guide, verify that you have the permissions required to complete this guide. If you created a new project, then you already have the required permissions.

  3. Verify that billing is enabled for your Cloud de Confiance project.

  4. Enable the Gemini Enterprise Agent Platform, Artifact Registry, Cloud Build, Cloud Logging, and Cloud Run Admin APIs, if any are not already enabled.

    Roles required to enable APIs

    To enable APIs, you need the serviceusage.services.enable permission. If you created the project, then you likely already have this permission through the Owner role (roles/owner). Otherwise, you can get this permission through the Service Usage Admin role (roles/serviceusage.serviceUsageAdmin). Learn how to grant roles.

    Enable the APIs

  5. Si quieres probar Model Garden Spaces, verifica que la cuenta de servicio predeterminada de Compute Engine tenga los permisos necesarios para iniciar Spaces.

Roles obligatorios

Para probar las capacidades del modelo en Model Garden, asegúrate de que tú y la cuenta de servicio predeterminada de Compute Engine tengan los roles de IAM necesarios.

Roles obligatorios para los usuarios

Para obtener los permisos que necesitas para probar las capacidades de los modelos en Model Garden, pídele a tu administrador que te otorgue los siguientes roles de IAM en tu proyecto de Cloud de Confiance :

Para obtener más información sobre cómo otorgar roles, consulta Administra el acceso a proyectos, carpetas y organizaciones.

También puedes obtener los permisos necesarios a través de roles personalizados o cualquier otro rol predefinido.

Funciones necesarias para la cuenta de servicio predeterminada de Compute Engine

La cuenta de servicio predeterminada de Compute Engine se usa para iniciar Spaces.

Para asegurarte de que la cuenta de servicio predeterminada de Compute Engine tenga los permisos necesarios para iniciar Spaces, pídele a tu administrador que otorgue los siguientes roles de IAM a la cuenta de servicio predeterminada de Compute Engine en tu proyecto de Cloud de Confiance :

Para obtener más información sobre cómo otorgar roles, consulta Administra el acceso a proyectos, carpetas y organizaciones.

Es posible que tu administrador también pueda otorgarle los permisos necesarios a la cuenta de servicio predeterminada de Compute Engine a través de roles personalizados o de otros roles predefinidos.

Prueba un Playground

  1. En la consola de Cloud de Confiance , ve a la tarjeta de un modelo compatible, como la tarjeta del modelo Gemma 2.

    Ir a Gemma 2

  2. Si se te solicita, revisa y acepta el contrato de licencia del modelo para acceder a la tarjeta del modelo y a las funciones de prueba.

  3. En el panel Probar, configura la instrucción y los parámetros de prueba:

    1. En Región, acepta la opción predeterminada o elige tu región.

    2. En Extremo, selecciona Demo playground.

    3. En el cuadro Instrucción, ingresa Why is the sky blue?.

    4. Expande la sección Opciones avanzadas y consulta los parámetros predeterminados.

    El panel de prueba de Gemma 2b-it

  4. Haz clic en Enviar. El resultado aparece debajo del botón Enviar.

Prueba Spaces

Para iniciar un modelo, abre la tarjeta de modelo del modelo compatible y, en el panel Probar Spaces, haz clic en un espacio para iniciar uno. Se te cobrará por las máquinas que se usan para la implementación y por la instancia de Cloud Run que aloja la app.

Puedes iniciar Spaces con modelos como Gemini, Gemma, Llama y Stable Diffusion.

Iniciar Spaces

Inicia Spaces para probar y experimentar con un modelo de una aplicación de Gradio de ejemplo.

  1. En la consola de Cloud de Confiance , ve a Model Garden para ver la tarjeta de un modelo.

    Ir a Model Garden

  2. Selecciona el modelo que quieras usar. Los modelos compatibles tienen un panel Probar Spaces, como la tarjeta del modelo Gemma 3.

    Ir a Gemma 3

  3. Haz clic en rocket_launch Ejecutar para iniciar un espacio.

    1. Puedes elegir Exigir autenticación (a través de Identity-Aware Proxy) o Permitir acceso público. Para obtener más información, consulta Habilita las APIs para la primera implementación y otorga permisos.
    1. Haz clic en Crear servicio nuevo para iniciar la implementación. Puedes supervisar el estado de la implementación desde la tarjeta de modelo.

  4. Después de que el estado de Spaces cambie a Listo, haz clic en él para ver los detalles de la implementación.

    Para obtener protección básica, la aplicación web requiere una clave secreta que se debe agregar a la URL cuando se envían instrucciones. Esta clave secreta se proporciona en el campo Clave secreta.

    1. Haz clic en Abrir para comenzar a usar la app. Puedes enviar instrucciones al modelo y ver sus respuestas desde la app.

    Puedes compartir la URL para que otras personas también prueben la app.

    1. Para cerrar el acceso a la app, haz clic en Editar en el campo Control de acceso.

    En la pestaña Seguridad de tu aplicación de Cloud Run, selecciona Solicitar autenticación y, luego, haz clic en Guardar. La aplicación ya no está disponible a través de la URL. Las visitas a la URL generan un error 403 (prohibido).

Realiza una limpieza

Sigue estos pasos para evitar que se apliquen cargos a tu cuenta de Cloud de Confiance by S3NS por los recursos que usaste en esta página.

Borra espacios

Para limpiar Spaces, debes borrar los recursos del modelo y los de la aplicación de ejemplo en Cloud Run.

Borra recursos de modelos

Desde la app de Gradio, puedes borrar extremos de modelos para limpiar los recursos de Gemini Enterprise Agent Platform. Luego, debes borrar el servicio de Cloud Run para detener y borrar la app de Gradio.

Para borrar de forma manual los recursos de Gemini Enterprise Agent Platform, consulta Anula la implementación de modelos y borra recursos.

Borra el servicio de Cloud Run

Borrar recursos relacionados con un servicio, incluidas todas las revisiones del servicio Borrar un servicio no incluye elementos como imágenes de contenedor de Artifact Registry. Para obtener más información, consulta Administra servicios en la documentación de Cloud Run.

  1. En la consola de Cloud de Confiance , consulta la lista de servicios de Cloud Run:

    Ir a Cloud Run

  2. Busca el servicio que deseas borrar y, luego, selecciónalo.

  3. Haz clic en borrar Borrar. Esta acción borra todas las revisiones del servicio.

Borra el proyecto

La manera más fácil de eliminar la facturación es borrar el proyecto que creaste para el instructivo.

Para borrar el proyecto, sigue estos pasos:

  1. En la Cloud de Confiance consola, ve a la página Administrar recursos.

    Ir a Administrar recursos

  2. En la lista de proyectos, elige el proyecto que quieres borrar y haz clic en Borrar.
  3. En el diálogo, escribe el ID del proyecto y, luego, haz clic en Cerrar para borrar el proyecto.

¿Qué sigue?

Consulta una descripción general de Model Garden.