Tester les capacités des modèles dans Model Garden

Model Garden propose plusieurs options pour afficher et tester rapidement les fonctionnalités des modèles. Pour les modèles compatibles, vous pouvez essayer des playgrounds de démonstration ou lancer des applications de démonstration appelées "espaces Model Garden", que vous pouvez partager avec d'autres personnes pour présenter les fonctionnalités d'un modèle.

Les Playgrounds sont alimentés par des points de terminaison de prédiction en ligne Gemini Enterprise Agent Platform prédéployés et ne génèrent aucuns frais. Lorsque vous ouvrez la fiche d'un modèle compatible, vous pouvez utiliser le panneau Essayer pour tester rapidement les capacités du modèle en envoyant un prompt textuel. Vous pouvez également définir certains des paramètres les plus courants, tels que la température et le nombre de jetons de sortie. Le playground est limité aux entrées et sorties de texte uniquement.

Lorsque vous lancez Spaces, vous disposez d'une application Web fonctionnelle et prête à l'emploi, ce qui nécessite beaucoup moins d'efforts manuels que le déploiement d'un modèle et la création d'une application pour utiliser le point de terminaison du modèle. Model Garden déploie le modèle sélectionné dans Gemini Enterprise Agent Platform et déploie l'application exemple sur une instance Cloud Run qui utilise le point de terminaison du modèle déployé. L'application peut également utiliser des points de terminaison existants ou un point de terminaison MaaS.

Avant de commencer

Pour suivre ce tutoriel, vous devez configurer un projet Cloud de Confiance by S3NS et activer l'API Agent Platform.

1. In the Cloud de Confiance console, on the project selector page, select or create a Cloud de Confiance project.

   Roles required to select or create a project

   • Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
   • Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

   Go to project selector

2. If you're using an existing project for this guide, verify that you have the permissions required to complete this guide. If you created a new project, then you already have the required permissions.

3. Verify that billing is enabled for your Cloud de Confiance project.

4. Enable the Gemini Enterprise Agent Platform, Artifact Registry, Cloud Build, Cloud Logging, and Cloud Run Admin APIs, if any are not already enabled.

   Roles required to enable APIs

   To enable APIs, you need the serviceusage.services.enable permission. If you created the project, then you likely already have this permission through the Owner role (roles/owner). Otherwise, you can get this permission through the Service Usage Admin role (roles/serviceusage.serviceUsageAdmin). Learn how to grant roles.

   Enable the APIs

5. Si vous souhaitez essayer les espaces Model Garden, vérifiez que le compte de service Compute Engine par défaut dispose des autorisations requises pour lancer des espaces.

Rôles requis

Pour tester les fonctionnalités du modèle dans Model Garden, assurez-vous que vous et le compte de service Compute Engine par défaut disposez des rôles IAM requis.

Rôles requis pour les utilisateurs

Pour obtenir les autorisations nécessaires pour tester les fonctionnalités d'un modèle dans Model Garden, demandez à votre administrateur de vous accorder les rôles IAM suivants sur votre projet Cloud de Confiance  :

• Administrateur Service Usage (roles/serviceusage.serviceUsageAdmin)
• Administrateur Artifact Registry (roles/artifactregistry.admin)
• Administrateur Cloud Run (roles/run.admin)
• Administrateur de l'espace de stockage (roles/storage.admin)
• Utilisateur de la plate-forme d'agents (roles/aiplatform.user)

Pour en savoir plus sur l'attribution de rôles, consultez Gérer l'accès aux projets, aux dossiers et aux organisations.

Vous pouvez également obtenir les autorisations requises avec des rôles personnalisés ou d'autres rôles prédéfinis.

Rôles requis pour le compte de service Compute Engine par défaut

Le compte de service Compute Engine par défaut est utilisé pour lancer des espaces.

Pour vous assurer que le compte de service Compute Engine par défaut dispose des autorisations nécessaires pour lancer Spaces, demandez à votre administrateur d'accorder les rôles IAM suivants au compte de service Compute Engine par défaut sur votre projet Cloud de Confiance  :

• Agent de service Agent Platform (roles/aiplatform.serviceAgent)
• Compte de service Cloud Build (roles/cloudbuild.builds.builder)

Pour en savoir plus sur l'attribution de rôles, consultez Gérer l'accès aux projets, aux dossiers et aux organisations.

Votre administrateur peut également attribuer au compte de service Compute Engine par défaut les autorisations requises via des rôles personnalisés ou d'autres rôles prédéfinis.

Essayer un Playground

1. Dans la console Cloud de Confiance , accédez à la fiche d'un modèle compatible, par exemple la fiche du modèle Gemma 2.

   Accéder à Gemma 2

2. Si vous y êtes invité, lisez et acceptez le contrat de licence du modèle pour accéder à la fiche du modèle et aux fonctionnalités de test.

3. Dans le panneau Essayer, configurez la requête et les paramètres de test :

   1. Pour Région, acceptez la valeur par défaut ou sélectionnez votre région.

   2. Pour Point de terminaison, sélectionnez Playground de démonstration.

   3. Dans le champ Prompt, saisissez Why is the sky blue?.

   4. Développez la section Options avancées et affichez les paramètres par défaut.

   

4. Cliquez sur Envoyer. Le résultat s'affiche sous le bouton Envoyer.

Essayer Espaces

Pour lancer un modèle, ouvrez la fiche du modèle compatible, puis, dans le panneau Essayer Spaces, cliquez sur un espace pour le lancer. Les machines utilisées pour le déploiement et l'instance Cloud Run qui héberge l'application vous sont facturées.

Vous pouvez lancer des Spaces avec des modèles tels que Gemini, Gemma, Llama et Stable Diffusion.

Lancer Spaces

Lancez Spaces pour tester un modèle à partir d'un exemple d'application Gradio.

1. Dans la console Cloud de Confiance , accédez à Model Garden pour afficher la fiche d'un modèle.

   Accéder à la page "Jardin de modèles"

2. Sélectionnez le modèle à utiliser. Les modèles compatibles disposent d'un panneau Essayer Spaces, comme la fiche du modèle Gemma 3.

   Accéder à Gemma 3

3. Cliquez sur rocket_launch Exécuter pour lancer un espace.

   1. Vous pouvez choisir d'exiger l'authentification (via Identity-Aware Proxy) ou d'autoriser l'accès public. Pour en savoir plus, consultez Activer les API pour le premier déploiement et accorder des autorisations.
   1. Cliquez sur Créer un service pour lancer le déploiement. Vous pouvez surveiller l'état du déploiement à partir de la fiche du modèle.

4. Une fois que l'état de Spaces passe à Prêt, cliquez dessus pour afficher les détails du déploiement.

   Pour une protection de base, l'application Web nécessite une clé secrète qui doit être ajoutée à l'URL lors de l'envoi des requêtes. Cette clé secrète est fournie dans le champ Clé secrète.

   1. Cliquez sur Ouvrir pour commencer à utiliser l'application. Vous pouvez envoyer des requêtes au modèle et afficher ses réponses depuis l'application.

   Vous pouvez partager l'URL pour que d'autres personnes puissent également essayer l'application.

   1. Pour fermer l'accès à l'application, cliquez sur edit Modifier dans le champ Contrôle des accès.

   Dans l'onglet Sécurité de votre application Cloud Run, sélectionnez Exiger l'authentification, puis cliquez sur Enregistrer. L'application n'est plus disponible via l'URL. Les visites de l'URL entraînent une erreur 403 (interdit).

Effectuer un nettoyage

Pour éviter que les ressources utilisées sur cette page ne soient facturées sur votre compte Cloud de Confiance by S3NS , procédez comme suit :

Supprimer des espaces

Pour nettoyer Spaces, vous devez supprimer les ressources du modèle et celles de l'exemple d'application sur Cloud Run.

Supprimer des ressources de modèle

Depuis l'application Gradio, vous pouvez supprimer des points de terminaison de modèle pour nettoyer les ressources Gemini Enterprise Agent Platform. Ensuite, vous devez supprimer le service Cloud Run pour arrêter et supprimer l'application Gradio.

Pour supprimer manuellement des ressources Gemini Enterprise Agent Platform, consultez Annuler le déploiement de modèles et supprimer des ressources.

Supprimer le service Cloud Run

Supprimez les ressources associées à un service, y compris toutes les révisions du service. La suppression d'un service n'inclut pas les éléments tels que les images de conteneurs d'Artifact Registry. Pour en savoir plus, consultez Gérer les services dans la documentation Cloud Run.

1. Dans la console Cloud de Confiance , affichez la liste des services Cloud Run :

   Accédez à Cloud Run

2. Recherchez le service à supprimer, puis sélectionnez-le.

3. Cliquez sur Supprimer Supprimer. Cette opération supprime toutes les révisions du service.

Supprimer le projet

Le moyen le plus simple d'empêcher la facturation est de supprimer le projet que vous avez créé pour ce tutoriel.

Pour supprimer le projet :

1. Dans la console Cloud de Confiance , accédez à la page Gérer les ressources.

   Accéder à la page "Gérer les ressources"

2. Dans la liste des projets, sélectionnez le projet que vous souhaitez supprimer, puis cliquez sur Supprimer.
3. Dans la boîte de dialogue, saisissez l'ID du projet, puis cliquez sur Arrêter pour supprimer le projet.

Étapes suivantes

Consultez une présentation de Model Garden.