在 Model Garden 中測試模型功能

Model Garden 提供多種選項，可讓您快速查看及測試模型功能。如果是支援的模型，您可以試用示範 Playground，或啟動名為 Model Garden Spaces 的示範應用程式，並與他人共用，展示模型的功能。

Playground 採用預先部署的 Gemini Enterprise Agent Platform 線上預測端點，不會產生費用。開啟支援模型的模型資訊卡時，您可以使用「Try out」(試用) 面板，傳送文字提示詞，快速測試模型的功能。您也可以設定一些最常見的參數，例如 temperature 和輸出詞元數量。測試環境僅限文字輸入和輸出。

啟動 Spaces 後，您就能使用可運作的網頁應用程式，比起部署模型和建構應用程式來使用模型端點，手動操作的工作量大幅減少。Model Garden 會在 Gemini Enterprise Agent Platform 部署所選模型，並在 Cloud Run 執行個體部署範例應用程式，該執行個體會使用已部署模型的端點。應用程式也可以使用現有端點或 MaaS 端點。

事前準備

您必須設定 Cloud de Confiance by S3NS 專案，並啟用 Agent Platform API，才能進行本教學課程。

  1. In the Cloud de Confiance console, on the project selector page, select or create a Cloud de Confiance project.

    Roles required to select or create a project

    • Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
    • Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

    Go to project selector

  2. If you're using an existing project for this guide, verify that you have the permissions required to complete this guide. If you created a new project, then you already have the required permissions.

  3. Verify that billing is enabled for your Cloud de Confiance project.

  4. Enable the Gemini Enterprise Agent Platform, Artifact Registry, Cloud Build, Cloud Logging, and Cloud Run Admin APIs, if any are not already enabled.

    Roles required to enable APIs

    To enable APIs, you need the serviceusage.services.enable permission. If you created the project, then you likely already have this permission through the Owner role (roles/owner). Otherwise, you can get this permission through the Service Usage Admin role (roles/serviceusage.serviceUsageAdmin). Learn how to grant roles.

    Enable the APIs

  5. 如要試用 Model Garden Spaces，請確認 Compute Engine 預設服務帳戶具備啟動 Spaces 的必要權限。

必要的角色

如要在 Model Garden 測試模型功能，請確認您和 Compute Engine 預設服務帳戶都具備必要的 IAM 角色。

使用者必要角色

如要取得在 Model Garden 測試模型功能所需的權限，請要求管理員在 Cloud de Confiance 專案中授予您下列 IAM 角色：

如要進一步瞭解如何授予角色，請參閱「管理專案、資料夾和組織的存取權」。

您或許也能透過自訂角色或其他預先定義的角色，取得必要權限。

Compute Engine 預設服務帳戶的必要角色

Compute Engine 預設服務帳戶用於啟動 Spaces。

為確保 Compute Engine 預設服務帳戶具備啟動 Spaces 的必要權限，請要求管理員將下列 IAM 角色授予 Cloud de Confiance 專案的 Compute Engine 預設服務帳戶：

如要進一步瞭解如何授予角色，請參閱「管理專案、資料夾和組織的存取權」。

管理員或許也能透過自訂角色或其他預先定義的角色，將必要權限授予 Compute Engine 預設服務帳戶。

試用 Playground

  1. 在 Cloud de Confiance 控制台中，前往支援的模型資訊卡，例如 Gemma 2 模型資訊卡。

    前往 Gemma 2

  2. 如果出現提示，請詳閱並接受模型授權協議，才能存取模型資訊卡和測試功能。

  3. 在「試用」面板中，設定提示和測試參數：

    1. 在「Region」(區域) 部分，接受預設值或選擇區域。

    2. 在「端點」部分，選取「Demo playground」。

    3. 在「提示詞」方塊輸入 Why is the sky blue?。

    4. 展開「Advanced options」(進階選項) 區段，查看預設參數。

    Gemma 2b-it 的試用面板

  4. 按一下「提交」。輸出內容會顯示在「Submit」按鈕下方。

試用 Spaces

如要啟動模型，請開啟支援模型的模型資訊卡，然後在「Try out Spaces」(試用 Spaces) 面板中，按一下要啟動的 Space。您必須支付部署作業使用的機器費用，以及託管應用程式的 Cloud Run 執行個體費用。

您可以使用 Gemini、Gemma、Llama 和 Stable Diffusion 等模型啟動 Spaces。

啟動聊天室

啟動 Spaces，透過 Gradio 範例應用程式測試及實驗模型。

  1. 在 Cloud de Confiance 控制台，前往 Model Garden 查看模型的模型資訊卡。

    前往 Model Garden

  2. 選取要使用的模型。支援的模型 (例如 Gemma 3 模型資訊卡) 會顯示「Try out Spaces」(試用 Spaces) 面板。

    前往 Gemma 3

  3. 按一下 rocket_launch Run，啟動 Space。

    1. 您可以選擇「必須完成驗證」 (透過 Identity-Aware Proxy) 或「允許公開存取」。詳情請參閱「啟用 API 以進行首次部署作業並授予權限」。
    1. 按一下「建立新服務」，開始部署作業。您可以在模型資訊卡中監控部署狀態。

  4. Spaces 狀態變更為「Ready」(就緒) 後，按一下即可查看部署作業的詳細資料。

    為提供基本防護，網頁應用程式需要密鑰，提交提示時必須將密鑰附加至網址。這個密鑰會顯示在「Secret key」(密鑰) 欄位中。

    1. 按一下「Open」即可開始使用應用程式。您可以在應用程式中傳送提示給模型，並查看模型的回覆。

    您可以分享網址，讓其他人也能試用應用程式。

    1. 如要關閉應用程式存取權，請按一下「存取控管」欄位中的「編輯」圖示 。

    在 Cloud Run 應用程式的「Security」(安全性) 分頁中，選取「Require authentication」(需要驗證)，然後按一下「Save」(儲存)。無法再透過網址存取應用程式。造訪網址會導致 403 錯誤 (禁止)。

清除所用資源

如要避免系統向您的 Cloud de Confiance by S3NS 帳戶收取本頁所用資源的費用，請按照下列步驟操作。

刪除聊天室

如要清除 Spaces，您必須刪除模型的資源，以及 Cloud Run 上的範例應用程式資源。

刪除模型資源

您可以在 Gradio 應用程式中刪除模型端點，清除 Gemini Enterprise Agent Platform 資源。接著，您需要刪除 Cloud Run 服務，才能停止並刪除 Gradio 應用程式。

如要手動刪除 Gemini Enterprise Agent Platform 資源，請參閱「取消部署模型並刪除資源」。

刪除 Cloud Run 服務

刪除與服務相關的資源，包括服務的所有修訂版本。刪除服務時，不會一併刪除 Artifact Registry 中的容器映像檔等項目。詳情請參閱 Cloud Run 說明文件中的「管理服務」。

  1. 在 Cloud de Confiance 控制台中，查看 Cloud Run 服務清單：

    前往 Cloud Run。

  2. 找出要刪除的服務，然後選取該服務。

  3. 依序點選「刪除」。這會刪除服務的所有修訂版本。

刪除專案

如要避免付費，最簡單的方法就是刪除您為了本教學課程所建立的專案。

刪除專案的方法如下：

  1. 前往 Cloud de Confiance 控制台的「Manage resources」(管理資源) 頁面。

    前往「Manage resources」(管理資源)

  2. 在專案清單中選取要刪除的專案，然後點選「Delete」(刪除)。
  3. 在對話方塊中輸入專案 ID，然後按一下 [Shut down] (關閉) 以刪除專案。

後續步驟

查看 Model Garden 總覽。