Cloud de Confiance 與 Google Cloud 的 Agent Platform 差異

Gemini Enterprise Agent Platform 是用來建構、部署及管理生成式 AI 應用程式的平台。 本頁說明 Cloud de Confiance 與 Google Cloud 版本的 Agent Platform 有哪些差異。

如要進一步瞭解 Agent Platform，請參閱「Agent Platform 總覽」和其他相關說明文件。

主要差異

Cloud de Confiance 版本的 Agent Platform 與 Google Cloud 版本有些許差異，主要包括：

  • Cloud de Confiance僅提供Model Garden、Gemini Enterprise Agent Platform 的 Model Registry 和線上推論 (預測)。無法使用 Agent Platform 的其他元件和功能。
  • Agent Platform SDK (Vertex AI SDK) 和 Google Gen AI SDK 無法使用。支援的介面包括 Cloud de Confiance 控制台、Google Cloud CLI (gcloud CLI) 和 REST API。
  • 開放式第一方和第三方模型 (例如 Gemma 和 Mistral) 均可使用。無法使用 Gemini 和其他專有模型。
  • Cloud de Confiance僅提供自行部署選項。

本節後續部分會說明更多差異細節。如果您已熟悉 Google Cloud，建議先仔細瞭解這些差異；若打算設計在 Cloud de Confiance上執行的應用程式，更有必要這麼做。此外，也建議一併參閱「 Cloud de Confiance 與 Google Cloud 的一般差異」。

如要使用目前無法在 Cloud de Confiance中使用的特定 Agent Platform 功能，請與Cloud de Confiance 支援團隊聯絡。 如要在 Cloud de Confiance推出新功能時接收通知，請訂閱版本資訊。除非另有規定，否則預先發布版功能不適用於 Cloud de Confiance。

工作流程和工具

功能支援差異
SDK 和用戶端介面 Agent Platform SDK (Vertex AI SDK) 和 Google Gen AI SDK 無法在 Cloud de Confiance中使用。支援的介面包括 Cloud de Confiance 控制台、gcloud CLI (gcloud CLI) 和 REST API。
無法使用的元件 下列 Agent Platform 元件在 Cloud de Confiance中無法使用：Model Garden、Model Registry 和線上推論以外的所有元件。

Model Garden

功能和選項差異
控制台介面未提供的功能 主要控制台介面不提供下列區域：
  • 瞭解生成式 AI
  • 快速部署
  • 使用自訂權重進行部署
  • 「基礎模型」專區 (包括 Gemini 模型)
  • 「可微調的模型」專區
模型適用情形 無法使用 Gemini 模型和第三方專有模型。您可以使用 Gemma 和特定第三方開放原始碼模型。
模型部署和動作 無法執行下列動作：
  • 模型微調
  • 開啟模型筆記本
  • 模型評估
  • 「試用」功能 (Agent Studio 功能)
  • 直接從 Hugging Face Hub 一鍵部署外部模型
模型部署選項 僅提供自行部署選項。Model-as-a-Service 無法使用。
部署目標 無法將 Model Garden 中的模型部署至 Google Kubernetes Engine (GKE)，僅支援部署至 Agent Platform 端點。

Model Registry

功能差異
無法執行的註冊資料庫動作 Cloud de Confiance的 Model Registry 不支援下列動作：
  • 建立新模型
  • 訓練新模型版本
  • 在 Model Registry 中註冊 BigQuery ML 模型
  • 批次推論
  • 評估
  • 資料歷程
  • 部署模型以進行批次推論
  • 將模型版本 (ExportModel) 匯出至 Cloud Storage
模型詳細資料頁面和動作 模型詳細資料頁面不提供模型測試功能。

線上推論 (預測)

功能差異
推論功能 僅提供同步 Predict 和 RawPredict 預測方法。 Cloud de Confiance不支援下列推論功能和預測方法：
  • 串流預測方法 (StreamRawPredict、ServerStreamingPredict、StreamingPredict 和 StreamGenerateContent)
  • 專門的預測方法 (ChatCompletions、DirectPredict、CountTokens 和 EmbedContent)
  • 說明要求 (Explain)
  • 叫用要求
  • 批次預測 (省略或停用批次預測 API 端點)
端點存取權 僅提供標準存取區域端點 (不提供 Private Service Connect 和私人對等互連端點)。

整合

整合差異
BigQuery ML 整合 您無法在 Cloud de Confiance的 Model Registry 中註冊 BigQuery ML 模型。

API 介面

API 介面差異
API 端點限制 您只能使用允許的控制層方法 (適用於端點、模型和部署作業) 和資料層方法 (適用於提供預測結果)。 具體來說，只有同步 Predict 和 RawPredict 預測方法可用。串流預測方法 (StreamRawPredict、ServerStreamingPredict、StreamingPredict 和 StreamGenerateContent)、專用預測方法 (ChatCompletions、DirectPredict、CountTokens 和 EmbedContent) 和其他方法 (例如 Explain、GenerateContent 和 ExportModel) 無法使用。

下列資訊也可能影響您在 Cloud de Confiance by S3NS使用及設計 Agent Platform 的方式。這些指南涵蓋在 Cloud de Confiance作業的一般資訊，包括說明文件、安全和存取控管、計費、工具和服務使用情形。

如要進一步瞭解 Cloud de Confiance 中的其他服務和功能，以及與 Google Cloud 相似服務的差異，請參閱產品清單。