Cloud de Confiance 中的 Agent Platform 与 Google Cloud 的对比

Gemini Enterprise Agent Platform 是一个用于构建、部署和管理生成式 AI 应用的平台。 本页面介绍了 Cloud de Confiance 与 Google Cloud 版本的 Agent Platform 之间的差异。

如需详细了解 Agent Platform,请参阅 Agent Platform 概览以及 Agent Platform 文档的其余部分。

主要区别

Cloud de Confiance 版本的 Agent Platform 与 Google Cloud 版本之间存在一些差异。一些显著的差异包括:

  • Cloud de Confiance中仅提供 Model Garden、Gemini Enterprise Agent Platform 上的 Model Registry 和在线推理(预测)。Agent Platform 的其他组件和功能不可用。
  • Agent Platform SDK (Vertex AI SDK) 和 Google Gen AI SDK 不可用。支持的界面包括 Cloud de Confiance 控制台、Google Cloud CLI(gcloud CLI)和 REST API。
  • 开放式第一方和第三方模型(例如 Gemma 和 Mistral)可供使用。Gemini 和其他专有模型不可用。
  • Cloud de Confiance中仅提供自行部署选项。

本部分的其余部分提供了更详细的差异列表。如果您已经熟悉 Google Cloud,我们建议您仔细查看这些差异,尤其是在设计要在 Cloud de Confiance上运行的应用之前。我们还建议您查看 Cloud de Confiance 与 Google Cloud 之间的一般差异。

如果您想使用 Cloud de Confiance中目前尚不提供的特定 Agent Platform 功能,请与Cloud de Confiance 支持团队联系。如需在 Cloud de Confiance中发布新功能时收到通知,请订阅版本说明。 除非另有说明,否则预览版功能在 Cloud de Confiance中不可用。

工作流和工具

功能支持差异
SDK 和客户端接口 Agent Platform SDK (Vertex AI SDK) 和 Google Gen AI SDK 在 Cloud de Confiance中不可用。支持的界面包括 Cloud de Confiance 控制台、gcloud CLI(gcloud CLI)和 REST API。
不可用的组件 Agent Platform 的以下组件在 Cloud de Confiance中不可用:除了 Model Garden、Model Registry 和在线推理之外的所有组件。

Model Garden

功能和选项差异
控制台界面中不提供的功能 主控制台界面中不提供以下区域:
  • 探索生成式 AI
  • 部署速度快
  • 部署具有自定义权重的模型
  • “基础模型”部分(包括 Gemini 模型)
  • “可微调的模型”部分
模型可用性 Gemini 模型和第三方专有模型不可用。Gemma 和部分第三方开源模型可供使用。
模型部署和操作 以下操作无法使用:
  • 模型微调
  • 打开模型笔记本
  • 模型评估
  • “试用”功能(Agent Studio 功能)
  • 直接从 Hugging Face Hub 一键部署外部模型
模型部署选项 仅提供自行部署选项。Model-as-a-Service 不可用。
部署目标 无法将 Model Garden 中的模型部署到 Google Kubernetes Engine (GKE)(仅支持部署到 Agent Platform 端点)。

Model Registry

功能差异
无法执行的注册管理机构操作 Cloud de Confiance中的 Model Registry 不支持以下操作:
  • 创建新模型
  • 训练新模型版本
  • 在 Model Registry 中注册 BigQuery ML 模型
  • 批量推理
  • 评估
  • 数据沿袭
  • 部署模型以进行批量推理
  • 将模型版本 (ExportModel) 导出到 Cloud Storage
模型详情页面和操作 模型详情页面上无法测试模型。

在线推理(预测)

功能差异
推理功能 仅提供同步 Predict 和 RawPredict 预测方法。以下推理功能和预测方法在 Cloud de Confiance中不可用:
  • 流式预测方法(StreamRawPredict、ServerStreamingPredict、StreamingPredict 和 StreamGenerateContent)
  • 专用预测方法(ChatCompletions、DirectPredict、CountTokens 和 EmbedContent)
  • 说明请求 (Explain)
  • 调用请求
  • 批量预测(省略或停用了批量预测 API 端点)
端点访问权限 仅提供标准访问区域端点(Private Service Connect 和专用对等互连端点不可用)。

集成

集成差异
BigQuery ML 集成 您无法在 Cloud de Confiance中将 BigQuery ML 模型注册到 Model Registry。

API 接口

API Surface 差异
API 端点限制 仅允许使用控制平面方法(针对端点、模型和部署)和数据平面方法(用于提供预测)。 具体而言,只有同步 Predict 和 RawPredict 预测方法可用。流式预测方法(StreamRawPredict、ServerStreamingPredict、StreamingPredict 和 StreamGenerateContent)、专用预测方法(ChatCompletions、DirectPredict、CountTokens 和 EmbedContent)以及其他方法(例如 Explain、GenerateContent 和 ExportModel)不可用。

以下信息也可能会影响您在 Cloud de Confiance by S3NS中如何使用 Agent Platform,以及如何针对 Agent Platform 进行设计。这些指南包含有关在 Cloud de Confiance中开展工作的一般信息,包括文档、安全和访问权限控制、结算、工具和服务使用情况。

如需详细了解 Cloud de Confiance 中的其他服务和功能以及它们与 Google Cloud 对应服务和功能的差异,请参阅产品列表。