比较提示

借助“比较”功能,您可以了解不同的提示、模型或参数设置对模型输出有何影响。您可以并排查看每个提示及其回答,以便通过以下方式进行比较和分析:

  • 使用新提示。
  • 使用另一个已保存的提示。
  • 使用标准答案。

准备工作

如需使用“比较”功能,请按以下步骤操作:

  1. 在 Cloud de Confiance 控制台中,前往 创建提示 页面。

    前往“创建提示”

  2. 选择比较。 系统会显示比较 页面。

在“比较”功能中创建提示

在比较 页面上,您可以先创建提示,然后再选择另一个提示来比较结果。

如需创建提示,请按以下步骤操作:

  1. 在新建提示字段中,输入您的提示。

  2. 点击提交提示。 模型回答会显示在您输入的提示文本下方。

  3. 点击另存为新报告。 系统会显示保存提示 对话框。

  4. 在提示名称 字段中,输入新提示的名称。

  5. 在区域 字段中,选择您的区域,或保留默认区域。

  6. 如果客户管理的加密密钥 (CMEK) 适用,请执行以下操作:

    1. 选中客户管理的加密密钥 (CMEK) 复选框。
    2. 从选择 Cloud KMS 密钥 字段中选择一个密钥。
  7. 点击保存,系统会将您的提示保存在提示列表中,以便在 比较已保存的提示页面上使用。

  8. 点击提交提示 ,以比较提示及其回答。

您可以更新提示,并将更新后的版本另存为新提示。

与新提示进行比较

如需将已保存的提示与新提示进行比较,请按以下步骤操作:

  1. 点击比较新提示 。系统会显示比较 窗格。
  2. 可选:点击切换模型 ,以使用不同于 默认模型的模型。
  3. 可选:展开输出 。
  4. 输出:
    1. 可选:如果您希望模型以特定格式(例如 JSON)输出,请点击结构化输出 切换开关。选择 结构化输出后,接地选项会关闭,因为 结构化输出不支持接地。
    2. 可选:将思考预算 更改为以下选项之一:
      • 自动:模型仅在需要时才会思考。模型会根据当时的需要调整思考或分析情况的程度。
      • 手动:您可以调整思考预算 token。
      • 关闭:不使用思考或预算。
  1. 可选:展开工具 。
  2. 工具:
    1. 从下列选项中选择一项:
      • 接地:Google:使用 Google 搜索或 Google 地图进行接地。
      • 接地:您的数据:使用 Gemini Enterprise Agent Platform 上的 RAG 引擎、Agent Search 或 Elasticsearch 进行接地。
        1. 如果您选择接地:您的数据,请选择要使用的数据源。
  1. 可选:展开高级:
  2. 高级:
    1. 选择区域。
    2. 选择安全过滤条件设置 。随即会出现一个对话框。 保留默认的 关闭 ,或者您可以为以下每个选项指定屏蔽少量 、屏蔽 部分 或屏蔽大多数 :
      • 仇恨言论:针对 身份或受保护属性的负面或有害评论。
      • 危险内容:宣传或允许访问有害 商品、服务和活动。
      • 露骨色情内容:包含对 性行为或其他淫秽内容的引用。
      • 骚扰内容:针对其他人的恶意、恐吓、欺凌或辱骂性评论。
    3. 点击保存 以保存设置并关闭对话框。
    4. 从温度 字段中选择温度。温度可以控制 token 选择的随机性。当您期望得到真实或正确的回答时,温度越低越好。 较高的温度可能会引发多样化或意想不到的结果。
    5. 从输出 token 限制 字段中选择输出 token 限制。输出 token 限制决定了一条提示的最大文本输出量。一个 token 约为 4 个字符。
    6. 从最大回答数字段中选择最大回答数。 模型针对每个提示生成的回答数量上限。由于安全过滤条件或其他政策,回答仍可能被屏蔽。
    7. 从 Top-P 字段中选择一个值。Top-P 可更改模型选择输出 token 的方式。
    8. 点击用于对模型回答进行流式传输的切换开关 字段中的切换开关。如果 选中,系统会在生成回答时输出回答。
    9. 在添加停止序列 字段中输入停止序列。添加每个序列后按 Enter 键。
  1. 点击保存 以保存对设置的更改。
  2. 点击应用。
  3. 点击提交提示 ,以比较提示及其回答。

如需详细了解每个模型的 token 限制,请参阅控制思考 预算。

与另一个已保存的提示进行比较

如需将已保存的提示与另一个已保存的提示进行比较,请按以下步骤操作:

  1. 点击比较已保存的提示 。系统会显示现有提示 窗格。
  2. 选择最多两个现有提示进行比较。

    1. 选择提示名称 。如果您的列表中有很多提示,请在过滤条件 字段中点击 ,然后选择要用于过滤的属性。输入一个值,然后按 Enter。
    2. 点击应用。比较 页面会显示您选择的提示,以及您创建或选择的其他提示以进行比较。
  3. 点击提交提示 ,以比较提示及其回答。

与标准答案进行比较

标准答案是针对提示的首选答案。系统根据标准答案评估所有其他模型回答。

如需将已保存的提示与标准答案进行比较,请按以下步骤操作:

  1. 点击标准答案。系统随即会显示标准答案窗格。
  2. 输入标准答案,以生成更多评估指标。
  3. 点击保存以保存标准答案。
  4. 点击提交提示 ,以比较提示及其回答。

将提示与标准答案进行比较时生成的评估指标不受您选择的区域的影响。

后续步骤