基于评分准则的受管指标的详细信息

本页面列出了 Gen AI Evaluation Service 提供的基于评分准则的受管指标的完整列表,您可以在 Agent Platform SDK 中的 GenAI 客户端中使用这些指标。

如需详细了解测试驱动型评估,请参阅定义评估指标。

概览

Gen AI Evaluation Service 为测试驱动型评估框架提供了一系列基于评分准则的受管指标:

  • 对于采用自适应评分准则的指标,大多数指标都包含针对每个提示的评分准则生成和评分准则验证工作流。如有需要,您可以单独运行这些工作流。如需了解详情,请参阅运行评估。

  • 对于具有静态评分准则的指标,系统不会生成针对每个提示的评分准则。如需详细了解预期输出,请参阅指标详情。

每个基于评分准则的受管指标都有一个版本控制编号。默认情况下,该指标会使用最新版本,但您可以根据需要固定到特定版本:

from vertexai import types

text_quality_metric = types.RubricMetric.TEXT_QUALITY
general_quality_v1 = types.RubricMetric.GENERAL_QUALITY(version='v1')

模型版本和区域可用性

大多数受管理的指标(例如 general_quality_v2、instruction_following_v2、safety_v3 和 final_response_match_v3)的最新版本都使用 Gemini 3.5 Flash 作为评判模型。生成评分标准的代理指标(例如 final_response_quality_v2 和 tool_use_quality_v2)也使用 Gemini 3.1 Pro 生成评分标准。 之前的版本使用 Gemini 2.5 Flash 和 Gemini 2.5 Pro。每项指标的之前版本及其 LLM 调用均列在指标详情中。

最新版本仅在 Gemini 3.5 Flash 可用的地区提供。如果您在 Gemini 3.5 Flash 不可用的位置运行评估,请将指标固定到其之前的版本,如上例所示。

向后兼容性

对于以指标提示模板形式提供的指标,您仍然可以通过 Agent Platform SDK 中的 GenAI 客户端以相同的方式访问逐点指标。Agent Platform SDK 中的 GenAI 客户端不支持成对指标,但您可以参阅运行评估,在同一评估中比较两个模型。

from vertexai import types

# Access metrics represented by metric prompt template examples
coherence = types.RubricMetric.COHERENCE
fluency = types.RubricMetric.FLUENCY

受管指标详情

本部分列出了受管指标,并提供了其详细信息,例如指标类型、必需的输入和预期输出:

常规质量

最新版本 general_quality_v2
类型 自适应评分准则
说明 一种全面的自适应评分准则指标,用于评估模型回答的总体质量。它会根据提示的内容自动生成并评估各种标准。建议大多数评估以此作为起点。
如何在 SDK 中访问 types.RubricMetric.GENERAL_QUALITY
输入
  • prompt
  • response
  • (可选)rubric_groups
如果您已生成评分准则,可以直接提供这些评分准则来进行评估。
输出
  • score
  • rubrics 和对应的 verdicts
该得分表示根据评分准则得出的回答通过率。
LLM 调用次数 6 次对 Gemini 3.5 Flash 的调用
过往版本 general_quality_v1:6 次对 Gemini 2.5 Flash 的调用

文本质量

最新版本 text_quality_v2
类型 自适应评分准则
说明 一种有针对性的自适应评分准则指标,专门用于评估回答的语言质量。它会评估流畅度、连贯性和语法等各个方面。
如何在 SDK 中访问 types.RubricMetric.TEXT_QUALITY
输入
  • prompt
  • response
  • (可选)rubric_groups
如果您已生成评分准则,可以直接提供这些评分准则来进行评估。
输出
  • score
  • rubrics 和对应的 verdicts
该得分表示根据评分准则得出的回答通过率。
LLM 调用次数 6 次对 Gemini 3.5 Flash 的调用
过往版本 text_quality_v1:6 次对 Gemini 2.5 Flash 的调用

指令遵从

最新版本 instruction_following_v2
类型 自适应评分准则
说明 一种有针对性的自适应评分准则指标,用于衡量回答在多大程度上遵循了提示中给出的具体限制和指令。
如何在 SDK 中访问 types.RubricMetric.INSTRUCTION_FOLLOWING
输入
  • prompt
  • response
  • (可选)rubric_groups
如果您已生成评分准则,可以直接提供这些评分准则来进行评估。
输出
  • score(通过率)
  • rubrics 和对应的 verdicts
该得分表示根据评分准则得出的回答通过率。
LLM 调用次数 6 次对 Gemini 3.5 Flash 的调用
过往版本 instruction_following_v1:6 次对 Gemini 2.5 Flash 的调用

接地

最新版本 grounding_v2
类型 静态评分准则
说明 一种基于得分的指标,用于检查事实性和一致性。它会验证模型的回答是否基于上下文接地。
如何在 SDK 中访问 types.RubricMetric.GROUNDING
输入
  • prompt
  • response
  • context
输出
  • score
  • explanation
得分范围为 0-1。如果任何句子的标签为 unsupported 或 contradictory,则得分为 0。否则,得分表示标记为 supported 或 no_rad 的句子数与句子总数的比率。

explanation 字段是一个 JSON 字符串,其中包含一个按句子划分的对象列表,该列表具有以下架构:
[
  {
    "sentence": "string",
    "label": "supported | unsupported | contradictory | no_rad",
    "rationale": "string",
    "excerpt": "string or null"
  }
]
每个对象包含以下字段:
  • sentence:要分析的回答中的句子。
  • label:句子的分类,以下项之一:
    • supported:句子由上下文蕴含。
    • unsupported:该句子不是由上下文蕴含的。
    • contradictory:句子被上下文证伪。
    • no_rad:相应句子无需事实归因(例如意见、问候、问题或免责声明)。
  • rationale:标签分配的简要说明。
  • excerpt(适用于 supported 和 contradictory 标签):支持或反驳相应句子的相关上下文摘录。
LLM 调用次数 1 次对 Gemini 3.5 Flash 的调用
过往版本 grounding_v1:1 次对 Gemini 2.5 Flash 的调用

安全

最新版本 safety_v3
类型 静态评分准则
说明 一种基于得分的指标,用于评估模型的回答是否违反了一项或多项安全政策。

safety_v3 检查以下政策:
  • 仇恨和骚扰 (hate_harassment)
  • 色情内容(sexual_content)
  • 暴力和血腥内容 (violence_gore)
  • 医疗建议 (medical_advice)
  • 危险内容(dangerous_content)
  • 儿童性虐待和性剥削 (csae)
safety_v1 检查以下政策:
  • PII 和受众特征数据
  • 仇恨言论
  • 危险内容
  • 骚扰
  • 露骨色情内容
如何在 SDK 中访问 types.RubricMetric.SAFETY
输入
  • prompt
  • response
输出
  • score
  • explanation
分数在每个版本中的含义相反:
  • safety_v3:1 表示至少有一项政策被违反,0 表示没有政策被违反。
  • safety_v1:0 不安全,1 安全。
解释字段包含违反的政策。
LLM 调用次数 31 次对 Gemini 3.5 Flash 的调用
过往版本 safety_v1:10 次对 Gemini 2.5 Flash 的调用

多轮对话总体质量

最新版本 multi_turn_general_quality_v2
类型 自适应评分准则
说明 一种自适应评分准则指标,用于评估模型在多轮对话中回答的总体质量。
如何在 SDK 中访问 types.RubricMetric.MULTI_TURN_GENERAL_QUALITY
输入
  • 多轮对话的 prompt
  • response
  • (可选)rubric_groups
如果您已生成评分准则,可以直接提供这些评分准则来进行评估。
输出
  • score
  • 评分准则及相应判定结果
该得分表示根据评分准则得出的回答通过率。
LLM 调用次数 6 次对 Gemini 3.5 Flash 的调用
过往版本 multi_turn_general_quality_v1:6 次对 Gemini 2.5 Flash 的调用

多轮文本质量

最新版本 multi_turn_text_quality_v2
类型 自适应评分准则
说明 一种自适应评分准则指标,用于评估模型在多轮对话中回答的文本质量。
如何在 SDK 中访问 types.RubricMetric.TEXT_QUALITY
输入
  • 多轮对话的 prompt
  • response
  • (可选)rubric_groups
如果您已生成评分准则,可以直接提供这些评分准则来进行评估。
输出
  • score
  • rubrics 和对应的 verdicts
该得分表示根据评分准则得出的回答通过率。
LLM 调用次数 6 次对 Gemini 3.5 Flash 的调用
过往版本 multi_turn_text_quality_v1:6 次对 Gemini 2.5 Flash 的调用

智能体最终回答匹配

最新版本 final_response_match_v3
类型 静态评分准则
说明 一种指标,用于通过将 AI 智能体的最终回答与提供的参考回答(标准答案)进行比较来评估最终回答的质量。
如何在 SDK 中访问 types.RubricMetric.FINAL_RESPONSE_MATCH
输入
  • prompt
  • response
  • reference
输出 得分
  • 1:与参考回答匹配的有效回答。
  • 0:与参考回答不符的无效回答。
解释
LLM 调用次数 5 次对 Gemini 3.5 Flash 的调用
过往版本 final_response_match_v2:5 次对 Gemini 2.5 Flash 的调用

智能体最终回答参考(免费)

最新版本 final_response_reference_free_v2
类型 自适应评分准则
说明 一种自适应评分准则指标,用于评估 AI 智能体的最终回答的质量,而无需参考回答。
您需要为此指标提供评分准则,因为该指标不支持自动生成的评分准则。
如何在 SDK 中访问 types.RubricMetric.FINAL_RESPONSE_REFERENCE_FREE
输入
  • prompt
  • response
  • rubric_groups
输出
  • score
  • rubrics 和对应的 verdicts
该得分表示根据评分准则得出的回答通过率。
LLM 调用次数 5 次对 Gemini 3.5 Flash 的调用
过往版本 final_response_reference_free_v1:5 次对 Gemini 2.5 Flash 的调用

代理最终回答质量

最新版本 final_response_quality_v2
类型 自适应评分准则
说明 一种全面的自适应评分准则指标,用于评估代理回答的总体质量。它会根据代理配置(开发者指令和代理可用工具的声明)和用户提示,自动生成一系列广泛的评估标准;然后再根据代理在中间事件中对工具的使用情况和最终回答,对生成的标准进行评估。
如何在 SDK 中访问 types.RubricMetric.FINAL_RESPONSE_QUALITY
输入
  • prompt
  • response
  • developer_instruction
  • tool_declarations(可以为空列表)
  • intermediate_events(包含函数调用和响应,可以为空列表)
  • (可选)rubric_groups(如果您已生成评分准则,可以直接提供这些评分准则来进行评估)
输出
  • score
  • rubrics 和对应的 verdicts

该得分表示根据评分准则得出的回答通过率。
LLM 调用次数 5 次对 Gemini 3.5 Flash 的调用和 1 次对 Gemini 3.1 Pro 的调用
过往版本 final_response_quality_v1:5 次对 Gemini 2.5 Flash 的调用和 1 次对 Gemini 2.5 Pro 的调用

智能体幻觉

最新版本 hallucination_v2
类型 静态评分准则
说明 一项基于评分的指标,可将文本回答拆解为最基本的“原子声明”,以检查文本回答的真实性和一致性。它会根据中间事件中的工具使用情况,验证每项声明是否有据可依。 您还可以通过将标志 evaluate_intermediate_nl_responses 设置为 true 来评估任何中间文本回答。
如何在 SDK 中访问 types.RubricMetric.HALLUCINATION
输入
  • response
  • developer_instruction
  • tool_declarations(可以为空列表)
  • intermediate_events(包含函数调用和响应,可以为空列表)
  • evaluate_intermediate_nl_responses(默认值为 False)
输出
  • score
  • explanation 和对应的 verdicts
该得分的取值范围为 0-1,代表了被标记为 supported 或 no_rad 的句子占总句子数的比例。

explanation 字段是一个 JSON 字符串,其中包含一个按事件列出的对象列表,该列表具有以下架构:
[
  {
    "response": "string",
    "score": "double",
    "explanation": [
      {
        "sentence": "string",
        "label": "supported | unsupported | contradictory | disputed | no_rad",
        "rationale": "string",
        "supporting_excerpt": "string or null",
        "contradicting_excerpt": "string or null"
      }
    ]
  }
]
每个 explanation 条目都包含一个对象,其中包含每个分段句子的以下字段:
  • sentence:在句子分割步骤中提取的确切句子。
  • label:句子的分类,以下项之一:
    • supported:句子由上下文蕴含。
    • unsupported:该句子不是由上下文蕴含的。
    • contradictory:句子被上下文证伪。
    • disputed:上下文包含支持信息和矛盾信息。
    • no_rad:相应句子无需事实归因(例如意见、问候、问题或免责声明)。
  • rationale:标签分配的简要说明。
  • supporting_excerpt(适用于 supported 和 disputed 标签):支持相应句子的相关上下文摘录。
  • contradicting_excerpt(适用于 contradictory 和 disputed 标签):与句子相矛盾的相关上下文摘录。
LLM 调用次数 2 次对 Gemini 3.5 Flash 的调用
过往版本 hallucination_v1:2 次对 Gemini 2.5 Flash 的调用

代理工具使用质量

最新版本 tool_use_quality_v2
类型 自适应评分准则
说明 一项针对性自适应评分准则指标,用于评估工具选择的恰当性、参数使用的正确性,以及是否遵循了指定的操作顺序。
如何在 SDK 中访问 types.RubricMetric.TOOL_USE_QUALITY
输入
  • prompt
  • developer_instruction
  • tool_declarations(可以为空列表)
  • intermediate_events(包含函数调用和响应,可以为空列表)
  • (可选)rubric_groups(如果您已生成评分准则,可以直接提供这些评分准则来进行评估)
输出
  • score
  • rubrics 和对应的 verdicts
该得分表示根据评分准则得出的回答通过率。
LLM 调用次数 5 次对 Gemini 3.5 Flash 的调用和 1 次对 Gemini 3.1 Pro 的调用
过往版本 tool_use_quality_v1:5 次对 Gemini 2.5 Flash 的调用和 1 次对 Gemini 2.5 Pro 的调用

智能体多轮任务成功率

最新版本 multi_turn_task_success_v1
类型 自适应评分准则
说明 一种自适应评分准则指标,用于评估代理是否在整个多轮对话中成功实现了用户目标。它侧重于智能体回答中的可观测结果和确认,而不是中间过程,例如具体的工具调用或推理步骤。

该指标分三个步骤运行:
  1. 意图提取:从对话中识别用户目标和意图。
  2. 评分准则生成:根据提取的意图、智能体指令和工具定义创建评分标准。
  3. 评分准则验证:根据生成的评分准则验证代理的整体回答。
如何在 SDK 中访问 types.RubricMetric.MULTI_TURN_TASK_SUCCESS
输入
  • agent_eval_data(多轮对话跟踪记录,包括模型输入、回答和工具调用)
输出
  • score
  • rubrics 和对应的 verdicts
该得分表示根据评分准则得出的回答通过率。
LLM 调用次数 2 次对 Gemini 3.1 Pro 的调用和 5 次对 Gemini 3 Flash 的调用

代理多轮工具使用质量

最新版本 multi_turn_tool_use_quality_v1
类型 自适应评分准则
说明 一种自适应评分准则指标,用于评估代理在整个多轮对话中的工具调用的技术和语义正确性。它会验证智能体是否选择了正确的工具、正确填充了实参,以及是否遵循了每个用户目标的工具架构。

该指标分三个步骤运行:
  1. 意图提取:从对话中识别用户目标和意图。
  2. 评分准则生成:将每个意图映射到预期工具选择、实参正确性和架构合规性标准。
  3. 评分准则验证:根据生成的评分准则验证智能体的实际工具调用。
如何在 SDK 中访问 types.RubricMetric.MULTI_TURN_TOOL_USE_QUALITY
输入
  • agent_eval_data(多轮对话跟踪记录,包括模型输入、回答和工具调用)
输出
  • score
  • rubrics 和对应的 verdicts
该得分表示根据评分准则得出的回答通过率。
LLM 调用次数 2 次对 Gemini 3.1 Pro 的调用和 5 次对 Gemini 3 Flash 的调用

代理多轮轨迹质量

最新版本 multi_turn_trajectory_quality_v1
类型 自适应评分准则
说明 一种自适应评分准则指标,用于评估代理在整个多轮对话中的分步执行轨迹质量。它侧重于代理路径的逻辑结构和技术有效性,而不仅仅是最终回答。

该指标分三个步骤运行:
  1. 意图提取:从对话中识别用户目标和意图。
  2. 评分标准生成:从三个维度生成标准:因果有效性(工具路由、状态跟踪和数据传递的正确顺序)、效率(尽可能减少不必要的步骤)和自适应鲁棒性(处理极端情况和错误)。
  3. 评分准则验证:根据生成的评分准则验证智能体的实际执行路径。
如何在 SDK 中访问 types.RubricMetric.MULTI_TURN_TRAJECTORY_QUALITY
输入
  • agent_eval_data(多轮对话跟踪记录,包括模型输入、回答和工具调用)
输出
  • score
  • rubrics 和对应的 verdicts
该得分表示根据评分准则得出的回答通过率。
LLM 调用次数 2 次对 Gemini 3.1 Pro 的调用和 5 次对 Gemini 3 Flash 的调用

Gecko 文生图质量

最新版本 gecko_text2image_v2
类型 自适应评分准则
说明 Gecko 文生图指标是一种自适应的基于评分准则的方法,用于评估生成的图像相对于其相应的文本提示的质量。它的工作方式是,首先根据提示生成一组问题,这些问题可作为详细的特定于提示的评分准则。然后,模型会根据生成的图片回答这些问题。
如何在 SDK 中访问 types.RubricMetric.GECKO_TEXT2IMAGE
输入
  • prompt
  • response - 应该是具有图片 MIME 类型的文件数据
输出
  • score
  • rubrics 和对应的 verdicts
该得分表示根据评分准则得出的回答通过率。
LLM 调用次数 2 次对 Gemini 3.5 Flash 的调用
过往版本 gecko_text2image_v1:2 次对 Gemini 2.5 Flash 的调用

Gecko 文生视频质量

最新版本 gecko_text2video_v2
类型 自适应评分准则
说明 Gecko 文生视频指标是一种自适应的基于评分准则的方法,用于评估生成的视频相对于其相应的文本提示的质量。它的工作方式是,首先根据提示生成一组问题,这些问题可作为详细的特定于提示的评分准则。然后,模型会根据生成的视频回答这些问题。
如何在 SDK 中访问 types.RubricMetric.GECKO_TEXT2VIDEO
输入
  • prompt
  • response - 应该是具有视频 MIME 类型的文件数据
输出
  • score
  • rubrics 和对应的 verdicts
该得分表示根据评分准则得出的回答通过率。
LLM 调用次数 2 次对 Gemini 3.5 Flash 的调用
过往版本 gecko_text2video_v1:2 次对 Gemini 2.5 Flash 的调用

后续步骤