智能体异常检测提供了一个动态的、基于推理的监督和审核层，专为自主企业 AI 智能体而设计。 与仅扫描静态代码以查找漏洞或检查边界网络流量的传统应用安全工具不同，智能体异常检测会评估智能体的实时推理跟踪记录、工具互动和执行流程，以检测可疑意图、违反政策的行为和行为异常。
智能体异常检测的核心是一个多层异常分析框架，用于异步分析智能体会话活动。通过注入 OpenTelemetry 日志和执行跟踪记录，该服务可以确定智能体是否在其预期边界之外运行，而不会在人工客服 Workflows 中引入执行延迟。
主要优势
智能体异常检测包括以下功能：
| 优势或功能 | 说明 |
|---|---|
| 近乎实时的异步安全性 | 遥测数据（日志和跟踪记录）在带外处理，从而保持较快的智能体响应时间。多层分析模型支持近乎实时的评估，同时保持成本效益。 |
| 基于推理的意图分析 | 异常分析会针对标记的跟踪记录进行推理，以区分复杂的业务逻辑和未经授权的操作。 |
| 全面威胁检测 | 使用默认检测器审核智能体特定的安全风险，这些检测器会捕获 OWASP Top 10 for Agentic Security Threats 中概述的威胁模式，包括工具滥用、权限滥用、级联智能体故障、恶意行为和资源耗尽。 |
| 与 Security Command Center 集成 | 异常发现结果会直接显示在 Security Command Center 中，以便进行集中式安全管理、搜索和事件跟踪。如需了解 Security Command Center，请参阅 Security Command Center 概览。注意：此集成需要 Security Command Center 支持的层级之一：标准版、高级版或企业版。 |
多层检测系统
为了平衡评估覆盖面和成本，智能体异常检测使用多层检测系统来分析智能体日志，以识别和报告异常会话：
- 第 1 层（轻量级机器学习检测器）：高速统计和轻量级机器学习模型可识别初始异常值和下游遥测趋势，以对基准流量进行下采样。
- 第 2 层（异常分析）：异常分析会异步评估标记的会话，以呈现威胁判定和自然语言解释推理。
- 第 3 层（调用级分析）：对对话跟踪记录中的各个工具执行、执行状态和参数历史记录执行深入探究。
可用性
智能体异常检测适用于符合以下条件的智能体。符合条件的智能体会自动被智能体异常检测识别为受监控的智能体 （该服务知道智能体的存在，但不会对智能体的日志运行任何操作，也不会产生任何费用）。您必须明确启用 受监控的智能体，以便智能体异常检测对其日志和跟踪记录运行主动异常分析。
- 兼容的运行时：部署在 Agent Runtime 上。
- ADK 版本：使用适用于 Python 的智能体开发套件 (ADK) 构建， 1.2 版或更高版本。建议使用 2.1.0 版或更高版本。
- 日志记录和可观测性存储桶：智能体异常检测
目前适用于美国（多区域）和欧盟（多区域）
存储桶。日志记录和可观测性存储桶都必须位于同一多区域中。
_Default日志记录存储桶位于global位置，除非您的组织更改了其默认设置，并且global仅适用于美国多区域。对于欧盟，请使用位于eu位置的日志记录存储桶。 - 遥测数据捕获：使用 ADK 启用 OpenTelemetry 跟踪和日志记录。
- 元数据捕获：原始遥测数据配置为捕获提示输入 和回答输出内容。
- 主动跟踪：
enable_tracing标志未在 ADK 配置中明确设置为false。 - 权限和访问权限：区域扫描器的服务账号对活跃日志和可观测性 存储桶 拥有足够的读取者权限。日志存储桶应启用 Log Analytics 和 Observability Analytics。
- 活跃数据流：智能体必须具有活跃数据；系统 无法验证配置或注册没有遥测 数据的智能体。
不符合这些条件的智能体无法被智能体异常检测发现，也不会显示在要启用的受监控智能体列表中。
威胁类别
智能体异常检测会持续监控智能体活动，并根据与智能体安全框架一致的关键类别标记风险：
- 工具滥用 (OWASP ASI02)：检测工具何时以不安全或 非预期的方式使用，例如通过危险的工具链、参数 操纵或间接提示注入。
- 身份权限滥用 (OWASP ASI03)：识别由动态信任委托、角色伪造、内存升级、 或混淆的副手漏洞导致的未经授权的操作。
- Agentic cascading failures (OWASP ASI08)：监控 Agentic Workflows 中的故障传播、无限执行循环、振荡重试和反馈环放大。
- 恶意智能体 (OWASP ASI10)：标记智能体何时放弃其声明的 角色、绕过安全防护措施或偏离分配的系统 指令。
- 资源耗尽：检测有意或失控地过度消耗 计算资源、LLM token 或网络带宽。
选择试用智能体异常检测
如需选择试用智能体异常检测，请填写此表单： 智能体异常检测访问权限申请表单。
使用智能体异常检测
如果您已选择启用智能体异常检测，请参阅 智能体异常检测 ，了解使用说明。