A Detecção de Agentes com Anomalias oferece uma camada de supervisão e auditoria dinâmica e baseada em raciocínio, projetada especificamente para agentes de IA empresariais autônomos. Ao contrário das ferramentas convencionais de segurança de aplicativos que apenas verificam o código estático em busca de vulnerabilidades ou inspecionam o tráfego de rede no perímetro, a Detecção de Agentes com Anomalias avalia os rastros de raciocínio em tempo real, as interações de ferramentas e os fluxos de execução de agentes para detectar intenções suspeitas, violações de políticas e anomalias comportamentais.
O núcleo da Detecção de Agentes com Anomalias é um framework de análise de anomalias em várias camadas que analisa a atividade da sessão do agente de forma assíncrona. Ao ingerir registros e rastros de execução do OpenTelemetry, o serviço determina se um agente está operando fora dos limites pretendidos sem introduzir latência de execução nos Agentic Workflows ativos.
Principais vantagens
A Detecção de Agentes com Anomalias inclui estes recursos:
| Benefício ou recurso | Descrição |
|---|---|
| Segurança assíncrona quase em tempo real | A telemetria (registros e rastros) é processada fora da banda, mantendo tempos de resposta rápidos do agente. Um modelo de análise em várias camadas permite manter a eficiência de custos com avaliações quase em tempo real. |
| Análise de intenção baseada em raciocínio | A análise de anomalias raciocina sobre rastros sinalizados para diferenciar a lógica de negócios complexa de ações não autorizadas. |
| Detecção abrangente de ameaças | Audita os riscos de segurança específicos do agente com detectores padrão que capturam padrões de ameaças descritos nos 10 principais do OWASP para ameaças de segurança de agentes, incluindo uso indevido de ferramentas, abuso de privilégios, falhas de agentes em cascata, comportamentos desonestos e esgotamento de recursos. |
| Integração com o Security Command Center | As descobertas de anomalias são exibidas diretamente no Security Command Center para gerenciamento de segurança centralizado, pesquisa e acompanhamento de incidentes. Para mais informações sobre o Security Command Center, consulte Visão geral do Security Command Center. Observação:essa integração exige um dos níveis compatíveis com o Security Command Center: Standard, Premium ou Enterprise. |
Sistema de detecção em várias camadas
Para equilibrar a cobertura e o custo da avaliação, a Detecção de Agentes com Anomalias usa um sistema de detecção em várias camadas que analisa os registros do agente para identificar e informar sobre sessões anômalas:
- Camada 1 (detectores de ML leves): modelos estatísticos de alta velocidade e de machine learning leves identificam outliers iniciais e tendências de telemetria downstream para reduzir o tráfego de referência.
- Camada 2 (análise de anomalias): a análise de anomalias avalia as sessões sinalizadas de forma assíncrona para renderizar vereditos de ameaças e raciocínio de explicação de linguagem natural.
- Camada 3 (análise no nível de invocação): realiza uma investigação das execuções de ferramentas individuais, estados de execução e históricos de parâmetros no rastreamento de conversas.
Disponibilidade
A Detecção de Agentes com Anomalias está disponível para agentes que atendem aos seguintes critérios. Os agentes que atendem aos critérios são reconhecidos automaticamente como agentes monitorados pela Detecção de Agentes com Anomalias (o serviço está ciente da existência do agente, mas nada é executado nos registros do agente e nenhum custo é incorrido). Você precisa ativar explicitamente um agente monitorado para a Detecção de Agentes com Anomalias para que a análise de anomalias ativa seja executada nos registros e rastros.
- Tempo de execução compatível: implantado no Agent Runtime.
- Versão do ADK: criado usando o Kit de Desenvolvimento de Agente (ADK) para Python, versão 1.2 ou mais recente. A versão 2.1.0 ou mais recente é recomendada.
- Buckets de geração de registros e observabilidade: a Detecção de Agentes com Anomalias
está disponível para buckets dos EUA (multirregião) e da UE (multirregião)
. Os buckets de geração de registros e observabilidade precisam estar na mesma multirregião. O bucket de registro
_Defaultestá no localglobal, a menos que sua organização tenha mudado o padrão, eglobalfunciona apenas com a multirregião dos EUA. Para a UE, use um bucket de registro no localeu. - Captura de telemetria: o rastreamento e a geração de registros do OpenTelemetry são ativados usando o ADK.
- Captura de metadados: a telemetria bruta é configurada para capturar o conteúdo de entrada do comando e da saída da resposta.
- Rastreamento ativo: a flag
enable_tracingnão está definida explicitamente comofalsena configuração do ADK. - Permissões e acesso: as contas de serviço dos scanners regionais têm permissões de leitor suficientes nos registros ativos e nos buckets de observabilidade. O bucket de registros precisa ter a Análise de dados de registros e a Análise de observabilidade ativadas.
- Fluxo de dados ativo: o agente precisa ter dados ativos. O sistema não pode verificar a configuração nem inscrever um agente que não tenha dados de telemetria
Os agentes que não atendem a esses critérios não podem ser descobertos pela Detecção de Agentes com Anomalias e não aparecem na lista de agentes monitorados para ativação.
Categorias de ameaças
A Detecção de Agentes com Anomalias monitora continuamente as atividades do agente e sinaliza riscos em categorias principais alinhadas com frameworks de segurança de agentes:
- Uso indevido de ferramentas (OWASP ASI02): detecta quando as ferramentas são usadas de maneiras inseguras ou não intencionais, como por meio de encadeamento de ferramentas perigoso, manipulação de parâmetros ou injeção de comandos indireta.
- Abuso de privilégios de identidade (OWASP ASI03): identifica ações não autorizadas resultantes de delegação de confiança dinâmica, falsificação de persona, escalonamento de memória ou vulnerabilidades de vice-confuso.
- Falhas em cascata de agentes (OWASP ASI08): monitora a propagação de falhas, loops de execução infinitos, novas tentativas oscilantes e amplificações de ciclo de feedback em Agentic Workflows.
- Agentes desonestos (OWASP ASI10): sinaliza quando um agente abandona o papel declarado , ignora as proteções de segurança ou se desvia das instruções do sistema atribuídas.
- Esgotamento de recursos: detecta o consumo excessivo intencional ou descontrolado de computação, tokens de LLM ou largura de banda da rede.
Aceitar testar a Detecção de Agentes com Anomalias
Para aceitar testar a Detecção de Agentes com Anomalias, preencha este formulário: formulário de solicitação de acesso à Detecção de Agentes com Anomalias.
Usar a Detecção de Agentes com Anomalias
Se você já aceitou usar a Detecção de Agentes com Anomalias, consulte Detecção de Agentes com Anomalias para instruções de uso.