La Detección de anomalías en agentes proporciona una supervisión y una capa de auditoría dinámicas basadas en el razonamiento diseñadas específicamente para agentes de IA empresariales autónomos. A diferencia de las herramientas de seguridad de aplicaciones convencionales que solo analizan el código estático en busca de vulnerabilidades o inspeccionan el tráfico de red en el perímetro, la Detección de anomalías en agentes evalúa los seguimientos de razonamiento en vivo, las interacciones de herramientas y los flujos de ejecución de los agentes para detectar intenciones sospechosas, incumplimientos de políticas y anomalías de comportamiento.
El núcleo de la Detección de anomalías en agentes es un framework de análisis de anomalías de varias capas que analiza la actividad de la sesión del agente de forma asíncrona. Al transferir registros y seguimientos de ejecución de OpenTelemetry, el servicio determina si un agente opera fuera de sus límites previstos sin introducir latencia de ejecución en tus Agentic Workflows en vivo.
Ventajas clave
La Detección de anomalías en agentes incluye las siguientes funciones:
| Beneficio o función | Descripción |
|---|---|
| Seguridad asíncrona casi en tiempo real | La telemetría (registros y seguimientos) se procesa fuera de banda, lo que mantiene tiempos de respuesta rápidos del agente. Un modelo de análisis de varias capas permite mantener la rentabilidad con evaluaciones casi en tiempo real. |
| Análisis de intención basado en el razonamiento | El análisis de anomalías razona sobre los seguimientos marcados para diferenciar la lógica empresarial compleja de la acción no autorizada. |
| Detección de amenazas integral | Audita los riesgos de seguridad específicos del agente de inmediato con detectores predeterminados que capturan patrones de amenazas descritos en OWASP Top 10 para amenazas de seguridad de agentes, incluido el uso inadecuado de herramientas, el abuso de privilegios, las fallas en cascada de agentes, los comportamientos no autorizados y el agotamiento de recursos. |
| Integración con Security Command Center | Los hallazgos de anomalías se muestran directamente en Security Command Center para la administración de seguridad centralizada, la búsqueda y el seguimiento de incidentes. Para obtener información sobre Security Command Center, consulta Descripción general de Security Command Center. Nota: Esta integración requiere uno de los niveles compatibles con Security Command Center: Estándar, Premium o Enterprise. |
Sistema de detección de varias capas
Para equilibrar la cobertura de la evaluación y el costo, la Detección de anomalías en agentes usa un sistema de detección de varias capas que analiza los registros de agentes para identificar y generar informes sobre sesiones anómalas:
- Capa 1 (detectores de AA livianos): Los modelos estadísticos de alta velocidad y de aprendizaje automático livianos identifican los valores atípicos iniciales y las tendencias de telemetría descendentes para submuestrear el tráfico de referencia.
- Capa 2 (análisis de anomalías): El análisis de anomalías evalúa las sesiones marcadas de forma asíncrona para generar veredictos de amenazas y razonamientos de explicación en lenguaje natural.
- Capa 3 (análisis a nivel de invocación): Realiza un análisis detallado de las ejecuciones de herramientas individuales, los estados de ejecución y los historiales de parámetros dentro del seguimiento de la conversación.
Disponibilidad
La Detección de anomalías en agentes está disponible para los agentes que cumplen con los siguientes criterios. La Detección de anomalías en agentes reconoce automáticamente a los agentes que cumplen con los criterios como agentes supervisados (el servicio conoce la existencia del agente, pero no se ejecuta nada en los registros del agente y no se generan costos). Debes habilitar explícitamente un agente supervisado para la Detección de anomalías en agentes para que se ejecute un análisis de anomalías activo en sus registros y seguimientos.
- Tiempo de ejecución compatible: Se implementa en Agent Runtime.
- Versión de ADK: Se compila con el Kit de desarrollo de agentes (ADK) para Python, versión 1.2 o posterior. Se recomienda la versión 2.1.0 o posterior.
- Buckets de registro y observabilidad: La Detección de anomalías en agentes
está disponible actualmente para buckets de EE.UU. (multirregión) y la UE (multirregión)
. Los buckets de registro y observabilidad deben estar en la misma multirregión. El bucket de registro
_Defaultestá en la ubicaciónglobal, a menos que tu organización haya cambiado su valor predeterminado, yglobalsolo funciona con la multirregión de EE.UU. Para la UE, usa un bucket de registro en la ubicacióneu. - Captura de telemetría: El seguimiento y el registro de OpenTelemetry se habilitan con el ADK.
- Captura de metadatos: La telemetría sin procesar está configurada para capturar el contenido de entrada de la instrucción y el contenido de salida de la respuesta.
- Seguimiento activo: La marca
enable_tracingno se establece explícitamente enfalseen la configuración de ADK. - Permisos y acceso: Las cuentas de servicio de los analizadores regionales tienen permisos de lector suficientes sobre los registros activos y los buckets de observabilidad. El bucket de registros debe tener habilitado el Análisis de registros y las Estadísticas de observabilidad.
- Flujo de datos activo: El agente debe tener datos activos; el sistema no puede verificar la configuración ni inscribir un agente que no tenga datos de telemetría.
La Detección de anomalías en agentes no puede detectar los agentes que no cumplen con estos criterios y no aparecen en la lista de agentes supervisados para habilitar.
Categorías de amenazas
La Detección de anomalías en agentes supervisa continuamente las actividades de los agentes y marca los riesgos en categorías clave alineadas con los frameworks de seguridad de agentes:
- Uso inadecuado de herramientas (OWASP ASI02): Detecta cuándo se usan las herramientas de formas inseguras o no deseadas, como a través de encadenamiento de herramientas peligrosas, manipulación de parámetros o inyección indirecta de instrucciones.
- Abuso de privilegios de identidad (OWASP ASI03): Identifica acciones no autorizadas que resultan de la delegación de confianza dinámica, la falsificación de arquetipos, la escalación de memoria o las vulnerabilidades de diputado confundido.
- Fallas en cascada de Agentic (OWASP ASI08): Supervisa la propagación de fallas, los bucles de ejecución infinitos, los reintentos oscilantes y las amplificaciones de ciclos de retroalimentación en los Agentic Workflows.
- Agentes no autorizados (OWASP ASI10): Marca cuando un agente abandona su rol declarado , omite las barreras de seguridad o se desvía de las instrucciones del sistema asignadas.
- Agotamiento de recursos: Detecta el consumo excesivo intencional o descontrolado de procesamiento, tokens de LLM o ancho de banda de red.
Habilita la Detección de anomalías en agentes para probarla
Para habilitar la Detección de anomalías en agentes para probarla, completa este formulario: Formulario de solicitud de acceso a la Detección de anomalías en agentes.
Usa la Detección de anomalías en agentes
Si ya habilitaste la Detección de anomalías en agentes, consulta Detección de anomalías en agentes para obtener instrucciones de uso.