Panoramica del rilevamento anomalie degli agenti

Il rilevamento anomalie degli agenti fornisce un livello di supervisione e controllo dinamico basato sul ragionamento progettato specificamente per gli agenti AI aziendali autonomi. A differenza degli strumenti di sicurezza delle applicazioni convenzionali che eseguono la scansione solo del codice statico per rilevare le vulnerabilità o ispezionano il traffico di rete nel perimetro, il rilevamento anomalie degli agenti valuta le tracce di ragionamento in tempo reale, le interazioni degli strumenti e i flussi di esecuzione degli agenti per rilevare intenti sospetti, violazioni delle norme e anomalie comportamentali.

Il cuore del rilevamento anomalie degli agenti è un framework di analisi delle anomalie multilivello che analizza in modo asincrono l'attività della sessione dell'agente. Acquisendo i log e le tracce di esecuzione di OpenTelemetry, il servizio determina se un agente opera al di fuori dei limiti previsti senza introdurre latenza di esecuzione negli Agentic Workflows in tempo reale.

Vantaggi principali

Il rilevamento anomalie degli agenti include le seguenti funzionalità:

Vantaggio o funzionalità Descrizione
Sicurezza asincrona quasi in tempo reale La telemetria (log e tracce) viene elaborata fuori banda, mantenendo tempi di risposta rapidi degli agenti. Un modello di analisi multilivello consente di mantenere l'efficienza dei costi con valutazioni quasi in tempo reale.
Analisi dell'intento basata sul ragionamento L'analisi delle anomalie ragiona sulle tracce contrassegnate per distinguere la logica di business complessa dalle azioni non autorizzate.
Rilevamento completo delle minacce Esegue il controllo dei rischi per la sicurezza specifici degli agenti immediatamente con i rilevatori predefiniti che acquisiscono i pattern di minaccia descritti in OWASP Top 10 per le minacce alla sicurezza degli agenti, tra cui uso improprio degli strumenti, abuso di privilegi, errori degli agenti a cascata, comportamenti non autorizzati ed esaurimento delle risorse.
Integrazione con Security Command Center I risultati delle anomalie vengono visualizzati direttamente in Security Command Center per la gestione centralizzata della sicurezza, la ricerca e il monitoraggio degli incident. Per informazioni su Security Command Center, consulta la panoramica di Security Command Center. Nota:questa integrazione richiede uno dei livelli supportati da Security Command Center: Standard, Premium o Enterprise.

Sistema di rilevamento multilivello

Per bilanciare la copertura e il costo della valutazione, il rilevamento anomalie degli agenti utilizza un sistema di rilevamento multilivello che analizza i log agentici per identificare e segnalare le sessioni anomale:

  • Livello 1 (rilevatori ML leggeri): i modelli di machine learning statistici e leggeri ad alta velocità identificano i valori anomali iniziali e le tendenze della telemetria downstream per ridurre il traffico di base.
  • Livello 2 (analisi delle anomalie): l'analisi delle anomalie valuta in modo asincrono le sessioni contrassegnate per generare verdetti sulle minacce e ragionamenti di spiegazione in linguaggio naturale.
  • Livello 3 (analisi a livello di chiamata): esegue un approfondimento delle singole esecuzioni degli strumenti, degli stati di esecuzione e delle cronologie dei parametri all'interno della traccia della conversazione.

Disponibilità

Il rilevamento anomalie degli agenti è disponibile per gli agenti che soddisfano i seguenti criteri. Gli agenti che soddisfano i criteri vengono riconosciuti automaticamente come agenti monitorati dal rilevamento anomalie degli agenti (il servizio è a conoscenza dell'esistenza dell'agente, ma non viene eseguito nulla sui log dell'agente e non vengono addebitati costi). Devi abilitare esplicitamente un agente monitorato per il rilevamento anomalie degli agenti affinché l'analisi attiva delle anomalie venga eseguita sui relativi log e tracce.

  • Runtime compatibile: deployment su Agent Runtime.
  • Versione ADK: creato utilizzando Agent Development Kit (ADK) per Python, versione 1.2 o successive. È consigliata la versione 2.1.0 o successive.
  • Bucket di logging e osservabilità: Rilevamento anomalie degli agenti è attualmente disponibile per i bucket US (multiregione) ed EU (multiregione). Sia il bucket di logging sia quello di osservabilità devono trovarsi nella stessa multi-regione. Il bucket di logging _Default si trova nella località global a meno che la tua organizzazione non abbia modificato l'impostazione predefinita e global funziona solo con la multi-regione US. Per l'UE, utilizza un bucket di logging nella località eu.
  • Acquisizione della telemetria: la tracciatura e il logging di OpenTelemetry sono abilitati utilizzando l'ADK.
  • Acquisizione dei metadati: la telemetria non elaborata è configurata per acquisire i contenuti di input dei prompt e output delle risposte.
  • Tracciamento attivo: il flag enable_tracing non è impostato esplicitamente su false nella configurazione ADK.
  • Autorizzazioni e accesso: i service account degli scanner regionali dispongono di autorizzazioni di lettura sufficienti sui log attivi e sui bucket di osservabilità. Il bucket di log deve avere abilitato Analisi dei log e Observability Analytics.
  • Flusso di dati attivo: l'agente deve avere dati attivi; il sistema non può verificare la configurazione o registrare un agente che non ha dati di telemetria data.

Gli agenti che non soddisfano questi criteri non sono rilevabili dal rilevamento anomalie degli agenti e non vengono visualizzati nell'elenco degli agenti monitorati da abilitare.

Categorie di minacce

Il rilevamento anomalie degli agenti monitora continuamente le attività degli agenti e contrassegna i rischi nelle categorie chiave allineate ai framework di sicurezza degli agenti:

  • Uso improprio degli strumenti (OWASP ASI02): rileva quando gli strumenti vengono utilizzati in modi non sicuri o non previsti, ad esempio tramite concatenamento di strumenti pericolosi, manipolazione dei parametri o iniezione di prompt indiretta.
  • Abuso di privilegi di identità (OWASP ASI03): identifica le azioni non autorizzate derivanti dalla delega dinamica dell'attendibilità, dalla falsificazione della persona, dall'escalation della memoria o dalle vulnerabilità del deputy confuso.
  • Errori a cascata agentici (OWASP ASI08): monitora la propagazione degli errori, i loop di esecuzione infiniti, i tentativi oscillanti e le amplificazioni del Feedback Loop negli Agentic Workflows.
  • Agenti non autorizzati (OWASP ASI10): contrassegna quando un agente abbandona il ruolo dichiarato , aggira le barriere di sicurezza o si discosta dalle istruzioni di sistema assegnate.
  • Esaurimento delle risorse: rileva il consumo eccessivo intenzionale o incontrollato di calcolo, token LLM o larghezza di banda di rete.

Attivare il rilevamento anomalie degli agenti

Per attivare il rilevamento anomalie degli agenti, compila questo modulo: Modulo di richiesta di accesso al rilevamento anomalie degli agenti.

Utilizzare il rilevamento anomalie degli agenti

Se hai già attivato il rilevamento anomalie degli agenti, consulta la pagina Rilevamento anomalie degli agenti per le istruzioni sull'utilizzo.