Panoramica sull'osservabilità

L'osservabilità degli agenti in Gemini Enterprise Agent Platform offre una visibilità completa su prestazioni, comportamento e integrità degli agenti e dei server Model Context Protocol (MCP) di cui hai eseguito il deployment. Monitorando le metriche chiave, tracciando i percorsi di esecuzione e osservando il sistema multi-agente nel suo complesso, puoi diagnosticare i problemi, ottimizzare il consumo di risorse e migliorare l'affidabilità degli agenti.

Questo documento fornisce una panoramica degli strumenti di osservabilità disponibili all'interno di Gemini Enterprise Agent Platform, tra cui la topologia a livello di sistema, il monitoraggio dei singoli agenti e le metriche del server MCP.

Configurazione della telemetria

Per compilare queste dashboard, topologie e tracce di osservabilità, i tuoi agenti devono essere configurati per inviare i dati di telemetria nel formato OpenTelemetry ai sistemi di archiviazione in Google Cloud Observability.

Assicurati che gli ambienti degli agenti e dei server MCP siano configurati correttamente per emettere questi dati. I componenti Cloud de Confiance by S3NS integrati emettono automaticamente la telemetria nel formato OpenTelemetry. Ad esempio, Model Armor emette in modo nativo dati di telemetria standardizzati, consentendoti di esporre e monitorare senza problemi le intercettazioni delle policy in tempo reale direttamente all'interno dei dati di traccia senza richiedere alcuna strumentazione personalizzata.

Per i requisiti e le istruzioni di configurazione della telemetria dell'agente, consulta le seguenti risorse:

Indicatori di osservabilità

Gemini Enterprise Agent Platform offre osservabilità tramite metriche, tracce e log.

Quando selezioni un agente specifico dal Registry, la scheda Osservabilità fornisce una suite di dashboard mirate per monitorarne l'integrità operativa, le prestazioni e l'utilizzo dell'infrastruttura. Utilizza la navigazione a sinistra nella scheda Osservabilità per passare da una visualizzazione all'altra:

  • Panoramica:monitora l'utilizzo generale nel periodo di tempo selezionato, tra cui le sessioni totali, i turni medi per sessione e le chiamate totali dell'agente. I grafici delle serie temporali mostrano l'utilizzo dei token (input rispetto a output), il volume complessivo del traffico dell'agente, i percentili di latenza (p50, p95, p99) e i tassi di errore.
  • Valutazione:mostra i monitoraggi online per la valutazione continua della qualità. Sono inclusi widget di serie temporali che monitorano la qualità media delle risposte, le metriche di sicurezza, i tassi di allucinazione e la qualità dell'utilizzo degli strumenti.
  • Modelli:suddivide il rendimento in base al foundation model sottostante. Puoi monitorare la latenza p95, il numero totale di chiamate, le percentuali di errore, gli errori di quota di frequenza e l'utilizzo dei token isolati per modelli specifici.
  • Strumenti: monitora gli strumenti e i servizi esterni collegati all'agente. Questa visualizzazione mostra in dettaglio la latenza p95, il numero di chiamate e i tassi di errore per strumento, nonché la frequenza delle interazioni in cui non è stato chiamato alcuno strumento.
  • Utilizzo: fornisce metriche a livello di infrastruttura per l'ambiente di runtime dell'agente, tra cui l'allocazione della CPU del container, l'allocazione della memoria del container e l'utilizzo dei token.
  • Log agentico: mostra uno stream filtrabile di log non elaborati dell'agente, tra cui gravità, timestamp e riepiloghi esecutivi per l'approfondimento della risoluzione dei problemi. Per saperne di più, consulta Visualizza i log dell'agente.

Oltre alle dashboard nella scheda Osservabilità, puoi utilizzare la scheda Tracce dell'agente per ispezionare l'esecuzione passo passo di sessioni specifiche, inclusi i grafi diretti aciclici di intervalli e input/output. Per saperne di più, consulta Visualizza le tracce dell'agente. Puoi anche utilizzare la scheda Topologia per visualizzare le dipendenze in entrata e in uscita specifiche per quel singolo agente.

Per i server MCP, puoi monitorare il numero di richieste e la durata delle richieste p95 per monitorare l'utilizzo e la reattività.

Controllo delle azioni dell'agente

Per supportare i controlli di sicurezza e conformità aziendali, Gemini Enterprise Agent Platform utilizza il logging con doppia attribuzione per registrare l'attività degli agenti in Cloud Logging. Quando un agente esegue un'azione o chiama uno strumento per conto di una persona (autorità delegata dall'utente), i log di controllo e di esecuzione registrano sia l'identità dell'agente basata su SPIFFE (principal://... nei log di controllo o spiffe://... nei log di esecuzione) sia l'identità dell'utente umano che ha avviato l'azione. Quando un agente agisce autonomamente in base alla propria autorità, i log attribuiscono l'azione direttamente all'identità univoca dell'agente.

I revisori e gli amministratori della sicurezza possono isolare ed esaminare gli eventi avviati dall'agente in Cloud Logging filtrando in base al flag is_agentic=true nelle query di log. La combinazione di is_agentic=true con l'identità dell'agente o l'entità utente ti consente di tracciare i percorsi di esecuzione end-to-end e di verificare l'applicazione delle policy in tutte le interazioni degli agenti.

Convenzioni di AI generativa di OpenTelemetry

Le tracce degli agenti e i log di prompt e risposte si basano in gran parte sulle convenzioni semantiche di OpenTelemetry per i sistemi di AI generativa per standardizzare il modo in cui la telemetria dell'AI generativa viene acquisita, strutturata e segnalata.

Il rispetto di queste convenzioni è fondamentale per il tracciamento degli agenti, perché stabilisce un formato universale e indipendente dal fornitore per descrivere workflow complessi degli agenti in più passaggi, come le esecuzioni degli strumenti, i passaggi di recupero e il consumo di token. Questa standardizzazione contribuisce a un'interoperabilità perfetta tra diversi backend di osservabilità e strumenti di analisi, sia all'interno che all'esterno di Cloud de Confiance by S3NS.

Passaggi successivi