Die Agenten-Anomalieerkennung bietet eine dynamische, auf Schlussfolgerungen basierende Überwachungs- und Prüfungsebene, die speziell für autonome KI-Agenten für Unternehmen entwickelt wurde. Im Gegensatz zu herkömmlichen Tools für die Anwendungssicherheit, die nur statischen Code auf Schwachstellen scannen oder den Netzwerk-Traffic am Perimeter prüfen, bewertet die Agenten-Anomalieerkennung die Live-Schlussfolgerungs-Traces, Tool-Interaktionen und Ausführungsabläufe von Agenten, um verdächtige Absichten, Richtlinienverstöße und Verhaltensanomalien zu erkennen.
Das Herzstück der Agenten-Anomalieerkennung ist ein mehrschichtiges Framework zur Anomalieanalyse, das die Aktivität von Agentensitzungen asynchron analysiert. Durch die Aufnahme von OpenTelemetry-Logs und Ausführungs-Traces ermittelt der Dienst, ob ein Agent außerhalb seiner vorgesehenen Grenzen agiert, ohne die Ausführungslatenz in Ihre Live-Agenten-Workflows einzuführen.
Hauptvorteile
Die Agenten-Anomalieerkennung umfasst die folgenden Funktionen:
| Vorteil oder Funktion | Beschreibung |
|---|---|
| Asynchrone Sicherheit in nahezu Echtzeit | Die Telemetrie (Logs und Traces) wird außerhalb des Bandes verarbeitet, wodurch schnelle Reaktionszeiten des Agenten gewährleistet werden. Ein mehrschichtiges Analysemodell ermöglicht kosteneffiziente Bewertungen in nahezu Echtzeit. |
| Schlussfolgerungsbasierte Absichtsanalyse | Bei der Anomalieanalyse werden markierte Traces analysiert, um komplexe Geschäftslogik von nicht autorisierten Aktionen zu unterscheiden. |
| Umfassende Bedrohungserkennung | Prüft agentspezifische Sicherheitsrisiken sofort mit Standarddetektoren, die Bedrohungsmuster erfassen, die in den OWASP Top 10 für agentenbasierte Sicherheitsbedrohungen beschrieben sind, darunter Tool-Missbrauch, Berechtigungsmissbrauch, kaskadierende Agentenfehler, betrügerisches Verhalten und Ressourcenerschöpfung. |
| Integration mit Security Command Center | Anomalieergebnisse werden direkt in Security Command Center angezeigt, um die Sicherheit zentral zu verwalten, zu suchen und Vorfälle zu verfolgen. Weitere Informationen zu Security Command Center finden Sie unter Übersicht über Security Command Center. Hinweis: Für diese Integration ist eine der von Security Command Center unterstützten Stufen erforderlich: Standard, Premium oder Enterprise. |
Mehrschichtiges Erkennungssystem
Um die Abdeckung der Bewertung und die Kosten auszugleichen, verwendet die Agenten-Anomalieerkennung ein mehrschichtiges Erkennungssystem, das agentische Protokolle analysiert, um anomale Sitzungen zu identifizieren und zu melden:
- Ebene 1 (einfache ML-Detektoren): Hochgeschwindigkeitsmodelle für Statistik und einfaches maschinelles Lernen identifizieren erste Ausreißer und nachgelagerte Telemetrietrends, um den Baseline-Traffic zu reduzieren.
- Ebene 2 (Anomalieanalyse): Bei der Anomalieanalyse werden markierte Sitzungen asynchron bewertet, um Bedrohungsurteile und Erklärungen in natürlicher Sprache zu liefern.
- Ebene 3 (Analyse auf Aufrufebene): Führt eine detaillierte Analyse einzelner Tool-Ausführungen, Ausführungsstatus und Parameterverläufe im Konversations-Trace durch.
Verfügbarkeit
Die Agenten-Anomalieerkennung ist für Agenten verfügbar, die die folgenden Kriterien erfüllen. Agenten, die die Kriterien erfüllen, werden von der Agenten-Anomalieerkennung automatisch als überwachte Agenten erkannt. Der Dienst ist sich der Existenz des Agenten bewusst, aber es werden keine Aktionen für die Logs des Agenten ausgeführt und es fallen keine Kosten an. Sie müssen einen überwachten Agenten explizit für die Agenten-Anomalieerkennung aktivieren , damit eine aktive Anomalieanalyse für seine Logs und Traces ausgeführt werden kann.
- Kompatible Laufzeitumgebung: In der Agent Runtime bereitgestellt.
- ADK-Version: Mit dem Agent Development Kit (ADK) für Python, Version 1.2 oder höher, erstellt. Version 2.1.0 oder höher wird empfohlen.
- Buckets für Logging und Beobachtbarkeit: Die Agenten-Anomalieerkennung ist derzeit für Buckets der Regionen USA (Multiregion) und EU (Multiregion) verfügbar. Sowohl der Logging- als auch der Observability-Bucket müssen sich in derselben Multiregion befinden. Der Logging-Bucket
_Defaultbefindet sich am Standortglobal, es sei denn, Ihre Organisation hat den Standard geändert.globalfunktioniert nur mit der Multiregion USA. Verwenden Sie für die EU einen Logging-Bucket am Standorteu. - Telemetrieerfassung: OpenTelemetry-Tracing und -Logging werden mit dem ADK aktiviert.
- Erfassung von Metadaten: Die Rohdaten der Telemetrie sind so konfiguriert, dass sie Eingabeaufforderungen und Antwortausgaben erfassen.
- Aktives Tracing: Das Flag
enable_tracingist in der ADK-Konfiguration nicht explizit auffalsegesetzt. - Berechtigungen und Zugriff: Die Dienstkonten der regionalen Scanner haben ausreichende Leserberechtigungen für die aktiven Logs und Observability Buckets. Für den Log-Bucket müssen Loganalysen und Observability Analytics aktiviert sein.
- Aktiver Datenfluss: Der Agent muss aktive Daten haben. Das System kann die Konfiguration nicht überprüfen oder einen Agenten registrieren, der keine Telemetrie daten hat.
Agenten, die diese Kriterien nicht erfüllen, können von der Agenten-Anomalieerkennung nicht erkannt werden und werden nicht in der Liste der überwachten Agenten angezeigt, die aktiviert werden können.
Bedrohungskategorien
Die Agenten-Anomalieerkennung überwacht kontinuierlich die Aktivitäten von Agenten und kennzeichnet Risiken in wichtigen Kategorien, die auf agentenbasierten Sicherheitsframeworks basieren:
- Tool-Missbrauch (OWASP ASI02): Erkennt, wenn Tools auf unsichere oder unbeabsichtigte Weise verwendet werden, z. B. durch gefährliche Tool-Verkettung, Parametermodifikation oder indirekte Prompt-Injection.
- Missbrauch von Identitätsberechtigungen (OWASP ASI03): Erkennt nicht autorisierte Aktionen, die auf dynamischer Vertrauensdelegierung, Personenfälschung, Speichereskalation oder Confused Deputy-Schwachstellen beruhen.
- Agentische Kaskadenfehler (OWASP ASI08): Überwacht die Fehlerweitergabe, unendliche Ausführungsschleifen, oszillierende Wiederholungen und Verstärkungen der Feedback-Schleife in Agenten-Workflows.
- Betrügerische Agenten (OWASP ASI10): Kennzeichnet, wenn ein Agent seine deklarierte Rolle verlässt, Sicherheitsvorkehrungen umgeht oder von zugewiesenen System anweisungen abweicht.
- Ressourcenerschöpfung: Erkennt die beabsichtigte oder unkontrollierte Übernutzung von Rechenleistung, LLM-Tokens oder Netzwerkbandbreite.
Für die Agenten-Anomalieerkennung registrieren
Wenn Sie die Agenten-Anomalieerkennung ausprobieren möchten, füllen Sie dieses Formular aus: Zugriffsanfrageformular für die Agenten-Anomalieerkennung.
Agenten-Anomalieerkennung verwenden
Wenn Sie sich bereits für die Nutzung der Agenten-Anomalieerkennung registriert haben, finden Sie unter Agenten-Anomalieerkennung eine Anleitung zur Verwendung.