Ringkasan Agent Anomaly Detection

Agent Anomaly Detection menyediakan lapisan pengawasan dan audit dinamis berbasis penalaran yang dirancang khusus untuk agen AI perusahaan otonom. Tidak seperti alat keamanan aplikasi konvensional yang hanya memindai kode statis untuk mencari kerentanan atau memeriksa traffic jaringan di perimeter, Agent Anomaly Detection mengevaluasi jejak penalaran live, interaksi alat, dan alur eksekusi agen untuk mendeteksi niat mencurigakan, pelanggaran kebijakan, dan anomali perilaku.

Inti dari Agent Anomaly Detection adalah framework analisis anomali berlapis yang menganalisis aktivitas sesi agen secara asinkron. Dengan menyerap log OpenTelemetry dan jejak eksekusi, layanan ini menentukan apakah agen beroperasi di luar batas yang dimaksudkan tanpa menimbulkan latensi eksekusi ke dalam Agentic Workflows agen live Anda.

Manfaat utama

Agent Anomaly Detection mencakup fitur berikut:

Manfaat atau Fitur Deskripsi
Keamanan asinkron hampir real-time Telemetri (log dan jejak) diproses di luar band, sehingga mempertahankan waktu respons agen yang cepat. Model analisis berlapis memungkinkan efisiensi biaya dipertahankan dengan penilaian hampir real-time.
Analisis niat berbasis penalaran Alasan analisis anomali atas jejak yang ditandai untuk membedakan logika bisnis yang kompleks dari tindakan yang tidak sah.
Deteksi ancaman yang komprehensif Mengaudit risiko keamanan khusus agen secara langsung dengan detektor default yang menangkap pola ancaman yang diuraikan dalam OWASP Top 10 untuk Ancaman Keamanan Agentic, termasuk penyalahgunaan alat, penyalahgunaan hak istimewa, kegagalan agen yang berjenjang, perilaku tidak sah, dan kehabisan resource.
Integrasi dengan Security Command Center Temuan anomali ditampilkan langsung di Security Command Center untuk pengelolaan keamanan terpusat, penelusuran, dan pelacakan insiden. Untuk mengetahui informasi tentang Security Command Center, lihat Ringkasan Security Command Center. Catatan: Integrasi ini memerlukan salah satu tingkat yang didukung Security Command Center: Standard, Premium, atau Enterprise.

Sistem deteksi berlapis

Untuk menyeimbangkan cakupan dan biaya penilaian, Agent Anomaly Detection menggunakan sistem deteksi berlapis yang menganalisis log agen untuk mengidentifikasi dan melaporkan sesi anomali:

  • Lapisan 1 (Detektor ML ringan): Model machine learning ringan dan statistik berkecepatan tinggi mengidentifikasi outlier awal dan tren telemetri hilir untuk mengurangi traffic dasar.
  • Lapisan 2 (Analisis anomali): Analisis anomali mengevaluasi sesi yang ditandai secara asinkron untuk memberikan putusan ancaman dan penalaran penjelasan bahasa alami.
  • Lapisan 3 (Analisis tingkat pemanggilan): Melakukan analisis mendalam terhadap eksekusi alat individual, status eksekusi, dan histori parameter dalam jejak percakapan.

Ketersediaan

Agent Anomaly Detection tersedia untuk agen yang memenuhi kriteria berikut. Agen yang memenuhi kriteria akan otomatis dikenali sebagai agen yang dipantau oleh Agent Anomaly Detection (layanan ini mengetahui keberadaan agen, tetapi tidak ada yang dijalankan pada log agen dan tidak ada biaya yang dikenakan). Anda harus secara eksplisit mengaktifkan agen yang dipantau untuk Agent Anomaly Detection agar analisis anomali aktif dapat dijalankan pada log dan jejaknya.

  • Runtime yang kompatibel: Di-deploy di Agent Runtime.
  • Versi ADK: Dibuat menggunakan Agent Development Kit (ADK) untuk Python, versi 1.2 atau yang lebih baru. Sebaiknya gunakan versi 2.1.0 atau yang lebih baru.
  • Bucket logging dan observabilitas: Agent Anomaly Detection saat ini tersedia untuk bucket AS (multi-region) dan Uni Eropa (multi-region) . Bucket logging dan observabilitas harus berada di multi-region yang sama. Bucket logging _Default berada di lokasi global, kecuali jika organisasi Anda mengubah default-nya, dan global hanya berfungsi dengan multi-region AS. Untuk Uni Eropa, gunakan bucket logging di lokasi eu.
  • Pengambilan telemetri: Pelacakan dan logging OpenTelemetry diaktifkan menggunakan ADK.
  • Pengambilan metadata: Telemetri mentah dikonfigurasi untuk mengambil konten input perintah dan output respons.
  • Pelacakan aktif: Flag enable_tracing tidak ditetapkan secara eksplisit ke false dalam konfigurasi ADK.
  • Izin dan akses: Akun layanan pemindai regional memiliki izin pembaca yang memadai atas log aktif dan bucket observabilitas. Bucket log harus mengaktifkan Log Analytics dan Observability Analytics.
  • Alur data aktif: Agen harus memiliki data aktif; sistem tidak dapat memverifikasi konfigurasi atau mendaftarkan agen yang tidak memiliki data telemetri data.

Agen yang tidak memenuhi kriteria ini tidak dapat ditemukan oleh Agent Anomaly Detection dan tidak muncul dalam daftar agen yang dipantau untuk diaktifkan.

Kategori ancaman

Agent Anomaly Detection terus memantau aktivitas agen dan menandai risiko di seluruh kategori utama yang selaras dengan framework keamanan agentic:

  • Penyalahgunaan alat (OWASP ASI02): Mendeteksi saat alat digunakan dengan cara yang tidak aman atau tidak diinginkan, seperti melalui rantai alat yang berbahaya, manipulasi parameter atau injeksi perintah tidak langsung.
  • Penyalahgunaan hak istimewa identitas (OWASP ASI03): Mengidentifikasi tindakan tidak sah yang dihasilkan dari delegasi kepercayaan dinamis, pemalsuan persona, eskalasi memori, atau kerentanan wakil yang bingung.
  • Kegagalan berjenjang agentic (OWASP ASI08): Memantau propagasi kesalahan, loop eksekusi tak terbatas, percobaan ulang yang berosilasi, dan loop umpan balik amplifikasi di seluruh alur kerja agen.
  • Agen tidak sah (OWASP ASI10): Menandai saat agen meninggalkan peran yang dideklarasikan, melewati perlindungan keamanan, atau menyimpang dari petunjuk sistem yang ditetapkan.
  • Kehabisan resource: Mendeteksi konsumsi berlebihan yang disengaja atau tidak terkontrol pada komputasi, token LLM, atau bandwidth jaringan.

Mengaktifkan untuk mencoba Agent Anomaly Detection

Untuk mengaktifkan dan mencoba Agent Anomaly Detection, isi formulir ini: Formulir permintaan akses Agent Anomaly Detection.

Menggunakan Agent Anomaly Detection

Jika Anda sudah mengaktifkan Agent Anomaly Detection, lihat Agent Anomaly Detection untuk mengetahui petunjuk penggunaan.