Menggunakan GKE Gateway sebagai Agent Gateway ingress

Saat menghosting agen AI otonom atau server Model Context Protocol (MCP) di cluster Google Kubernetes Engine (GKE), Anda harus mengamankan koneksi masuk dari klien eksternal, CLI developer, dan layanan lainnya. Karena agen AI menentukan jalur eksekusinya secara dinamis, firewall jaringan Lapisan 4 standar tidak dapat sepenuhnya melindungi agen AI. Dengan menggunakan Gateway API GKE untuk men-deploy Load Balancer Aplikasi regional, Anda dapat mengatur traffic klien-ke-agen (ingress) ini dan menerapkan pagar pembatas keamanan khusus AI sebelum permintaan mencapai workload Anda.

Jika Anda adalah administrator platform atau engineer keamanan yang mengelola jaringan GKE, Anda dapat menggunakan arsitektur ini untuk mengekspos agen yang dikelola sendiri dengan aman.

Mengapa menggunakan Agent Gateway untuk traffic masuk?

Microservice standar mengandalkan dependensi statis yang dapat diprediksi. Namun, agen AI menentukan jalur eksekusinya secara dinamis berdasarkan perintah pengguna. Untuk mengamankan pola interaksi yang tidak dapat diprediksi ini, Anda dapat mengonversi GKE Gateway standar menjadi Agent Gateway untuk mencapai hal berikut:

  • Menerapkan otorisasi gabungan: memvalidasi identitas layanan panggilan dan konteks semantik payload permintaannya di edge jaringan.
  • Memisahkan keamanan dari kode agen: menerapkan kebijakan mutual TLS (mTLS) dan otorisasi yang ketat tanpa mengharuskan developer AI membangun logika keamanan yang kompleks ke dalam aplikasi agen mereka.
  • Membersihkan perintah secara otomatis: menyaring perintah yang masuk untuk mendeteksi serangan injeksi perintah atau konten berbahaya sebelum mencapai mesin penalaran agen.

Cara kerja tata kelola agen ingress di GKE

Untuk mengatur traffic masuk ke agen, Anda menggabungkan resource GKE Gateway API standar dengan kebijakan tata kelola Agent Platform:

  • Gateway GKE: deploy resource Gateway standar (yang dikonfigurasi dengan GatewayClass gke-l7-regional-external-managed atau gke-l7-rilb) untuk menyediakan load balancer HTTP(S) regional sebagai titik entri jaringan Anda.
  • Penargetan Agent Gateway: buat resource kustom GCPAgentGateway yang menargetkan resource Gateway Anda, sehingga mengonversi load balancer menjadi Agent Gateway yang diatur.
  • Kontrol akses dan identitas: menerapkan resource kustom GCPAuthzPolicy untuk menerapkan kontrol akses berbasis identitas Lapisan 7. Anda dapat memverifikasi ID SPIFFE klien yang memanggil dan membatasi akses ke metode MCP atau nama alat tertentu (seperti tools/list atau tools/call).
  • Keamanan konten dan otorisasi kustom: lampirkan resource kustom Service Extension Binding ke GCPAgentGateway Anda untuk merutekan perintah masuk dan respons keluar melalui Cloud de Confiance by S3NS Model Armor untuk memblokir serangan injeksi perintah, atau untuk mendelegasikan keputusan otorisasi ke penyedia identitas (IDP) kustom.

Prasyarat

Sebelum Anda dapat mengonfigurasi Gateway Agen ingress, lingkungan GKE Anda harus memenuhi persyaratan berikut:

  • Versi cluster GKE: cluster Anda harus menjalankan GKE versi 1.37.1-gke.1697000 atau yang lebih baru.
  • Gateway API: Anda harus mengaktifkan GKE Gateway API di cluster Anda.
  • Identitas Agen: Anda harus menetapkan identitas SPIFFE kriptografis ke workload agen Anda agar gateway dapat mengevaluasi kebijakan berbasis identitas. Untuk mempelajari cara menetapkan identitas ini ke Pod Anda, lihat Tentang Identitas Agen untuk GKE.
  • Agent Registry: Anda harus mendaftarkan Deployment agen agar Agent Registry dapat menemukan workload dan menyinkronkan metadatanya. Registry dapat menemukan workload dan menyinkronkan metadatanya. Untuk mendaftarkannya, tambahkan label registry.gke.io/functional-type: "AGENT" ke Deployment Anda.

Langkah berikutnya