Gemini 等生成式 AI 模型需要強大的安全措施，才能降低生成有害內容、洩漏私密資訊或遭人濫用等風險。Gemini Enterprise Agent Platform 提供一系列工具和做法，協助您為 Gemini 模型全面導入安全防護機制。
潛在安全風險和因應策略
部署 Gemini 模型時，請務必找出並降低各種潛在風險。主動瞭解這些風險，有助於更有效地落實安全措施。多層式安全防護機制至關重要，因為這類機制可以減輕或避免下列情況：
- 內容風險：包括有害、不雅用語、性暗示、暴力血腥內容。
- 品牌安全風險：生成的內容可能與品牌的語氣或價值觀不一致、可能宣傳競爭對手或不當產品，或生成可能導致聲譽受損的內容。
- 對齊風險：生成的內容可能與主題無關或不準確。
- 安全和隱私權風險：生成內容可能會洩漏敏感的訓練資料或提示，或有心人士可能會嘗試強制模型覆寫安全通訊協定，或做出非預期的行為。
我們部署的模型提供多種功能，可解決這些潛在問題：
- 預設模型和無法設定的篩選器可提供一般安全防護網。
- 系統指令 直接引導模型，說明偏好的行為和應避免的主題。
- 內容篩選器 可讓您為常見的危害類型設定特定門檻。
- Gemini 做為篩選器 提供進階的自訂檢查點，可處理複雜或細微的安全疑慮，這些疑慮可能遭到前幾層忽略，或需要更多脈絡感知評估。
- Sensitive Data Protection 專門處理機密資料外洩的重大風險，以防模型存取機密資料。此外，你也可以建立自訂封鎖名單。
- Model Armor 提供企業級防護，可防範提示詞注入和越獄、有害內容、敏感資料暴露和惡意軟體偵測。
- 內容憑證會為使用 Gemini 3 Pro 圖像模型生成的圖片，加入經過加密簽署的 C2PA 中繼資料，標明圖片是由 AI 生成，並提供可驗證的來源記錄。
Agent Platform for Gemini 的可用安全工具
Agent Platform 提供多種工具，可管理 Gemini 模型的安全性。瞭解各項功能如何運作、相關考量事項和理想用途，有助於建構專屬的安全解決方案。
| 做法 | 運作方式 | 提供保護 | 風險 | 使用時機 |
|---|---|---|---|---|
| 預設設定：Gemini + 無法設定的篩選器 | Gemini 模型在設計時就以安全和公平為考量，即使面對對抗性提示詞，Google 投入大量資源進行全面安全評估，包括偏見和惡意內容。預設設定包含獨立的保護層，可防止生成與兒少性虐待內容 (CSAM) 或受著作權保護內容 (朗讀) 相關的內容。 | 針對兒少性虐待內容和著作權的基礎防護 (朗讀) | Gemini 的預設安全等級可能不符合貴機構的需求。模型可能會產生錯覺或未遵循指令。有心人士仍可能成功越獄和提示詞注入 | 不應有惡意輸入內容的工作流程 |
| 可設定的篩選器 |
Gemini 內建的內容篩選器可進一步防範各種有害內容，例如色情、仇恨、騷擾或危險內容。您可以根據有害內容的機率和/或嚴重程度，為每個危害類別 (例如 BLOCK_LOW_AND_ABOVE、BLOCK_MEDIUM_AND_ABOVE、BLOCK_ONLY_HIGH) 設定封鎖門檻。這些是獨立於模型的層級，因此可有效防範越獄攻擊。 |
針對預先定義的類別，可有效防範違規行為，並調整敏感度 | 除了預先定義類別的門檻設定外，無法進行更精細的自訂。 有時可能會封鎖良性內容 (誤判) 或遺漏有害內容 (誤判)。僅適用於回覆篩選，不適用於提示篩選。 | 為面向使用者的應用程式或代理程式提供基本安全防護。如要確保內容和品牌安全，內容篩選器應搭配系統指令使用。 |
| 系統指示 | 您可以透過系統指令或前言，向模型說明品牌和內容安全規範。舉例來說，您可以要求模型「不要回答與政治相關的問題」，或是遵守特定的品牌風格和語氣指南。系統指令會直接引導模型行為。 | 可自訂內容/品牌安全，效果極佳。 | 模型可能會產生錯覺或未遵循指令。有心人士仍可能成功越獄和提示詞注入 | 應用程式或代理程式需要遵守特定品牌宣傳指南或細微的內容政策。如要確保內容和品牌安全，系統指令應搭配內容篩選器使用。 |
| 自訂封鎖清單的 Sensitive Data Protection |
DLP API 可檢查文字，並根據各種預先定義和自訂的 infoType 偵測工具，識別及分類敏感資訊。系統識別出 PII 後，可以套用去識別化技術，例如遮蓋、遮罩或權杖化。您也可以使用 DLP API 封鎖關鍵字。 輸入內容保護：將使用者提示或資料傳送至 Gemini 前，您可以先透過 DLP API 遮蓋或隱藏任何私密資訊。避免模型處理或記錄敏感資料。 輸出內容保護：如果 Gemini 可能會不慎生成或揭露私密資訊 (例如摘要含有 PII 的來源文件)，系統可先使用 DLP API 掃描模型輸出內容，再傳送給使用者。 |
強效過濾不雅字詞或自訂字詞。強大的機密資料篩選功能。 | 增加延遲時間。可能導致過度封鎖。 | 針對可存取機密資料的代理啟用 Sensitive Data Protection。 |
| Model Armor | Model Armor 是一項 Cloud de Confiance by S3NS 服務，旨在提升 AI 應用程式的安全性。這項功能會主動篩選 LLM 提示詞和回覆，防範各種風險，並確保全程採行負責任的 AI 做法。無論您是在 Cloud de Confiance by S3NS 或其他雲端供應商部署 AI，Model Armor 都能協助您防範惡意輸入、驗證內容安全性、保護私密資料、維持法規遵循狀態，以及在 AI 應用程式中持續強制執行 AI 安全政策。 | 提示詞注入和越獄篩選、內容篩選器、敏感資料保護，以及惡意軟體偵測和安全瀏覽。 | 成本和延遲時間。 | 為有企業需求的客戶提供付費服務。 |
| 將 Gemini 做為篩選器 | 您可以透過 Gemini 為代理程式或應用程式篩選提示和回覆。 這需要對快速且經濟實惠的 Gemini 模型 (例如 Gemini Flash 或 Flash-Lite) 進行第二次呼叫， 評估使用者或工具的輸入內容，或是主要 Gemini 模型的輸出內容是否安全。系統會根據您定義的政策 (包括內容安全、品牌安全和代理程式不一致)，指示篩選模型判斷內容是否安全。這項功能提供強大且高度可自訂的防護措施，可防範內容安全違規、品牌安全問題、模型漂移和錯覺，並分析文字、圖片、影片和音訊，全面瞭解情況。 | 高度穩健且可自訂，適用於內容/品牌安全、漂移、幻覺； 多模態理解。 | 額外費用和延遲時間。極罕見的偽陰性結果機率。 | 為面向使用者的應用程式或代理程式提供自訂安全等級。 |
| 綜合方法：可設定的篩選器 + 系統指令 + Sensitive Data Protection + Gemini 做為篩選器 | 結合多層防護措施：使用 Sensitive Data Protection 編輯輸入和輸出資料並進行資料遮蓋、根據品牌和主題規範設定系統指令、針對預先定義的危害設定安全篩選器，以及使用 Gemini 做為篩選器進行二次檢查。 | 高度穩健且可自訂，適用於內容/品牌安全、漂移、幻覺； 多模態理解。 | 額外費用和延遲時間。 | 為面向使用者的應用程式或代理程式提供強大的安全防護，特別是預期會出現對抗性和惡意用途的情況。 |
| C2PA 內容憑證 | 對於支援的模型，Gemini Enterprise Agent Platform 會自動為生成的圖片加上以密碼編譯簽署的內容憑證，指出圖片是 AI 生成，並根據 C2PA 標準提供可驗證的來源記錄。詳情請參閱「內容憑證」。 | 公開內容來源，協助使用者辨識 AI 生成圖片。 | 使用不符規定的工具可能會影響檔案真實性，且無法保證媒體來源的可靠性。 | 媒體生成應用情境，這類情境中，檔案來源和記錄的透明度對於使用者信任度至關重要。 |
持續評估安全性
持續評估 AI 系統的安全性至關重要。AI 領域和濫用手法不斷演進，因此這些評估至關重要。
定期評估有幾項主要優點。有助於找出安全漏洞、評估緩解措施的成效、因應不斷變化的風險、確保符合政策和價值觀、建立信任，以及維持合規狀態。
如要享有這些優點，您可以執行各種評估：
- 開發評估
- 保證評估
- 紅隊演練
- 外部評估
- 基準測試
評估範圍應涵蓋下列幾個重要領域：
- 內容安全
- 品牌安全
- 關聯性
- 偏誤和公平性
- 真實性
- 對抗性攻擊的強健性
Agent Platform 的 Gen AI Evaluation Service 等工具可協助您完成這些工作。請注意，根據評估發現項目反覆改良，是負責任的 AI 技術開發的必要做法。