악용 모니터링

'Google 프런티어 모델' 또는 '고급 AI'로 지정되지 않은 Google 모델

Google Cloud Platform 서비스 약관의 4.3 '생성형 AI 안전 및 악용' 섹션에 설명된 대로 Google은 다음 프로세스를 통해 고객에게 생성형 AI 서비스를 제공하는 과정에서 서비스이용 정책 및 금지된 사용 정책의 잠재적 악용 및 위반을 감지합니다.

  • 자동 감지: Google은 자동화된 안전 분류기를 사용하여 잠재적인 악용과 위반을 감지합니다.

  • 프롬프트 로깅 및 인적 검토: 자동 안전 분류기에서 고객이 Google 정책을 위반했는지 여부를 추가 조사해야 하는 의심스러운 활동을 감지하면 Google은 AUP 또는 금지된 사용 정책 위반 발생 여부를 검사하기 위한 목적으로만 고객 프롬프트를 로깅할 수 있습니다. 이 데이터는 AI/ML 모델을 학습하거나 미세 조정하는 데 사용되지 않습니다. 이 데이터는 고객이 프로젝트에 선택한 리전과 동일한 리전이나 멀티 리전에 최대 90일 동안 안전하게 저장되며 데이터 레지던시, 액세스 투명성, VPC 서비스 제어와 같은 Cloud de Confiance by S3NS 보증을 준수합니다. 악용 모니터링을 위한 프롬프트 로그는 고객 관리 암호화 키 (CMEK)로 암호화되지 않습니다.

    • 조치: 승인된 Google 직원이 신고된 프롬프트를 평가하고 명확하게 하기 위해 고객에게 연락할 수 있습니다. 이러한 행위 또는 반복적이거나 심각한 악용을 해결하지 못하면 Gemini Enterprise Agent Platform 또는 Cloud de Confiance by S3NS 서비스에 대한 고객 액세스가 정지되거나 해지될 수 있습니다.

    • 지원 범위 내 서비스: Google의 생성형 AI 서비스.

    • 지원 범위 내 고객: 사용이 Cloud de Confiance by S3NS Google Cloud Platform 서비스 약관에 의거하는 고객만 포함됩니다. 즉, 마스터 계약 Cloud de Confiance by S3NS 을 체결한 고객은 기본적으로 이 악용 모니터링 을 위한 프롬프트 로깅에서 제외됩니다.

Google 프런티어 모델

서비스별 약관의 34항 'Google 프런티어 모델'에 설명된 대로 Google은 다음 프로세스를 통해 고객에게 생성형 AI 서비스를 제공하는 과정에서 서비스이용 정책 및 금지된 사용 정책을 비롯한 계약의 잠재적 악용 및 위반을 감지합니다.

Google 외 고급 AI 모델

고급 AI 안전 부록에 설명된 대로 '고급 AI'로 지정된 모델에 대해 더 엄격한 악용 모니터링 시스템을 구현했습니다.Cloud de Confiance by S3NS

  • 프롬프트 및 응답 로깅: 모든 프롬프트와 응답은 악용 모니터링을 위한 목적으로만 로깅되고 최대 30일 동안 안전하게 저장됩니다. 이 데이터는 AI/ML 모델을 학습하거나 미세 조정하는 데 사용되지 않습니다. 이 데이터는 고객이 프로젝트에 선택한 리전과 동일한 리전이나 멀티 리전에 저장되며 Cloud de Confiance by S3NS 데이터 레지던시, 액세스 투명성, VPC 서비스 제어와 같은 보증을 준수합니다. 악용 모니터링을 위한 프롬프트 및 응답 로그는 고객 관리 암호화 키 (CMEK)로 암호화되지 않습니다. 일부 고급 AI 기능을 사용할 때는 프롬프트-응답 로깅을 선택 해제하지 못할 수도 있습니다. 자세한 내용은 계정팀에 문의하세요.

  • 자동 조사: Google은 안전 분류기를 비롯한 자동 조사 도구를 배포하여 로깅된 데이터를 분석하고 잠재적인 악용과 위반을 감지합니다.

  • 조치: 승인된 Google 직원이 신고된 프롬프트를 평가하고 명확하게 하기 위해 고객에게 연락할 수 있습니다. 이러한 행위 또는 반복적이거나 심각한 악용을 해결하지 못하면 Gemini Enterprise Agent Platform 또는 Cloud de Confiance by S3NS 서비스에 대한 고객 액세스가 정지되거나 해지될 수 있습니다.

  • 지원 범위 내 서비스: "고급 AI"로 지정된 모델 및 기능, 다음 항목 포함:

    • Claude Mythos (모든 버전)
    • Claude Fable (모든 버전)
    • Anthropic의 사이버 인증 프로그램 (CVP) 내에서 사용하기 위해 advanced_ai_enabled가 true로 설정된 경우 Claude Opus >=4.7 및 Sonnet >=5 이러한 모델의 다른 모든 사용은 고급 AI 안전 부록의 범위에서 벗어납니다. Claude 모델의 CVP를 등록하고 사용 설정하려면 Claude용 사이버 인증 프로그램을 참고하세요.

  • 고객 선택 해제: 일부 고급 AI 기능을 사용할 때는 데이터 보관 기간을 0으로 설정하지 못할 수도 있습니다. 자세한 내용은 계정팀에 문의하세요. 부록 동의를 관리하는 방법은 다음 섹션을 참고하세요.

고급 AI 모델을 해당 프로젝트에서 사용 설정하려면 프로젝트당 한 번 고급 AI 안전 부록에 동의해야 합니다. 동의는 고급 AI 모델을 사용 설정하기 전에 콘솔을 Cloud de Confiance 통해 Model Garden에서 수행됩니다.

동의하는 사용자는 조직을 대리하여 행동하고 있으며 고객을 부록의 의무에 구속할 수 있는 필요한 권한을 보유하고 있음을 인정해야 합니다. 동의하려면 사용자에게 aiplatform.admin 역할에 포함된 aiplatform.consents.update 권한이 있어야 합니다.

고급 AI 안전 부록 관리

사용자가 이 부록에 동의하지 못하도록 관리자는 다음 작업을 할 수 있습니다.

파트너별 약관

Gemini Enterprise Agent Platform에서 파트너 모델을 사용하는 경우 파트너별 약관이 적용됩니다.

Anthropic

Gemini Enterprise Agent Platform에서 Anthropic 모델을 사용하는 경우 Anthropic의 상업용 서비스 약관 또는 Anthropic과의 기타 관련 계약이 적용되며, Anthropic 고급 AI를 사용하는 경우 Anthropic의 서비스별 약관 F항이 적용됩니다. 이 페이지에 설명된 악용 모니터링 시스템은 이러한 약관을 준수하는 데 사용됩니다.

데이터 보관

Google Cloud의 Anthropic Claude Fable 5 및 Mythos 5의 경우 프롬프트와 응답이 최대 30일 동안 보관됩니다. Anthropic의 요구사항에 따라 Google Cloud의 Claude Fable 5 및 Mythos 5를 사용하려면 악용 모니터링을 위해 이 데이터를 Anthropic과 공유하도록 사용 설정해야 합니다.

다음 단계