Missbrauchsüberwachung

Google-Modelle, die nicht als „Google Frontier Models“ oder „Advanced AI“ bezeichnet werden

Wie in Abschnitt 4.3 „Sicherheit und Missbrauch von generativer KI“ der Nutzungsbedingungen der Google Cloud Platform beschrieben, verwendet Google den folgenden Prozess, um potenziellen Missbrauch und Verstöße gegen die Richtlinie zur zulässigen Nutzung und die Richtlinie zur unzulässigen Nutzung zu erkennen, wenn Kunden Dienste auf der Basis von generativer KI bereitgestellt werden.

  • Automatisierte Erkennung: Google verwendet automatisierte Sicherheitsklassifizierer, um potenziellen Missbrauch und Verstöße zu erkennen.

  • Prompt-Protokollierung und manuelle Überprüfung: Wenn automatisierte Sicherheitsklassifizierer verdächtige Aktivitäten erkennen, die eine weitere Untersuchung erfordern, um festzustellen, ob ein Kunde gegen unsere Richtlinien verstoßen hat, kann Google Kunden-Prompts protokollieren. Dies gilt ausschließlich zum Zweck der Überprüfung, ob ein Verstoß gegen die Richtlinie zur zulässigen Nutzung oder die Richtlinie zur unzulässigen Nutzung vorliegt. Diese Daten werden nicht zum Trainieren oder Optimieren von KI-/ML-Modellen verwendet. Diese Daten werden bis zu 90 Tage lang sicher in derselben Region oder Multiregion gespeichert, die der Kunde für sein Projekt ausgewählt hat. Dabei werden Zusicherungen wie Datenstandort, Access Transparency und VPC Service Controls eingehalten. Cloud de Confiance by S3NS Prompt-Logs für die Missbrauchsüberwachung werden nicht mit kundenverwalteten Verschlüsselungsschlüsseln (CMEK) verschlüsselt.

    • Maßnahmen: Autorisierte Google-Mitarbeiter können die gekennzeichneten Prompts bewerten und sich zur Klärung an den Kunden wenden. Wenn das Verhalten nicht korrigiert wird oder es zu wiederholtem oder schwerwiegendem Missbrauch kommt, kann der Zugriff des Kunden auf die Gemini Enterprise Agent Platform oder auf Cloud de Confiance by S3NS Dienste gesperrt oder beendet werden.

    • Betroffene Dienste: Dienste auf der Basis von generativer KI von Google.

    • Betroffene Kunden: Nur Kunden, deren Nutzung von Cloud de Confiance by S3NS den Nutzungsbedingungen der Google Cloud Platform unterliegt. Das bedeutet, dass Kunden mit einer Cloud de Confiance by S3NS Rahmenvereinbarung standardmäßig von der Prompt-Protokollierung für diese Missbrauchsüberwachung ausgenommen sind.

Google Frontier Models

Wie in Abschnitt 34 der dienstspezifischen Nutzungsbedingungen „Google Frontier Models“ beschrieben, verwendet Google den folgenden Prozess, um potenziellen Missbrauch und Verstöße gegen seine Vereinbarungen, einschließlich der Richtlinie zur zulässigen Nutzung und der Richtlinie zur unzulässigen Nutzung, zu erkennen, wenn Kunden Dienste auf der Basis von generativer KI bereitgestellt werden.

  • Prompt- und Antwortprotokollierung für die Missbrauchsüberwachung: Google kann Kunden-Prompts und -Antworten protokollieren, um die sichere Nutzung der Google Frontier Models und die Einhaltung der Google-Vereinbarung des Kunden zu gewährleisten (Zweck gemäß den dienstspezifischen Nutzungsbedingungen). Dazu gehört die automatisierte Verarbeitung, um anonymisierte Shingles zu erstellen und Nutzungsmuster ausschließlich für den oben beschriebenen Zweck zu analysieren. Diese Daten werden nicht zum Trainieren oder Optimieren von KI-/ML-Modellen verwendet. Diese Logs werden bis zu 30 Tage lang sicher in der Umgebung des Kunden gespeichert. Prompt-Logs für die Missbrauchsüberwachung werden nicht mit kundenverwalteten Verschlüsselungsschlüsseln (CMEK) verschlüsselt. Kunden werden diese Protokollierung nicht in Rechnung gestellt.

  • Missbrauchsprotokollierung gemäß ZDR für Kunden mit Cloud-Rahmenvereinbarungen: Abschnitt 34 „Google Frontier Models“ der dienstspezifischen Nutzungsbedingungen gibt Google nicht das Recht, eine manuelle Überprüfung durchzuführen. Folglich entsprechen diese Logs den ZDR-Standards für Kunden mit Cloud-Rahmenvereinbarungen, da sie in der Umgebung des Kunden gespeichert werden und von der manuellen Überprüfung ausgenommen sind.

  • Manuelle Überprüfung von Missbrauchsprotokollen für Kunden mit Cloud de Confiance by S3NS Online- Nutzungsbedingungen: Wie in Abschnitt 4.3 „Sicherheit und Missbrauch von generativer KI“ der Nutzungsbedingungen der Google Cloud Platform beschrieben, kann Google zusätzlich eine manuelle Überprüfung von Prompts durchführen, die von unseren Missbrauchsklassifizierern gekennzeichnet wurden. Dies gilt ausschließlich zum Zweck der Feststellung, ob ein Verstoß gegen die Richtlinie zur zulässigen Nutzung oder die Richtlinie zur unzulässigen Nutzung vorliegt. Diese Daten werden nicht zum Trainieren oder Optimieren von KI-/ML-Modellen verwendet. Nur Kunden, deren Nutzung von Cloud de Confiance by S3NS den Nutzungsbedingungen der Google Cloud Platform unterliegt, sind für die manuelle Überprüfung relevant. Das bedeutet, dass Kunden mit einer Cloud de Confiance by S3NS Rahmenvereinbarung standardmäßig von der manuellen Überprüfung für diese Missbrauchsüberwachung ausgenommen sind.

  • Betroffene Modelle: Gemini 4 Argon (Cyber Permissive)

  • Betroffene Dienste: Dienste auf der Basis von generativer KI von Google.

Nicht von Google stammende Advanced KI-Modelle

Wie im Zusatz zur Sicherheit fortschrittlicher KI-Funktionen, Cloud de Confiance by S3NS hat ein strengeres System zur Missbrauchsüberwachung für Modelle eingeführt, die als „Advanced AI“ bezeichnet werden.

  • Prompt- und Antwortprotokollierung: Alle Prompts und Antworten werden protokolliert und bis zu 30 Tage lang sicher gespeichert. Dies gilt ausschließlich zum Zweck der Missbrauchsüberwachung . Diese Daten werden nicht zum Trainieren oder Optimieren von KI-/ML-Modellen verwendet. Diese Daten werden in derselben Region oder Multiregion gespeichert, die der Kunde für sein Projekt ausgewählt hat. Dabei werden Cloud de Confiance by S3NS Zusicherungen wie Datenstandort, Access Transparency und VPC Service Controls eingehalten. Prompt- und Antwortprotokolle für die Missbrauchsüberwachung werden nicht mit kundenverwalteten Verschlüsselungsschlüsseln (CMEK) verschlüsselt. Bei der Verwendung einiger Advanced KI-Funktionen ist es möglicherweise nicht möglich, die Prompt-Antwort-Protokollierung zu deaktivieren. Wenden Sie sich zur Klärung an Ihr Account-Management-Team.

  • Automatisierte Untersuchung: Google setzt automatisierte Untersuchungstools ein, einschließlich Sicherheitsklassifizierer, um protokollierte Daten zu analysieren und potenziellen Missbrauch und Verstöße zu erkennen.

  • Maßnahmen: Autorisierte Google-Mitarbeiter können die gekennzeichneten Prompts bewerten und sich zur Klärung an den Kunden wenden. Wenn das Verhalten nicht korrigiert wird oder es zu wiederkehrendem oder schwerwiegendem Missbrauch kommt, kann der Zugriff des Kunden auf die Gemini Enterprise Agent Platform oder Cloud de Confiance by S3NS auf Dienste gesperrt oder beendet werden.

  • Betroffene Dienste: Modelle und Funktionen, die als „Advanced AI“ bezeichnet werden, einschließlich:

    • Claude Mythos (alle Versionen)
    • Claude Fable (alle Versionen)
    • Claude Opus >=4.7 und Sonnet >=5, wenn advanced_ai_enabled auf true für die Verwendung im Cyber Verification Program (CVP) von Anthropic gesetzt ist. Jede andere Verwendung dieser Modelle fällt nicht unter den Zusatz zur Sicherheit fortschrittlicher KI-Funktionen. Informationen zur Registrierung und Aktivierung von CVP für Claude-Modelle finden Sie unter Cyber Verification Program für Claude.

  • Deaktivierung durch den Kunden: Bei der Verwendung einiger Advanced KI-Funktionen ist es möglicherweise nicht möglich, die Datenaufbewahrung zu deaktivieren. Wenden Sie sich zur Klärung an Ihr Account-Management-Team. Im folgenden Abschnitt erfahren Sie, wie Sie die Annahme des Zusatzes regeln.

Die Zustimmung zum Zusatz zur Sicherheit fortschrittlicher KI-Funktionen ist einmal pro Projekt erforderlich, bevor Advanced AI-Modelle in diesem Projekt aktiviert werden können. Die Zustimmung erfolgt in Model Garden über die Cloud de Confiance Console, bevor ein Advanced KI-Modell aktiviert wird.

Zustimmende Nutzer müssen bestätigen, dass sie im Namen ihrer Organisation handeln und die erforderliche Befugnis haben, den Kunden an die Verpflichtungen des Zusatzes zu binden. Um zuzustimmen, muss ein Nutzer die Berechtigung aiplatform.consents.update haben, die in der Rolle aiplatform.admin enthalten ist.

Zusatz zur Sicherheit fortschrittlicher KI-Funktionen regeln

So verhindern Sie, dass Ihre Nutzer diesem Zusatz zustimmen:

Partnerspezifische Nutzungsbedingungen

Die Verwendung von Partnermodellen auf der Gemini Enterprise Agent Platform unterliegt partnerspezifischen Nutzungsbedingungen.

Anthropic

Die Verwendung von Anthropic-Modellen auf der Gemini Enterprise Agent Platform unterliegt den kommerziellen Nutzungsbedingungen von Anthropic oder einer anderen anwendbaren Vereinbarung mit Anthropic. Die Verwendung von Advanced AI von Anthropic unterliegt Abschnitt F der dienstspezifischen Nutzungsbedingungenvon Anthropic. Die auf dieser Seite beschriebenen Systeme zur Missbrauchsüberwachung werden verwendet, um die Einhaltung dieser Nutzungsbedingungen zu gewährleisten.

Datenaufbewahrung

Bei Anthropic Claude Fable 5 in Google Cloud und Mythos 5 werden Prompts und Antworten bis zu 30 Tage lang aufbewahrt. Wenn Sie Claude Fable 5 in Google Cloud und Mythos 5 verwenden möchten, müssen Sie gemäß den Anforderungen von Anthropic die Freigabe dieser Daten für die Missbrauchsüberwachung durch Anthropic aktivieren.

Nächste Schritte