Missbrauchsüberwachung

Google-Modelle, die nicht als „Google Frontier Models“ oder „Advanced AI“ gekennzeichnet sind

Wie in Abschnitt 4.3 „Sicherheit und Missbrauch von generativer KI“ der Nutzungsbedingungen für die Google Cloud Platform beschrieben, verwendet Google das folgende Verfahren, um potenziellen Missbrauch und Verstöße gegen die Richtlinien zur zulässigen Verwendung und die Richtlinie zur unzulässigen Nutzung im Rahmen der Bereitstellung von Diensten für generative KI für Kunden zu erkennen.

  • Automatisierte Erkennung: Google verwendet automatisierte Sicherheitsklassifikatoren, um potenziellen Missbrauch und Verstöße zu erkennen.

  • Prompt-Protokollierung und manuelle Überprüfung: Wenn automatisierte Sicherheitsklassifikatoren verdächtige Aktivitäten erkennen, die eine weitere Untersuchung erfordern, um festzustellen, ob ein Kunde gegen unsere Richtlinien verstoßen hat, kann Google Kunden-Prompts ausschließlich zu dem Zweck protokollieren, um zu prüfen, ob ein Verstoß gegen die AUP oder die Richtlinie zur unzulässigen Nutzung vorliegt. Diese Daten werden nicht zum Trainieren oder Optimieren von KI-/ML-Modellen verwendet. Diese Daten werden bis zu 90 Tage lang sicher in derselben Region oder Multiregion gespeichert, die der Kunde für sein Projekt ausgewählt hat. Dabei werden die Zusicherungen von Cloud de Confiance by S3NS eingehalten, z. B. Datenstandort, Access Transparency und VPC Service Controls. Prompt-Logs für die Missbrauchsüberwachung werden nicht mit kundenverwalteten Verschlüsselungsschlüsseln (CMEK) verschlüsselt.

    • Maßnahme: Autorisierte Google-Mitarbeiter können die gemeldeten Prompts prüfen und sich zur Klärung an den Kunden wenden. Wenn das Verhalten nicht behoben wird oder wiederholt oder schwerwiegend missbräuchlich ist, kann der Zugriff des Kunden auf die Gemini Enterprise Agent Platform oder Cloud de Confiance by S3NS-Dienste gesperrt oder gekündigt werden.

    • Abgedeckte Dienste: Dienste auf der Basis von generativer KI von Google.

    • Betroffene Kunden: Nur Kunden, deren Nutzung von Cloud de Confiance by S3NS den Nutzungsbedingungen der Google Cloud Platform unterliegt. Das bedeutet, dass Kunden mit einer Cloud de Confiance by S3NS -Rahmenvereinbarung standardmäßig von der Prompt-Protokollierung für diese Missbrauchsüberwachung ausgenommen sind.

Google Frontier Models

Wie in Abschnitt 34 der dienstspezifischen Nutzungsbedingungen, „Google Frontier-Modelle“, dargelegt, verwendet Google das folgende Verfahren, um potenziellen Missbrauch und Verstöße gegen seine Vereinbarungen, einschließlich der Richtlinien zur zulässigen Verwendung und der Richtlinie zur unzulässigen Nutzung, im Rahmen der Bereitstellung von Diensten mit generativer KI für Kunden zu erkennen.

  • Prompt- und Antwortprotokollierung für die Missbrauchsüberwachung: Google kann Kundenprompts und ‑antworten ausschließlich protokollieren, um die sichere Nutzung der Google Frontier-Modelle und die Einhaltung der Google-Vereinbarung des Kunden zu gewährleisten („Zweck“ gemäß den dienstspezifischen Nutzungsbedingungen). Dazu gehört auch die automatisierte Verarbeitung, um anonymisierte Shingles zu erstellen und Nutzungsmuster ausschließlich für den oben beschriebenen Zweck zu analysieren. Diese Daten werden nicht zum Trainieren oder Optimieren von KI-/ML-Modellen verwendet. Diese Logs werden bis zu 30 Tage lang sicher in der Umgebung des Kunden gespeichert. Prompt-Logs für die Missbrauchsüberwachung werden nicht mit kundenverwalteten Verschlüsselungsschlüsseln (CMEK) verschlüsselt. Kunden werden für dieses Logging keine Kosten in Rechnung gestellt.

  • ZDR-konforme Protokollierung von Missbrauch für Kunden mit Cloud-Rahmenvereinbarungen: Abschnitt 34 „Google Frontier-Modelle“ der dienstspezifischen Nutzungsbedingungen gibt Google nicht das Recht, eine manuelle Überprüfung durchzuführen. Daher entsprechen diese Logs den ZDR-Standards für Kunden mit Cloud-Rahmenvereinbarungen, da sie in der Umgebung des Kunden gespeichert werden und nicht von Menschen überprüft werden.

  • Manuelle Überprüfung von Missbrauchsprotokollen für Kunden, die den Onlinenutzungsbedingungen von Cloud de Confiance by S3NS unterliegen: Wie in Abschnitt 4.3 „Sicherheit und Missbrauch von generativer KI“ der Nutzungsbedingungen für die Google Cloud Platform beschrieben, kann Google zusätzlich eine manuelle Überprüfung von Prompts durchführen, die von unseren Missbrauchsklassifikatoren gekennzeichnet wurden. Dies dient ausschließlich dazu, festzustellen, ob ein Verstoß gegen die Richtlinie zur zulässigen Verwendung oder die Richtlinie zur unzulässigen Nutzung vorliegt. Diese Daten werden nicht zum Trainieren oder Optimieren von KI-/ML-Modellen verwendet. Nur Kunden, deren Nutzung vonCloud de Confiance by S3NS den Nutzungsbedingungen der Google Cloud Platform unterliegt, kommen für eine manuelle Überprüfung infrage. Das bedeutet, dass Kunden mit einer Cloud de Confiance by S3NS -Rahmenvereinbarung standardmäßig von der manuellen Überprüfung für dieses Missbrauchsmonitoring ausgenommen sind.

  • Relevante Modelle: Gemini 4 Argon (Cyber Permissive)

  • Abgedeckte Dienste: Dienste auf der Basis von generativer KI von Google.

Nicht-Google-Modelle mit Advanced AI

Wie im Zusatz zur Sicherheit fortschrittlicher KI-Funktionen beschrieben, hatCloud de Confiance by S3NS ein strengeres System zur Missbrauchsüberwachung für Modelle implementiert, die als „fortschrittliche KI“ eingestuft sind.

  • Prompt- und Antwort-Logging: Alle Prompts und Antworten werden protokolliert und bis zu 30 Tage lang sicher gespeichert, um Missbrauch zu erkennen. Diese Daten werden nicht zum Trainieren oder Optimieren von KI/ML-Modellen verwendet. Diese Daten werden in derselben Region oder Multiregion gespeichert, die der Kunde für sein Projekt ausgewählt hat, und unterliegen den Zusicherungen vonCloud de Confiance by S3NS , z. B. Datenstandort, Access Transparency und VPC Service Controls. Prompt- und Antwortprotokolle für die Missbrauchsüberwachung werden nicht mit kundenverwalteten Verschlüsselungsschlüsseln (CMEK) verschlüsselt. Bei einigen erweiterten KI-Funktionen ist es möglicherweise nicht möglich, die Protokollierung von Prompts und Antworten zu deaktivieren. Wenden Sie sich an Ihr Account-Management-Team, um weitere Informationen zu erhalten.

  • Automatisierte Prüfung: Google setzt automatisierte Prüftools ein, darunter Sicherheitsklassifikatoren, um protokollierte Daten zu analysieren und potenziellen Missbrauch und Verstöße zu erkennen.

  • Maßnahme: Autorisierte Google-Mitarbeiter können die gemeldeten Prompts prüfen und sich zur Klärung an den Kunden wenden. Wenn das Verhalten nicht behoben wird oder wiederholt oder schwerwiegend missbräuchlich ist, kann der Zugriff des Kunden auf die Gemini Enterprise Agent Platform oder Cloud de Confiance by S3NS-Dienste gesperrt oder gekündigt werden.

  • Abgedeckte Dienste: Modelle und Funktionen, die als „Advanced AI“ gekennzeichnet sind, darunter:

    • Claude Mythos (alle Versionen)
    • Claude Fable (alle Versionen)
    • Claude Opus >=4.7 und Sonnet >=5, wenn advanced_ai_enabled auf true festgelegt ist, zur Verwendung im Cyber Verification Program (CVP) von Anthropic. Alle anderen Verwendungen dieser Modelle fallen nicht unter den Zusatz zur Sicherheit fortschrittlicher KI-Funktionen. Informationen zum Registrieren und Aktivieren des CVP für Claude-Modelle finden Sie unter Cyber Verification Program für Claude.

  • Deaktivierung durch den Kunden: Bei der Verwendung einiger erweiterter KI-Funktionen ist es möglicherweise nicht möglich, die Datenaufbewahrung vollständig zu deaktivieren. Bitte wenden Sie sich an Ihr Account-Management-Team, um weitere Informationen zu erhalten. Im folgenden Abschnitt erfahren Sie, wie Sie die Annahme des Zusatzes verwalten.

Die Einwilligung zum Zusatz zur Sicherheit fortschrittlicher KI-Funktionen ist einmal pro Projekt erforderlich, bevor Advanced AI-Modelle in diesem Projekt aktiviert werden können. Die Einwilligung erfolgt in Model Garden über die Cloud de Confiance -Konsole, bevor ein Advanced KI-Modell aktiviert wird.

Zustimmende Nutzer müssen bestätigen, dass sie im Namen ihrer Organisation handeln und die erforderliche Befugnis haben, den Kunden an die Verpflichtungen des Zusatzes zu binden. Um die Einwilligung zu erteilen, muss ein Nutzer die Berechtigung aiplatform.consents.update haben, die in der Rolle aiplatform.admin enthalten ist.

Zusatz zur Sicherheit fortschrittlicher KI-Funktionen verwalten

So können Sie verhindern, dass Ihre Nutzer diesem Zusatz zustimmen:

Partnerspezifische Nutzungsbedingungen

Die Nutzung von Partnermodellen auf der Gemini Enterprise Agent Platform unterliegt den partnerspezifischen Bedingungen.

Anthropic

Die Nutzung von Anthropic-Modellen auf der Gemini Enterprise Agent Platform unterliegt den kommerziellen Nutzungsbedingungen von Anthropic oder einer anderen anwendbaren Vereinbarung mit Anthropic. Die Nutzung von Anthropic Advanced AI unterliegt Abschnitt F der dienstspezifischen Nutzungsbedingungen von Anthropic. Die auf dieser Seite beschriebenen Systeme zur Missbrauchsüberwachung werden verwendet, um die Einhaltung dieser Bedingungen zu gewährleisten.

Datenaufbewahrung

Für Anthropic Claude Fable 5 in Google Cloud und Mythos 5 werden Prompts und Antworten bis zu 30 Tage lang aufbewahrt. Wenn Sie Claude Fable 5 von Anthropic in Google Cloud und Mythos 5 verwenden möchten, müssen Sie wie von Anthropic gefordert die Weitergabe dieser Daten an Anthropic zur Missbrauchsüberwachung aktivieren.

Nächste Schritte