Surveillance des utilisations abusives

Modèles Google non désignés comme "Modèles Google de frontière" ou "IA avancée"

Comme indiqué dans la section 4.3 "Sécurité de l'IA générative et utilisations abusives" des Conditions d'utilisation de Google Cloud Platform, Google utilise le processus suivant pour détecter les utilisations abusives potentielles et les cas de non-respect de son Règlement sur l'utilisation acceptable et de son Règlement sur les utilisations interdites dans le cadre de la fourniture de services d'IA générative aux clients.

  • Détection automatisée : Google utilise des classificateurs de sécurité automatisés pour détecter les utilisations abusives potentielles et les cas de non-respect.

  • Enregistrement des prompts et examen humain : si les classificateurs de sécurité automatisés détectent une activité suspecte qui nécessite une enquête plus approfondie pour déterminer si un client a enfreint nos règles, Google peut enregistrer les prompts du client uniquement dans le but de déterminer si le RUA ou le Règlement sur les utilisations interdites a été enfreint. Ces données ne seront pas utilisées pour entraîner ni affiner des modèles d'IA/de ML. Elles sont stockées de manière sécurisée pendant 90 jours maximum dans la même région ou zone multirégionale que celle sélectionnée par le client pour son projet, et respectent les Cloud de Confiance by S3NS assurances, telles que la résidence des données, Access Transparency et VPC Service Controls. Les clés de chiffrement gérées par le client (CMEK) ne chiffrent pas les journaux de prompts à des fins de surveillance des utilisations abusives.

    • Action : les employés Google autorisés peuvent évaluer les prompts signalés et contacter le client pour obtenir des éclaircissements. Si le comportement n'est pas corrigé , ou en cas d'utilisation abusive répétée ou grave, l'accès du client à Gemini Enterprise Agent Platform ou aux Cloud de Confiance by S3NS services peut être suspendu ou résilié.

    • Services concernés : services d'IA générative de Google.

    • Clients concernés : seuls les clients dont l'utilisation de Cloud de Confiance by S3NS est régie par les Conditions d'utilisation de Google Cloud Platform. Cela signifie que les clients disposant d'un Cloud de Confiance by S3NS Contrat-cadre sont exemptés par défaut de l'enregistrement des prompts pour cette surveillance des utilisations abusives.

Modèles Google Frontier

Comme indiqué dans la section 34 des Conditions spécifiques du service, "Modèles Google Frontier", Google utilise le processus suivant pour détecter les utilisations abusives potentielles et les cas de non-respect de ses contrats, y compris le Règlement sur l'utilisation acceptableet le Règlement sur les utilisations interdites, dans le cadre de la fourniture de services d'IA générative aux clients.

  • Enregistrement des prompts et des réponses pour la surveillance des utilisations abusives : Google peut enregistrer les prompts et les réponses des clients uniquement pour garantir une utilisation sécurisée des modèles Google Frontier et le respect du contrat Google du client (objectif défini dans les Conditions spécifiques du service). Cela inclut le traitement automatisé pour créer des shingles anonymisés et analyser les schémas d'utilisation uniquement aux fins décrites ci-dessus. Ces données ne seront pas utilisées pour entraîner ni affiner des modèles d'IA/de ML. Ces journaux sont stockés de manière sécurisée dans l'environnement du client pendant 30 jours maximum. Les clés de chiffrement gérées par le client (CMEK) ne chiffrent pas les journaux de prompts à des fins de surveillance des utilisations abusives. Les clients ne sont pas facturés pour cet enregistrement.

  • Enregistrement des utilisations abusives conforme à la conservation zéro donnée pour les clients disposant de contrats-cadres Cloud: la section 34 "Modèles Google Frontier" des Conditions spécifiques du service ne donne pas à Google le droit d'effectuer un examen humain. Par conséquent, ces journaux respectent les normes de conservation zéro donnée pour les clients disposant de contrats-cadres Cloud, car ils sont stockés dans l'environnement du client et ne sont pas soumis à un examen humain.

  • Examen humain des journaux d'utilisations abusives pour les clients couverts par des Cloud de Confiance by S3NS conditions en ligne : comme indiqué dans la section 4.3 "Sécurité de l'IA générative et utilisations abusives" des Conditions d'utilisation de Google Cloud Platform, Google peut également effectuer un examen humain des prompts signalés par nos classificateurs d'utilisations abusives, uniquement dans le but de déterminer si le RUA ou le Règlement sur les utilisations interdites a été enfreint. Ces données ne seront pas utilisées pour entraîner ni affiner des modèles d'IA/de ML. Seuls les clients dont l'utilisation de Cloud de Confiance by S3NS est régie par les Conditions d'utilisation de Google Cloud Platform Service sont concernés par l'examen humain. Cela signifie que les clients disposant d'un Cloud de Confiance by S3NS Contrat-cadre sont exemptés par défaut de l'examen humain pour cette surveillance des utilisations abusives.

  • Modèles concernés : Gemini 4 Argon (Cyber Permissive)

  • Services concernés : services d'IA générative de Google.

Modèles d'IA avancée tiers

Comme indiqué dans l'Avenant sur la sécurité de l'IA avancée, Cloud de Confiance by S3NS a mis en place un système de surveillance des utilisations abusives plus rigoureux pour les modèles désignés comme "IA avancée".

  • Enregistrement des prompts et des réponses : tous les prompts et toutes les réponses seront enregistrés et stockés de manière sécurisée pendant 30 jours maximum dans le seul but de surveiller les utilisations abusives. Ces données ne seront pas utilisées pour entraîner ni affiner des modèles d'IA/de ML. Elles sont stockées dans la même région ou zone multirégionale que celle sélectionnée par le client pour son projet, et respectent les Cloud de Confiance by S3NS assurances, telles que la résidence des données, Access Transparency et VPC Service Controls. Les clés de chiffrement gérées par le client (CMEK) ne chiffrent pas les journaux de prompts et de réponses à des fins de surveillance des utilisations abusives. Il peut être impossible de désactiver l'enregistrement des prompts et des réponses lorsque vous utilisez certaines fonctionnalités d'IA avancée. L'équipe chargée de votre compte peut vous apporter des précisions à ce sujet.

  • Enquête automatisée : Google déploie des outils d'enquête automatisés, y compris des classificateurs de sécurité, pour analyser les données enregistrées et détecter les utilisations abusives potentielles et les cas de non-respect.

  • Action : les employés Google autorisés peuvent évaluer les prompts signalés et contacter le client pour obtenir des éclaircissements. Si le comportement n'est pas corrigé, ou en cas d'utilisation abusive récurrente ou grave, l'accès du client à Gemini Enterprise Agent Platform ou aux Cloud de Confiance by S3NSservices peut être suspendu ou résilié.

  • Services concernés : modèles et fonctionnalités désignés comme "IA avancée", y compris :

    • Claude Mythos (toutes les versions)
    • Claude Fable (toutes les versions)
    • Claude Opus >=4.7 et Sonnet >=5 lorsque advanced_ai_enabled est défini sur true pour une utilisation dans le programme de cybervérification (CVP) d'Anthropic. Toute autre utilisation de ces modèles n'est pas couverte par l'Avenant sur la sécurité de l'IA avancée. Pour vous inscrire et activer le CVP pour les modèles Claude, consultez Programme de cybervérification pour Claude.

  • Désactivation par le client : la conservation zéro donnée peut ne pas être possible lorsque vous utilisez certaines fonctionnalités d'IA avancée. L'équipe chargée de votre compte peut vous apporter des précisions à ce sujet. Consultez la section suivante pour savoir comment gérer l'acceptation de l'avenant.

Le consentement à l'Avenant sur la sécurité de l'IA avancée est requis une fois par projet avant que les modèles d'IA avancée puissent être activés dans ce projet. Le consentement est effectué dans Model Garden via la Cloud de Confiance console avant d'activer un modèle d'IA avancée.

Les utilisateurs qui donnent leur consentement doivent reconnaître qu'ils agissent au nom de leur organisation et qu'ils disposent de l'autorité requise pour engager le client à respecter les obligations de l'avenant. Pour donner son consentement, un utilisateur doit disposer de l'autorisation aiplatform.consents.update, qui est incluse dans le rôle aiplatform.admin.

Gérer l'Avenant sur la sécurité de l'IA avancée

Pour empêcher vos utilisateurs de consentir à cet avenant, les administrateurs peuvent :

Conditions spécifiques des partenaires

L'utilisation de modèles partenaires sur Gemini Enterprise Agent Platform est soumise à des conditions spécifiques des partenaires.

Anthropic

L'utilisation de modèles Anthropic sur Gemini Enterprise Agent Platform est régie par les Conditions d'utilisation commerciales d'Anthropic ou par tout autre accord applicable avec Anthropic, l'utilisation de l'IA avancée d'Anthropic étant régie par la section F des Conditions spécifiques du service d'Anthropic. Les systèmes de surveillance des utilisations abusives décrits sur cette page sont utilisés pour garantir le respect de ces conditions.

Conservation des données

Pour Anthropic Claude Fable 5 sur Google Cloud et Mythos 5, les prompts et les réponses sont conservés pendant 30 jours maximum. Pour utiliser Claude Fable 5 sur Google Cloud et Mythos 5, comme l'exige Anthropic, vous devez autoriser le partage de ces données avec Anthropic à des fins de surveillance des utilisations abusives.

Étape suivante