Supervisión de abusos

Modelos de Google que no están designados como "Modelos de frontera de Google" o "IA Avanzada"

Como se describe en la Cláusula 4.3 "Seguridad y Abuso de la IA Generativa" de las Condiciones del Servicio de Google Cloud Platform, Google usa el siguiente proceso para detectar posibles abusos e incumplimientos de su Política de Uso Aceptable y Política de Uso Prohibido como parte de la prestación de Servicios de IA Generativa a los clientes.

  • Detección automatizada: Google usa clasificadores de seguridad automatizados para detectar posibles abusos e incumplimientos.

  • Registro de instrucciones y revisión manual: Si los clasificadores de seguridad automatizados detectan actividad sospechosa que requiere una mayor investigación para determinar si un cliente incumplió nuestras políticas, es posible que Google registre las instrucciones del cliente con el único fin de examinar si se produjo un incumplimiento de la AUP o la Política de Uso Prohibido. Estos datos no se usarán para entrenar ni ajustar los modelos de IA/AA. Estos datos se almacenan de forma segura durante un máximo de 90 días en la misma región o multirregión que seleccionó el cliente para su proyecto y cumplen con las Cloud de Confiance by S3NS garantías, como la Residencia de Datos, la Transparencia de Acceso y los Controles del Servicio de VPC. Las claves de encriptación administradas por el cliente (CMEK) no encriptan los registros de instrucciones para la supervisión de abusos.

    • Acción: Los empleados autorizados de Google pueden evaluar las instrucciones marcadas y comunicarse con el cliente para obtener aclaraciones. Si no se aborda el comportamiento, o si se produce un abuso recurrente o grave, es posible que se suspenda o rescinda el acceso del cliente a Gemini Enterprise Agent Platform o a los Cloud de Confiance by S3NS servicios.

    • Servicios incluidos: Servicios de IA Generativa de Google.

    • Clientes incluidos: Solo los clientes cuyo uso de Cloud de Confiance by S3NS esté regido por las Condiciones del Servicio de Google Cloud Platform. Esto significa que los clientes con un Cloud de Confiance by S3NS Acuerdo Principal están exentos del registro de instrucciones para esta supervisión de abusos de forma predeterminada.

Modelos de frontera de Google

Como se describe en la Cláusula 34 de las Condiciones Específicas del Servicio, "Modelos de Frontera de Google", Google usa el siguiente proceso para detectar posibles abusos e incumplimientos de sus acuerdos, incluidas la Política de Uso Aceptable y la Política de Uso Prohibido, como parte de la prestación de Servicios de IA Generativa a los clientes.

  • Registro de instrucciones y respuestas para la supervisión de abusos: Es posible que Google registre las instrucciones y respuestas del cliente únicamente para garantizar el uso seguro de los Modelos de Frontera de Google y el cumplimiento del acuerdo de Google del cliente ("Propósito" establecido en las Condiciones Específicas del Servicio). Esto incluye el procesamiento automatizado para crear fragmentos anonimizados y analizar patrones de uso únicamente para el propósito descrito anteriormente. Estos datos no se usarán para entrenar ni ajustar los modelos de IA/AA. Estos registros se almacenan de forma segura en el entorno del cliente durante un máximo de 30 días. Las claves de encriptación administradas por el cliente (CMEK) no encriptan los registros de instrucciones para la supervisión de abusos. No se les cobra a los clientes por este registro.

  • Registro de abusos alineado con ZDR para clientes con Acuerdos Principales de Cloud: La Cláusula 34 "Modelos de Frontera de Google" de las Condiciones Específicas del Servicio no le otorga a Google el derecho de realizar una revisión manual. En consecuencia, estos registros cumplen con los estándares de ZDR para los clientes con Acuerdos Principales de Cloud, ya que se almacenan en el entorno del cliente y están exentos de la revisión manual.

  • Revisión manual de los registros de abusos para los clientes cubiertos por las Cloud de Confiance by S3NS condiciones en línea: Como se describe en la Cláusula 4.3 "Seguridad y Abuso de la IA Generativa" de las Condiciones del Servicio de Google Cloud Platform, Google también puede realizar una revisión manual de las instrucciones marcadas por nuestros clasificadores de abusos, únicamente para determinar si se produjo un incumplimiento de la AUP o la Política de Uso Prohibido. Estos datos no se usarán para entrenar ni ajustar los modelos de IA/AA. Solo los clientes cuyo uso de Cloud de Confiance by S3NS esté regido por las Condiciones del Servicio de Google Cloud Platform están incluidos en el alcance de la revisión manual. Esto significa que los clientes con un Cloud de Confiance by S3NS Acuerdo Principal están exentos de la revisión manual para esta supervisión de abusos de forma predeterminada.

  • Modelos incluidos: Gemini 4 Argon (Cyber Permissive)

  • Servicios incluidos: Servicios de IA Generativa de Google.

Modelos de IA Avanzada que no son de Google

Como se describe en el Anexo de Seguridad de IA Avanzada, Cloud de Confiance by S3NS implementó un sistema de supervisión de abusos más riguroso para los modelos designados como "IA Avanzada".

  • Registro de instrucciones y respuestas: Todas las instrucciones y respuestas se registrarán y almacenarán de forma segura durante un máximo de 30 días con el único fin de supervisar los abusos. Estos datos no se usarán para entrenar ni ajustar los modelos de IA/AA. Estos datos se almacenan en la misma región o multirregión que seleccionó el cliente para su proyecto y cumplen con Cloud de Confiance by S3NS garantías, como la Residencia de Datos, la Transparencia de Acceso y los Controles del Servicio de VPC. Las claves de encriptación administradas por el cliente (CMEK) no encriptan los registros de instrucciones y respuestas para la supervisión de abusos. Es posible que no se pueda inhabilitar el registro de instrucciones y respuestas cuando se usan algunas funciones de IA Avanzada. Comunícate con tu equipo de cuentas para obtener aclaraciones.

  • Investigación automatizada: Google implementa herramientas de investigación automatizadas, incluidos clasificadores de seguridad, para analizar los datos registrados y detectar posibles abusos e incumplimientos.

  • Acción: Los empleados autorizados de Google pueden evaluar las instrucciones marcadas y comunicarse con el cliente para obtener aclaraciones. Si no se aborda el comportamiento, o si se produce un abuso recurrente o grave, es posible que se suspenda o rescinda el acceso del cliente a Gemini Enterprise Agent Platform o a los Cloud de Confiance by S3NS servicios.

  • Servicios incluidos: Modelos y funciones designados como "IA Avanzada", incluidos los siguientes:

    • Claude Mythos (todas las versiones)
    • Claude Fable (todas las versiones)
    • Claude Opus >=4.7 y Sonnet >=5 cuando advanced_ai_enabled se establece en true para su uso en el Programa de Verificación Cibernética (CVP) de Anthropic. Todo otro uso de estos modelos está fuera del alcance del Anexo de Seguridad de IA Avanzada. Para inscribirte y habilitar el CVP para los modelos de Claude, consulta Programa de Verificación Cibernética para Claude.

  • Inhabilitación del cliente: Es posible que no se pueda retener datos cuando se usan algunas funciones de IA Avanzada. Comunícate con tu equipo de cuentas para obtener aclaraciones. Consulta la siguiente sección para obtener información sobre cómo regir la aceptación del anexo.

Se requiere la aceptación del Anexo de Seguridad de IA Avanzada una vez por proyecto antes de que se puedan habilitar los modelos de IA Avanzada en ese proyecto. La aceptación se realiza en Model Garden a través de la Cloud de Confiance console antes de habilitar cualquier modelo de IA Avanzada.

Los usuarios que aceptan deben reconocer que actúan en nombre de su organización y que poseen la autoridad necesaria para obligar al cliente a cumplir con las obligaciones del anexo. Para aceptar, un usuario debe tener el permiso aiplatform.consents.update, que se incluye en el rol aiplatform.admin.

Cómo regir el Anexo de Seguridad de IA Avanzada

Para evitar que tus usuarios acepten este anexo, los administradores pueden hacer lo siguiente:

Condiciones específicas para socios

El uso de modelos de socios en Gemini Enterprise Agent Platform está sujeto a condiciones específicas para socios.

Anthropic

El uso de los modelos de Anthropic en Gemini Enterprise Agent Platform se rige por las Condiciones del Servicio Comerciales de Anthropic o por otro acuerdo aplicable con Anthropic, y el uso de la IA Avanzada de Anthropic se rige por la Sección F de las Condiciones Específicas del Serviciode Anthropic. Los sistemas de supervisión de abusos que se describen en esta página se usan para garantizar el cumplimiento de estas condiciones.

Retención de datos

En el caso de Anthropic Claude Fable 5 en Google Cloud y Mythos 5, las instrucciones y respuestas se retienen durante un máximo de 30 días. Para usar Claude Fable 5 en Google Cloud y Mythos 5, como lo requiere Anthropic, debes habilitar el uso compartido de estos datos con Anthropic para la supervisión de abusos.

¿Qué sigue?