Zones d'IA

Les zones d'IA sont des zones spécialisées utilisées pour les charges de travail d'entraînement et d'inférence de l'intelligence artificielle et du machine learning (IA et ML). Elles offrent une capacité importante d'accélérateurs de ML (GPU et TPU).

Dans une région, les zones d'IA sont géographiquement éloignées des zones standards (non liées à l'IA). La figure suivante montre un exemple de zone d'IA (us-south1-ai1b) située plus loin par rapport aux zones standards de la région us-south1.

Espace parents

Chaque zone d'IA est associée à une zone standard de la région, appelée zone parente. Une zone parente est une zone standard avec le même suffixe que la zone d'IA. Par exemple, dans le diagramme, us-central1-a est la zone parente de us-central1-ai1a. Ils partagent les plannings de mise à jour logicielle et parfois l'infrastructure. Cela signifie que tout problème logiciel ou d'infrastructure affectant une zone parente peut également affecter la zone d'IA. Lorsque vous concevez vos solutions à haute disponibilité, consultez les points à prendre en compte concernant la haute disponibilité pour tenir compte de la dépendance vis-à-vis de la zone parente.

Quand utiliser les zones d'IA ?

Les zones d'IA sont optimisées pour les charges de travail d'IA et de ML. Suivez les conseils ci-dessous pour déterminer quelles charges de travail sont les mieux adaptées aux zones d'IA et lesquelles sont mieux adaptées aux zones standards.

Recommandé pour :

• Entraînement à grande échelle : idéal pour les charges de travail d'entraînement à grande échelle, telles que l'entraînement de grands modèles de langage (LLM) et l'entraînement de modèles de fondation, en raison de la disponibilité d'un grand nombre d'accélérateurs.

• Entraînement, affinage, inférence par lot et réentraînement à petite échelle : les zones d'IA sont performantes pour les charges de travail nécessitant une capacité d'accélérateur importante.

• Inférence ML en temps réel : les zones d'IA sont compatibles avec les charges de travail d'inférence en temps réel. Les performances dépendent de la conception de l'application et des exigences de latence du modèle, en particulier si la charge de travail nécessite des requêtes aller-retour vers la région parente.

Il n'est pas recommandé pour :

• Charges de travail non liées au ML : comme les zones d'IA n'offrent pas tous les services Cloud de Confiance by S3NS localement, nous vous recommandons d'exécuter vos charges de travail non liées au ML dans les zones standards.

Accéder aux services depuis une zone d'IA

Vous pouvez accéder à tous les produits Cloud de Confiance by S3NS d'une région Cloud de Confiance by S3NS depuis sa zone d'IA. Toutefois, l'accès aux services d'une région Cloud de Confiance by S3NS à partir d'une zone d'IA peut ajouter de la latence réseau, car la zone d'IA est physiquement distincte des emplacements des zones standards de la région.

Pour afficher les zones d'IA dans la console Cloud de Confiance , la Google Cloud CLI et l'API REST, vous devez activer la visibilité des zones d'IA pour votre projet. La visibilité des zones d'IA est distincte des limites du contrôle des accès et du service de règles de l'organisation. Pour en savoir plus, consultez Gérer la visibilité des zones d'IA.

Certains produits permettent de créer des ressources zonales ou d'y accéder localement dans une zone d'IA. Pour en savoir plus sur ces services, consultez le tableau suivant :

Emplacements

Les zones d'IA sont disponibles dans les pays suivants :

Pour savoir quels types de GPU et de TPU sont disponibles dans les zones d'IA, consultez les ressources suivantes :

• Afficher les types et les emplacements de GPU disponibles dans les zones d'IA
• Afficher les types et les emplacements de TPU disponibles dans les zones d'IA

Déployer des ressources dans des zones d'IA

Les zones d'IA sont accessibles via la console Cloud de Confiance , Google Cloud CLI ou REST. Toutefois, lorsque vous utilisez la console Cloud de Confiance pour créer vos VM, vous devez sélectionner manuellement une zone d'IA. Contrairement aux zones standards, elle n'est pas sélectionnée pour vous. Pour utiliser des zones d'IA avec les fonctionnalités suivantes, vous devez sélectionner explicitement une zone d'IA lorsque vous configurez ces ressources.

• Certaines fonctionnalités de Compute Engine : les zones d'IA ne sont pas sélectionnées automatiquement dans certaines fonctionnalités régionales de Compute Engine, telles que les opérations d'insertion groupée régionale ou les groupes d'instances gérés (MIG) régionaux.

  • Insertion groupée : pour inclure des zones d'IA dans les opérations d'insertion groupée régionales, vous devez utiliser le champ locationPolicy.zones[]. Le champ locations[] n'est pas compatible avec les zones d'IA. L'exemple suivant montre ce format pour la zone us-south1-ai1b :

    {
      "locationPolicy": {
        "zones": [
          "zones/us-south1-ai1b"
        ]
      }
    }
    

  • MIG régionaux : pour créer des instances dans une zone d'IA de la région sélectionnée, vous devez l'indiquer explicitement dans la stratégie de distribution (distributionPolicy.zones[]) avec les autres zones préférées. L'exemple suivant montre ce format pour le us-south1-ai1b de la zone :

    {
      "distributionPolicy": {
        "zones": [
          "zones/us-south1-a",
          "zones/us-south1-b",
          "zones/us-south1-ai1b"
        ]
      }
    }
    

• Certaines fonctionnalités de GKE : les zones d'IA ne sont pas sélectionnées automatiquement dans certaines fonctionnalités régionales de GKE, comme les clusters GKE régionaux. Pour en savoir plus sur GKE, consultez Utiliser des zones d'IA dans GKE dans ce document.

• Vertex AI : les produits Vertex AI régionaux basés sur GKE doivent configurer GKE pour inclure des zones d'IA dans les clusters régionaux. Vous n'avez pas besoin d'activer Vertex AI. Vertex AI gère cette configuration.

• Cloud de Confiance by S3NS API Service Metadata Locations : vous devez activer le flag --extraLocationTypes lorsque vous utilisez l'API locations.list pour vous assurer que les zones d'IA n'apparaissent qu'aux utilisateurs qui ont l'intention de les utiliser.

• Restrictions concernant les charges de travail sans accélérateur : Compute Engine limite la création de VM utilisant uniquement le processeur dans les zones d'IA.

Utiliser des zones d'IA dans GKE

Par défaut, GKE ne déploie pas vos charges de travail dans les zones d'IA. Pour utiliser une zone d'IA, vous devez configurer l'une des options suivantes :

• ComputeClasses : définissez la priorité la plus élevée pour demander des TPU à la demande dans une zone d'IA. Les classes de calcul vous aident à définir une liste hiérarchisée de configurations matérielles pour vos charges de travail. Pour obtenir un exemple, consultez À propos de ComputeClasses.

• Provisionnement automatique des nœuds : utilisez un nodeSelector ou un nodeAffinity dans la spécification de votre pod pour demander au provisionnement automatique des nœuds de créer un pool de nœuds dans la zone d'IA. Si votre charge de travail ne cible pas explicitement une zone d'IA, le provisionnement automatique des nœuds ne prend en compte que les zones standards lors de la création de pools de nœuds. Cette configuration garantit que les charges de travail qui n'exécutent pas de modèles d'IA/ML restent dans les zones standards, sauf si vous configurez explicitement le contraire. Pour obtenir un exemple de fichier manifeste qui utilise un nodeSelector, consultez Définir les zones par défaut pour les nœuds créés automatiquement.

• GKE Standard : si vous gérez directement vos pools de nœuds, utilisez une zone d'IA dans l'indicateur --node-locations lorsque vous créez un pool de nœuds. Pour obtenir un exemple, consultez Déployer des charges de travail TPU dans GKE Standard.

Limites

Les éléments suivants ne sont pas disponibles dans les zones d'IA :

• Disques persistants régionaux
• Hyperdisk Balanced High Availability

Considérations de conception avec les zones d'IA

Tenez compte des points suivants lorsque vous concevez vos applications pour utiliser des zones d'IA.

Points à prendre en compte concernant la haute disponibilité (HA)

Les zones d'IA partagent les déploiements de logiciels et l'infrastructure avec leurs zones parentes. Pour assurer une haute disponibilité à vos charges de travail, évitez ces schémas de déploiement lorsque vous sélectionnez des zones, que ce soit automatiquement ou manuellement :

• Évitez de déployer des charges de travail à haute disponibilité dans une zone d'IA et sa zone parente.

• Évitez de déployer des charges de travail HA sur deux zones d'IA qui partagent la même zone parente.

Bonnes pratiques de stockage

Nous vous recommandons d'utiliser une architecture de stockage par niveaux pour équilibrer les coûts, la durabilité et les performances :

1. Couche de stockage à froid : utilisez des buckets Cloud Storage régionaux dans des zones standards pour stocker de manière persistante et très durable vos ensembles de données d'entraînement et vos points de contrôle de modèle.

2. Couche de performances : utilisez des services de stockage zonal spécialisés pour servir de cache haute vitesse ou d'espace de travail temporaire. Cette approche élimine la latence entre les zones et maximise le débit utile pendant les jobs actifs.

   Pour vous assurer que les GPU et les TPU restent entièrement saturés et maximisent le débit utile, provisionnez votre couche de performances dans la même zone d'IA que vos ressources de calcul.

Les solutions de stockage suivantes sont recommandées pour optimiser les performances des systèmes d'IA et de ML avec les zones d'IA :

Inclure ou exclure des zones d'IA

Pour inclure ou exclure manuellement des zones d'IA d'une liste de zones, utilisez un filtre :

• Pour filtrer une liste de zones afin d'inclure uniquement les zones d'IA, consultez Rechercher des zones d'IA.
• Pour filtrer une liste de zones afin d'exclure les zones d'IA, consultez Exclure les zones d'IA des listes.

Étapes suivantes

• Afficher la liste des zones d'IA
• Configurer une règle d'administration pour limiter la création de VM dans les zones d'IA