AI ゾーン

AI ゾーンは、人工知能と機械学習（AI と ML）のトレーニングと推論のワークロードに使用される特殊なゾーンです。ML アクセラレータ（GPU と TPU）の容量を大幅に提供します。

リージョン内では、AI ゾーンは標準（非 AI）ゾーンから地理的に離れた場所に配置されます。次の図は、us-south1 リージョンの標準ゾーンよりも離れた場所にある AI ゾーン（us-south1-ai1b）の例を示しています。

保護者ゾーン

各 AI ゾーンは、リージョンの標準ゾーン（親ゾーン）に関連付けられています。親ゾーンは、AI ゾーンと同じ接尾辞を持つ標準ゾーンです。たとえば、この図では、us-central1-a は us-central1-ai1a の親ゾーンです。ソフトウェア アップデートのスケジュールや、場合によってはインフラストラクチャを共有します。つまり、親ゾーンに影響するソフトウェアやインフラストラクチャの問題は、AI ゾーンにも影響する可能性があります。高可用性ソリューションを設計する際は、高可用性（HA）に関する考慮事項を確認して、親ゾーンへの依存関係を考慮してください。

AI ゾーンを使用する場合

AI ゾーンは AI ワークロードと ML ワークロード向けに最適化されています。次のガイダンスを使用して、AI ゾーンに最適なワークロードと、標準ゾーンに適したワークロードを判断します。

推奨される用途:

• 大規模なトレーニング: 大量のアクセラレータを利用できるため、大規模言語モデル（LLM）や基盤モデルのトレーニングなど、大規模なトレーニング ワークロードに最適です。

• 小規模なトレーニング、ファインチューニング、一括推論、再トレーニング: AI ゾーンは、大量のアクセラレータ容量を必要とするワークロードに適しています。

• リアルタイム ML 推論: AI ゾーンはリアルタイム推論ワークロードをサポートしています。パフォーマンスは、アプリケーション設計とモデル レイテンシ要件によって異なります。特に、ワークロードで親リージョンへのラウンド トリップ リクエストが必要な場合は、パフォーマンスに影響します。

推奨されない用途:

• ML 以外のワークロード: AI ゾーンではすべての Cloud de Confiance by S3NS サービスがローカルで提供されないため、ML 以外のワークロードは標準ゾーンで実行することをおすすめします。

AI ゾーンからサービスにアクセスする

Cloud de Confiance by S3NS リージョンのすべての Cloud de Confiance by S3NS プロダクトには、その AI ゾーンからアクセスできます。ただし、AI ゾーンはリージョンの標準ゾーンのロケーションから物理的に分離されているため、AI ゾーンから Cloud de Confiance by S3NS リージョンのサービスにアクセスすると、ネットワーク レイテンシが発生する可能性があります。

Cloud de Confiance コンソール、Google Cloud CLI、REST API で AI ゾーンを表示するには、プロジェクトの AI ゾーンの可視性を有効にする必要があります。AI ゾーンの可視性は、アクセス制御と組織ポリシー サービスの境界とは異なります。詳しくは、AI ゾーンの公開設定を管理するをご覧ください。

特定の商品では、AI ゾーンでゾーンリソースをローカルに作成またはアクセスできます。これらのサービスの詳細については、次の表をご覧ください。

プロダクト	説明
Google Kubernetes Engine（GKE）	ComputeClass、ノード自動プロビジョニング、GKE Standard ノードプールを使用した構成など、GKE クラスタで AI ゾーンを使用するための設定。 GKE で AI ゾーンを使用する
Cloud Storage	AI ゾーンのワークロードのオブジェクト ストレージの構成。これには、アクティブなジョブのパフォーマンスを最大化するゾーン ストレージと、データセットとモデルのチェックポイント用の永続ストレージが含まれます。 Cloud Storage で AI ゾーンを使用する
Compute Engine	コンソール、Google Cloud CLI、REST API を使用して利用可能な AI ゾーンを特定する方法（命名規則、アクセラレータ タイプ、マシンでフィルタリングする方法など） 利用可能な AI ゾーンを見つける
Google Cloud Managed Lustre	GKE Standard にデプロイされた AI / ML ワークロードのパフォーマンスを最適化する Google Cloud Managed Lustre で AI / ML ワークロードを最適化する

ロケーション

AI ゾーンは次のロケーションで利用できます。

AI ゾーン	AI ゾーンの場所	Cloud de Confiance by S3NS リージョン	Cloud de Confiance by S3NS リージョンのロケーション	親ゾーン
europe-west4-ai1a	デ・クーイ（オランダ、ヨーロッパ）	europe-west4	エームスハーヴェン（オランダ、ヨーロッパ）	europe-west4-a
us-south1-ai1b	オースティン（テキサス州、北米）	us-south1	テキサス州ダラス（北米）	us-south1-b
us-central1-ai1a	ネブラスカ州リンカーン（北米）	us-central1	アイオワ州カウンシル ブラフス（北米）	us-central1-a

AI ゾーンで使用可能な GPU と TPU のタイプを確認するには、以下をご覧ください。

• AI ゾーンで使用可能な GPU のタイプとロケーションを表示する
• AI ゾーンで使用可能な TPU タイプとロケーションを表示する

AI ゾーンへのリソースのデプロイ

AI ゾーンには、 Cloud de Confiance コンソール、Google Cloud CLI、または REST を介してアクセスできます。ただし、 Cloud de Confiance コンソールを使用して VM を作成する場合は、AI ゾーンを手動で選択する必要があります。標準ゾーンのように自動的に選択されることはありません。次の機能で AI ゾーンを使用するには、これらのリソースの設定時に AI ゾーンを明示的に選択する必要があります。

• 特定の Compute Engine 機能: リージョン一括挿入オペレーションやリージョン マネージド インスタンス グループ（MIG）など、特定の Compute Engine リージョン機能では AI ゾーンが自動的に選択されません。

  • 一括挿入: AI ゾーンをリージョン一括挿入オペレーションに含めるには、locationPolicy.zones[] フィールドを使用する必要があります。locations[] フィールドは AI ゾーンをサポートしていません。次の例は、ゾーン us-south1-ai1b の形式を示しています。

    {
      "locationPolicy": {
        "zones": [
          "zones/us-south1-ai1b"
        ]
      }
    }
    

  • リージョン MIG: 選択したリージョンの AI ゾーンにインスタンスを作成するには、他の優先ゾーンとともに、分散ポリシー（distributionPolicy.zones[]）で明示的に指定する必要があります。次の例は、ゾーン us-south1-ai1b の形式を示しています。

    {
      "distributionPolicy": {
        "zones": [
          "zones/us-south1-a",
          "zones/us-south1-b",
          "zones/us-south1-ai1b"
        ]
      }
    }
    

• 特定の GKE 機能: リージョン GKE クラスタなど、特定の GKE リージョン機能では、AI ゾーンは自動的に選択されません。GKE の詳細については、このドキュメントの GKE での AI ゾーンの使用をご覧ください。

• Vertex AI: GKE ベースの Vertex AI リージョン プロダクトでは、リージョン クラスタに AI ゾーンを含めるように GKE を構成する必要があります。Vertex AI を有効にする必要はありません。この構成は Vertex AI によって管理されます。

• Cloud de Confiance by S3NS Service Metadata Locations API: locations.list API を使用する場合は、--extraLocationTypes フラグを有効にして、AI ゾーンが使用を予定しているユーザーにのみ表示されるようにする必要があります。

• 非アクセラレータ ワークロードの制限: Compute Engine は、AI ゾーンでの CPU 専用 VM の作成を制限します。

GKE での AI ゾーンの使用

デフォルトでは、GKE は AI ゾーンにワークロードをデプロイしません。AI ゾーンを使用するには、次のいずれかのオプションを構成します。

• ComputeClass: AI ゾーンでオンデマンド TPU をリクエストする優先度を最高に設定します。ComputeClasses を使用すると、ワークロードのハードウェア構成の優先順位付きリストを定義できます。例については、ComputeClass についてをご覧ください。

• ノード自動プロビジョニング: Pod 仕様で nodeSelector または nodeAffinity を使用して、AI ゾーンにノードプールを作成するようにノード自動プロビジョニングに指示します。ワークロードが AI ゾーンを明示的にターゲットにしていない場合、ノード自動プロビジョニングは新しいノードプールを作成するときに標準ゾーンのみを考慮します。この構成により、AI/ML モデルを実行しないワークロードは、明示的に別の構成を行わない限り、標準ゾーンに残ります。nodeSelector を使用するマニフェストの例については、自動作成されたノードのデフォルト ゾーンを設定するをご覧ください。

• GKE Standard: ノードプールを直接管理する場合は、ノードプールの作成時に --node-locations フラグで AI ゾーンを使用します。例については、GKE Standard に TPU ワークロードをデプロイするをご覧ください。

制限事項

AI ゾーンでは次のものは使用できません。

• リージョン永続ディスク
• Hyperdisk Balanced High Availability

AI ゾーンに関する設計上の考慮事項

AI ゾーンを使用するようにアプリケーションを設計する際は、次の点を考慮してください。

高可用性（HA）に関する考慮事項

AI ゾーンは、ソフトウェア ロールアウトとインフラストラクチャを親ゾーンと共有します。ワークロードの高可用性を確保するには、ゾーンを自動または手動で選択する際に、次のデプロイ パターンを避けてください。

• AI ゾーンとその親ゾーンに HA ワークロードをデプロイしないでください。

• 同じ親ゾーンを共有する 2 つの AI ゾーンに HA ワークロードをデプロイしないでください。

ストレージのベスト プラクティス

費用、耐久性、パフォーマンスのバランスを取るには、階層型ストレージ アーキテクチャをおすすめします。

1. コールド ストレージ レイヤ: 標準ゾーンのリージョン Cloud Storage バケットを使用して、トレーニング データセットとモデル チェックポイントの永続的で耐久性の高いストレージを実現します。

2. パフォーマンス レイヤ: 専用のゾーン ストレージ サービスを使用して、高速キャッシュまたは一時スクラッチ スペースとして機能させます。このアプローチにより、ゾーン間のレイテンシが解消され、アクティブなジョブ中のグッドプットが最大化されます。

   GPU と TPU を常に飽和状態に保ち、グッドプットを最大化するには、コンピューティング リソースと同じ AI ゾーンにパフォーマンス レイヤをプロビジョニングします。

AI ゾーンで AI / ML システムのパフォーマンスを最適化するには、次のストレージ ソリューションをおすすめします。

ストレージ サービス	説明	ユースケース
Cloud Storage の Anywhere Cache 機能	バケットから AI ゾーンに頻繁に読み取られるデータを取り込む、フルマネージド型の SSD ベースのゾーン読み取りキャッシュ。	推奨される用途: 読み取り負荷の高いワークロード 低レイテンシのモデル トレーニングとサービング 推奨されない用途: 完全な POSIX 準拠を必要とするアプリケーション

AI ゾーンを含めるか除外する

ゾーンのリストから AI ゾーンを手動で追加または除外するには、フィルタを使用します。

• AI ゾーンのみを含むようにゾーンのリストをフィルタするには、AI ゾーンを検索するをご覧ください。
• AI ゾーンを除外するようにゾーンのリストをフィルタするには、リストから AI ゾーンを除外するをご覧ください。

次のステップ

• AI ゾーンのリストを表示する
• AI ゾーンでの VM の作成を制限するように組織のポリシーを設定する