網路

如要使用 Gemini Enterprise Agent Platform 訓練叢集,請與業務代表聯絡以取得存取權。

Gemini Enterprise Agent Platform 訓練叢集是受管理的 Cloud de Confiance by S3NS 服務,會以Compute Engine 執行個體 的形式在虛擬私有雲中佈建。這個部署模型可讓服務安全地連線至虛擬私有雲中的其他工作負載、Google 管理的服務或多雲端網路。

網路 MTU 需求

如要為訓練基礎架構達到最佳網路效能,您必須設定虛擬私有雲網路的最大傳輸單位 (MTU)。

建議的 MTU 值取決於叢集中的 GPU 機型:

  • A3 Ultra 和 A4 節點:使用 8896 的 MTU。
  • A3 Mega 節點:使用 8244 的 MTU。

您可以建立新的 VPC,或使用現有 VPC。

在新虛擬私有雲中部署訓練叢集 (建議)

建議您將訓練叢集部署到預先設定的新虛擬私有雲網路。這樣可確保系統自動套用正確的 MTU 設定,避免影響現有工作負載。

如要在新的 VPC 中部署訓練叢集,主要有兩個步驟:

  1. 建立虛擬私有雲網路:建立新的虛擬私有雲網路。如要啟用巨型封包,請將 MTU 設為 8896。

  2. 部署叢集:將訓練叢集部署至這個新設定的網路。

按照這個順序,叢集的 VM 執行個體在首次啟動時,會自動沿用正確的 MTU 設定。

建立及設定新的 VPC

  1. 建立虛擬私有雲網路。如要啟用巨型封包,請將 NETWORK_MTU 設為 8896。
        # create VPC network
        gcloud compute networks create NETWORK \
          --project=PROJECT_ID \
          --subnet-mode=custom \
          --mtu=NETWORK_MTU
        
  2. 建立用於部署訓練叢集的子網路,並根據環境需求更新範圍。在本範例中,子網路 192.168.0.0/19 用於訓練叢集部署作業。
        # create VPC subnet
        gcloud compute networks subnets create SUBNETWORK \
          --project=PROJECT_ID \
          --network=NETWORK \
          --region=REGION \
          --enable-private-ip-google-access \
          --range=192.168.0.0/19
        
  3. 建立 IAP 防火牆規則,允許與訓練叢集建立 SSH 連線。
        gcloud compute firewall-rules create allow-ssh-ingress-from-iap \
        --direction=INGRESS   --action=allow   --rules=tcp:22 \
        --source-ranges=35.235.240.0/20 --network NETWORK
        
  4. 建立輸入防火牆規則,允許所有通訊埠和通訊協定連至訓練叢集子網路。
       gcloud compute --project=PROJECT_ID firewall-rules create allow-internal \
       --direction=INGRESS --priority=1000 --network=NETWORK \
       --action=ALLOW --rules=tcp:1-65535,udp:1-65535,icmp \
       --source-ranges=192.168.0.0/19 --enable-logging
       

在現有 VPC 中部署訓練叢集

如果將訓練叢集部署到現有網路 (含 Cloud Storage 執行個體),強烈建議使用巨型封包 (MTU 8896),確保效能達到最佳狀態。開始前,請先確認現有 VM 上的作業系統和應用程式是否支援這項變更。

如要實作巨型封包,必須更新 VPC 的 MTU,且必須在預先規劃的維護期間進行,以免網路不穩定。

唯一安全的方法是先停止該網路中所有正在執行的 VM 執行個體。如果 VM 處於啟用狀態時變更 MTU,會導致設定不符,連線也不穩定。

停止所有 VM 後,請按照下列步驟操作:

  1. 將網路的 MTU 變更為所選設定 (例如 8896)。
  2. 網路更新完成後,請重新啟動所有 VM。
  3. 手動更新非 Linux VM。請注意,重新啟動不足以解決所有作業系統的問題。從公開 Linux 映像檔建立的 VM 會自動採用新的 MTU,但您必須手動更新所有 Windows VM 和任何不使用 DHCP 設定 MTU 的自訂映像檔 VM 內部的 MTU 設定。

其他規定:

  • 在用於部署叢集的子網路中啟用 Private Google 存取權。
  • 建立輸入防火牆規則,授予 IAP 叢集存取權。
  • 建立輸入防火牆規則,允許所有流量傳輸至叢集。

後續步驟

準備好虛擬私有雲網路,並設定正確的 MTU 設定和防火牆規則後,接下來的步驟是建立及保護訓練叢集。

  • 驗證網路設定:建立叢集前,請執行連線測試,驗證虛擬私有雲網路和 MTU 設定,尤其是修改現有虛擬私有雲時。
  • 使用服務範圍保護叢集:為提升資料安全性,請使用 VPC Service Controls,為 Gemini Enterprise Agent Platform 資源建立服務範圍。這有助於防止資料竊取。
  • 從混合或多雲環境連線:如要從內部部署資料中心或公有雲存取訓練叢集,請使用Cloud de Confiance by S3NS的混合連線選項。