Für Arbeitslasten aus den Bereichen künstliche Intelligenz (KI), maschinelles Lernen (ML) und Hochleistungs-Computing (HPC) ist es oft erforderlich, ein benutzerdefiniertes Image zu erstellen, das zusätzliche Softwarepakete enthält und für optimale Leistung optimiert ist. Sie können jetzt Advanced Compute-Images verwenden, um eine optimierte Umgebung für Ihre KI-/ML- oder HPC-Arbeitslasten einzurichten.
Advanced Compute Images bieten einen standardisierten Imagestack für KI-/ML- und HPC-Infrastruktur. Mit diesen Images müssen Sie nicht mehr manuell eigene benutzerdefinierte Images für KI-/ML- und HPC-Arbeitslasten erstellen.
Vorteile
Advanced Compute Images bieten die folgenden Vorteile:
- Compute-Instanzen, die sofort für KI-/ML- oder HPC-Arbeitslasten einsatzbereit sind. Sie müssen die Leistung nicht manuell abstimmen, keine Instanzneustarts verwalten, keine Slurm-Agents installieren oder mit den neuesten Cloud de Confiance Updates für eng gekoppelte KI/ML- oder HPC-Workloads auf dem Laufenden bleiben.
- Konsistente, reproduzierbare Leistung: Die Image-Standardisierung ermöglicht eine konsistente, reproduzierbare Leistung auf Anwendungsebene.
Arten von Advanced Compute Images
Advanced Compute-Images enthalten mehrere Konfigurationsebenen zur Unterstützung von KI-/ML- und HPC-Arbeitslasten.
- Betriebssystemkonfigurationen: Dazu gehören das Deaktivieren automatischer Updates, das Festlegen von HPC-optimierten ulimits, das Anpassen von Kernel-Sysctl-Parametern und das Konfigurieren von Sicherheitseinstellungen wie SELinux.
- Netzwerkoptimierung: Enthält die erforderlichen Skripts für die Netzwerkoptimierung, z. B. zum Aktivieren des Multi-Queue-Dienstes.
- Cloud de Confiance by S3NS integration: Installiert und konfiguriert die Google Cloud CLI und den Ops-Agenten.
- Container-Tools: Installiert und konfiguriert alle containerbezogenen Softwarekomponenten, darunter:
- Docker
- NVIDIA Container Toolkit (Version 1.19.0-1)
- NVIDIA Enroot
- NVIDIA Pyxis
- NVIDIA: Installiert die folgenden Tools:
- NVIDIA CUDA Toolkit-Version 13.0,
- NVIDIA Data Center GPU Manager (DCGM) Version 4
- NVIDIA Fabric Manager
- MPI: Installiert die MPI-Bibliotheken (Message Passing Interface). Installiert Open MPI auf Ubuntu-basierten Images.
- Slurm: Installiert die Kernkomponenten, die zum Erstellen eines Slurm-Clusternodes erforderlich sind, einschließlich:
- Slurm-Binärdateien (Version 25.11)
- Munge für die Authentifizierung
- PMIx für die Prozessverwaltung
- JSON-Webtoken (JWT)-Bibliothek (
libjwt)
- Dateisystemclients: Installiert clientseitige Tools für den Zugriff auf verschiedene Dateisysteme wie Cloud Storage FUSE, NFS-Dienstprogramme (
nfs-utils) und den Lustre-Client. - Entwicklertools: Installiert gängige Entwicklungs- und Debugging-Toolchains und ‑Dienstprogramme, z. B.:
- Umgebungsverwaltung: Installiert und konfiguriert Tools zur Umgebungsverwaltung, hauptsächlich Lmod, und richtet die erforderlichen Profilskripts ein, damit der Modulbefehl für Nutzer verfügbar ist.
Unterstützte Hardware und Image-Familien
Advanced Compute-Images unterstützen GPU-Arbeitslasten und haben die folgenden Eigenschaften:
- Sind für NVIDIA-Beschleuniger optimiert
- Unterstützung von Ubuntu LTS 22.04 und Ubuntu LTS 24.04
- Mit vorintegrierten CUDA- und NVIDIA-Treibern
- Sie eignen sich für KI-, ML- oder HPC-Arbeitslasten.
| Hardware | Betriebssystem | Orchestrator | Features | Architektur | Unterstützte Maschinenserien | Image-Familie |
|---|---|---|---|---|---|---|
| GPU | Ubuntu LTS 22.04 | Slurm 25.11 |
|
AMD x86_64 | A3 Ultra, A4 | aci-gpu-u2204-slurm-2511-cuda-130-nvidia-580-amd64 |
| GPU | Ubuntu LTS 24.04 | Slurm 25.11 |
|
AMD x86_64 | A4 | aci-gpu-u2404-slurm-2511-cuda-130-nvidia-580-amd64 |
| GPU | Ubuntu LTS 24.04 | Slurm 25.11 |
|
Arm64 | A4X | aci-gpu-u2404-slurm-2511-cuda-130-nvidia-580-arm64 |
| GPU | Ubuntu LTS 22.04 | Keine |
|
AMD x86_64 | A3 Ultra, A4 | aci-gpu-u2204-cuda-130-nvidia-580-amd64 |
| GPU | Ubuntu LTS 24.04 | Keine |
|
AMD x86_64 | A3 Ultra, A4 | aci-gpu-u2404-cuda-130-nvidia-580-amd64 |
Vorinstallierte Pakete (oder RPMs)
Auf Advanced Compute-Images sind verschiedene Tools, Bibliotheken, Treiber und RPMs vorinstalliert. Eine Liste der für ein beliebiges Image installierten Komponenten finden Sie in der Manifestdatei für dieses Image.
Die Manifestdatei finden Sie unter /usr/share/google/manifest.txt.
Preise
Advanced Compute-Images sind ohne zusätzliche Kosten verfügbar. Da Advanced Compute Images auf Compute Engine ausgeführt werden, können Kosten für Compute Engine-Ressourcen wie vCPUs, GPUs, TPUs, Laufwerke und Arbeitsspeicher anfallen. Weitere Informationen finden Sie unter Preise für Compute Engine.