Kubernetes-native Apps in Clustern bereitstellen

Kubernetes-Dashboard über die IBM Cloud-Konsole starten

1. Melden Sie sich bei der IBM Cloud -Konsole an.
2. Wählen Sie in der Menüleiste das Konto aus, das Sie verwenden möchten.
3. Klicken Sie im Menü !["Menü-Symbol](../icons/icon_hamburger.svg " "") auf "Container > Cluster ".
4. Klicken Sie auf der Seite Cluster auf den Cluster, auf den Sie zugreifen möchten.
5. Klicken Sie auf der Seite mit den Clusterdetails auf die Schaltfläche Kubernetes-Dashboard.

Kubernetes-Dashboard über die Befehlszeilenschnittstelle starten

Die CLI-Methode ermöglicht Automatisierung und CI/CD-Integration. Installieren Sie die CLI, bevor Sie beginnen.

1. Holen Sie sich Ihren Kubernetes Ausweis.

   kubectl config view -o jsonpath='{.users[0].user.auth-provider.config.id-token}'
   

2. Kopieren Sie den ID-Token-Wert aus der Ausgabe.

3. Starten Sie den Proxy.

   kubectl proxy
   

   Beispielausgabe

   Starting to serve on 127.0.0.1:8001
   

4. Melden Sie sich beim Dashboard an.

   1. Rufen Sie in Ihrem Browser die folgende Website auf: URL:

      http://localhost:8001/api/v1/namespaces/kube-system/services/https:kubernetes-dashboard:/proxy/
      

   2. Wählen Sie auf der Anmeldeseite die Authentifizierungsmethode Token aus.

   3. Fügen Sie den Wert des ID-Tokens in das Feld Token ein und klicken Sie auf SIGN IN.

Verwenden Sie CTRL+C, um den Befehl proxy zu beenden. Führen Sie kubectl proxy erneut aus, um das Dashboard neu zu starten.

Voraussetzungen

Vorbereitende Schritte

• Erstellen Sie einen Cluster oder Worker-Pool, der einen GPU-Typ verwendet. Beachten Sie, dass das Einrichten einer Bare-Metal-Maschine mehr als einen Geschäftstag in Anspruch nehmen kann. Eine Liste der verfügbaren Versionen finden Sie unter den folgenden Links.

  • Klassische Typen
  • VPC-Versionen

• Stellen Sie sicher, dass Ihnen eine Servicezugriffsrolle zugeordnet ist, die Ihnen die entsprechende RBAC-Rolle für Kubernetes erteilt, um mit Kubernetes-Ressourcen im Cluster arbeiten zu können.

Für Kubernetes Version 1.36 und höher: Sie müssen den NVIDIA GPU-Treiber-Stack selbst installieren und verwalten. IBM Cloud Kubernetes Service bietet keine vorinstallierten GPU-Treiber mehr auf Worker Nodes. Folgen Sie der Installationsanleitung NVIDIA GPU Operator, um die erforderlichen Komponenten zu installieren:

• NVIDIA Kernel-Treiber
• Container-Laufzeitkomponenten (z. B. nvidia-container-toolkit)
• Kubernetes Geräte-Plugin

Solange der Treiber nicht installiert ist, bleiben Pods, die GPUs anfordern, im Zustand Pending. Sie werden automatisch auf Running umgestellt, sobald ein kompatibler Treiber auf dem Knoten verfügbar ist.

Für Kubernetes Version 1.35 und früher: IBM-vorausgesetzte GPU-Treiber werden automatisch auf GPU-Worker-Nodes installiert. Eine zusätzliche Treiberinstallation ist nicht erforderlich.

Workload implementieren

1. Erstellen Sie eine YAML-Datei. In diesem Beispiel verwaltet eine Job YAML batch-ähnliche Workloads, indem sie einen kurzlebigen Pod erstellt, der so lange läuft, bis der Befehl abgeschlossen und erfolgreich beendet ist.

   Für GPU-Workloads müssen Sie das Feld resources: limits: nvidia.com/gpu in der YAML des Auftrags angeben.

   apiVersion: batch/v1
   kind: Job
   metadata:
     name: nvidia-devicequery
     labels:
       name: nvidia-devicequery
   spec:
     template:
       metadata:
         labels:
           name: nvidia-devicequery
       spec:
         containers:
         - name: nvidia-devicequery
           image: nvcr.io/nvidia/k8s/cuda-sample:devicequery-cuda11.7.1-ubuntu20.04
           imagePullPolicy: IfNotPresent
           resources:
             limits:
               nvidia.com/gpu: 2
         restartPolicy: Never
   

   Verstehen Ihrer YAML-Komponenten

   Komponente	Beschreibung
   Namen für Metadaten und Bezeichnung	Geben Sie einen Namen und eine Bezeichnung für den Job ein und verwenden Sie denselben Namen sowohl in den Metadaten der Datei als auch in den spec template-Metadaten. Beispiel: nvidia-devicequery.
   containers.image	Geben Sie ein Image an, von dem der Container eine Instanz ausführt. In diesem Beispiel wird der Wert für die Verwendung des CUDA-Einheitenabfrageimage DockerHub festgelegt:nvcr.io/nvidia/k8s/cuda-sample:devicequery-cuda11.7.1-ubuntu20.04.
   containers.imagePullPolicy	Um nur ein neues Image zu extrahieren, wenn das Image sich nicht aktuell auf dem Workerknoten befindet, geben Sie IfNotPresent an.
   resources.limits	Für GPU-Maschinen müssen Sie eine Ressourcengrenze angeben. Das Kubernetes Device Plug-in stellt die Standard-Ressourcenanforderung so ein, dass sie dem Limit entspricht. Sie müssen den Schlüssel als nvidia.com/gpu angeben. Geben Sie die ganze Anzahl der von Ihnen angeforderten GPUs ein, z. B. 2. Beachten Sie, dass Container-Pods keine GPUs gemeinsam nutzen und GPUs nicht überlastet werden können. Wenn Sie zum Beispiel nur über eine Maschine des Typs mg1c.16x128 verfügen, stehen Ihnen nur zwei GPUs auf dieser Maschine zur Verfügung und es kann maximal der Wert 2 angegeben werden.

2. Wenden Sie die YAML-Datei an. Zum Beispiel:

   kubectl apply -f nvidia-devicequery.yaml
   

3. Überprüfen Sie den Job-Pod, indem Sie Ihre Pods nach dem Label nvidia-devicequery filtern. Stellen Sie sicher, dass der STATUS den Wert Completed aufweist.

   kubectl get pod -A -l 'name in (nvidia-devicequery)'
   

   Beispielausgabe

   NAME                  READY     STATUS      RESTARTS   AGE
   nvidia-devicequery-ppkd4      0/1       Completed   0          36s
   

4. Beschreiben Sie den Pod, um zu sehen, wie das GPU-Einheiten-Plug-in den Pod terminiert hat.

   • In den Feldern Limits und Requests entspricht die von Ihnen angegebene Ressourcengrenze der Anforderung, die das Einheiten-Plug-in automatisch festgelegt hat.

   • Überprüfen Sie in den Ereignissen, dass der Pod dem GPU-Workerknoten zugewiesen ist.

     kubectl describe pod nvidia-devicequery-ppkd4
     

     Beispielausgabe

     NAME:           nvidia-devicequery-ppkd4
     Namespace:      default
     ...
     Limits:
         nvidia.com/gpu:  1
     Requests:
         nvidia.com/gpu:  1
     ...
     Events:
     Type    Reason                 Age   From                     Message
     ----    ------                 ----  ----                     -------
     Normal  Scheduled              1m    default-scheduler        Successfully assigned nvidia-devicequery-ppkd4 to 10.xxx.xx.xxx
     ...
     

5. Um sicherzustellen, dass der Job die GPU zum Berechnen der Workload verwendet hat, können Sie die entsprechenden Protokolle überprüfen.

   kubectl logs nvidia-devicequery-ppkd4
   

   Beispielausgabe

   /cuda-samples/sample Starting...
   
   CUDA Device Query (Runtime API) version (CUDART static linking)
   
   Detected 1 CUDA Capable device(s)
   
   Device 0: "Tesla P100-PCIE-16GB"
   CUDA Driver Version / Runtime Version          11.4 / 11.7
   CUDA Capability Major/Minor version number:    6.0
   Total amount of global memory:                 16281 MBytes (17071734784 bytes)
   (056) Multiprocessors, (064) CUDA Cores/MP:    3584 CUDA Cores
   GPU Max Clock rate:                            1329 MHz (1.33 GHz)
   Memory Clock rate:                             715 Mhz
   Memory Bus Width:                              4096-bit
   L2 Cache Size:                                 4194304 bytes
   Maximum Texture Dimension Size (x,y,z)         1D=(131072), 2D=(131072, 65536), 3D=(16384, 16384, 16384)
   Maximum Layered 1D Texture Size, (num) layers  1D=(32768), 2048 layers
   Maximum Layered 2D Texture Size, (num) layers  2D=(32768, 32768), 2048 layers
   Total amount of constant memory:               65536 bytes
   Total amount of shared memory per block:       49152 bytes
   Total shared memory per multiprocessor:        65536 bytes
   Total number of registers available per block: 65536
   Warp size:                                     32
   Maximum number of threads per multiprocessor:  2048
   Maximum number of threads per block:           1024
   Max dimension size of a thread block (x,y,z): (1024, 1024, 64)
   Max dimension size of a grid size    (x,y,z): (2147483647, 65535, 65535)
   Maximum memory pitch:                          2147483647 bytes
   Texture alignment:                             512 bytes
   Concurrent copy and kernel execution:          Yes with 2 copy engine(s)
   Run time limit on kernels:                     No
   Integrated GPU sharing Host Memory:            No
   Support host page-locked memory mapping:       Yes
   Alignment requirement for Surfaces:            Yes
   Device has ECC support:                        Enabled
   Device supports Unified Addressing (UVA):      Yes
   Device supports Managed Memory:                Yes
   Device supports Compute Preemption:            Yes
   Supports Cooperative Kernel Launch:            Yes
   Supports MultiDevice Co-op Kernel Launch:      Yes
   Device PCI Domain ID / Bus ID / location ID:   0 / 175 / 0
   Compute Mode:
   < Default (multiple host threads can use ::cudaSetDevice() with device simultaneously) >
   
   deviceQuery, CUDA Driver = CUDART, CUDA Driver Version = 11.4, CUDA Runtime Version = 11.7, NumDevs = 1
   Result = PASS
   

   In diesem Beispiel sehen Sie, dass eine GPU zur Ausführung des Jobs verwendet wurde, da die GPU im Workerknoten terminiert wurde. Wenn der Grenzwert auf 2 gesetzt ist, werden nur 2 GPUs angezeigt.

Nachdem Sie nun eine Test-GPU-Arbeitslast bereitgestellt haben, möchten Sie Ihren Cluster vielleicht so einrichten, dass er ein Tool ausführt, das auf GPU-Verarbeitung angewiesen ist, wie z. B. IBM Maximo Visual Inspection.