從 IBM Cloud 控制台啟動 Kubernetes 儀表板

1. 登入 IBM Cloud 主控台。
2. 從功能表列，選取您要使用的帳戶。
3. 從，按一下容器 > 群組。
4. 在叢集頁面上，按一下您要存取的叢集。
5. 從叢集詳細資料頁面中，按一下 Kubernetes 儀表板按鈕。

從命令列介面 (CLI) 啟動 Kubernetes 儀表板

CLI 方法可實現自動化和 CI/CD 整合。 開始前請 先安裝 CLI。

1. 取得您的 Kubernetes 登入憑證。

   kubectl config view -o jsonpath='{.users[0].user.auth-provider.config.id-token}'
   

2. 複製輸出中的 id-token 值。

3. 啟動代理。

   kubectl proxy
   

   輸出範例

   Starting to serve on 127.0.0.1:8001
   

4. 登入儀表板。

   1. 請在瀏覽器中導航至以下網址：URL：

       http://localhost:8001/api/v1/namespaces/kube-system/services/https:kubernetes-dashboard:/proxy/
       ```
   2. 在登入頁面上選擇**令牌**驗證方法。
   
   3. 將 **id-token** 的值貼上至「**Token**」欄位，然後點擊「**登入**」。
   
   

使用 CTRL+C 離開 proxy 指令。 再次執行 kubectl proxy 以重新啟動儀表板。

必要條件

開始之前

• 建立使用 GPU 特性的 叢集 或工作者節點儲存區。 請記住，設定裸機機器可能需要多個營業日才能完成。 如需可用特性的清單，請參閱下列鏈結。

  • 典型特性
  • VPC 特性

• 請確保您已被指派一個 服務存取角色， 該角色會授予相應的「Kubernetes」RBAC 角色，以便您能夠在叢集中管理 Kubernetes 資源。

適用於 Kubernetes 版本 1.36 及更新版本：您必須自行安裝和管理 NVIDIA GPU 驅動程式堆疊。 IBM Cloud Kubernetes Service 不再在工作節點上提供預先安裝的 GPU 驅動程式。 按照 NVIDIA GPU Operator 安裝指南安裝所需元件：

• NVIDIA 核心驅動程式
• 容器執行時元件 (例如 nvidia-container-toolkit)
• Kubernetes 裝置外掛程式

在安裝驅動程式之前，請求 GPU 的 pod 將維持在 Pending 狀態。 在節點上有相容的驅動程式可用後，它們會自動過渡到 Running。

對於 Kubernetes 版本 1.35 及更早版本：IBM- 提供的 GPU 驅動程式會自動安裝在 GPU 工作節點上。 不需要安裝額外的驅動程式。

部署工作量

1. 建立 YAML 檔案。 在此範例中，Job 的 YAML 檔案會透過建立一個短暫存在的 Pod 來管理類似批次的工作負載，該 Pod 會持續運行直至指令執行完畢並成功終止。

   對於 GPU 工作負載，您必須在工作 YAML 檔案中指定 resources: limits: nvidia.com/gpu 欄位。

   apiVersion: batch/v1
   kind: Job
   metadata:
     name: nvidia-devicequery
     labels:
       name: nvidia-devicequery
   spec:
     template:
       metadata:
         labels:
           name: nvidia-devicequery
       spec:
         containers:
         - name: nvidia-devicequery
           image: nvcr.io/nvidia/k8s/cuda-sample:devicequery-cuda11.7.1-ubuntu20.04
           imagePullPolicy: IfNotPresent
           resources:
             limits:
               nvidia.com/gpu: 2
         restartPolicy: Never
   

   了解您的 YAML 組件

   元件	說明
   meta 資料及標籤名稱	請輸入工作名稱與標籤，並在檔案的元資料及 spec template 的元資料中使用相同的名稱。 例如，nvidia-devicequery。
   containers.image	提供容器是其執行中實例的映像檔。 在此範例中，該值設為使用 DockerHub CUDA 裝置查詢映像檔:nvcr.io/nvidia/k8s/cuda-sample:devicequery-cuda11.7.1-ubuntu20.04。
   containers.imagePullPolicy	若要僅在該映像目前未存在於工作節點時才下載新映像，請指定 IfNotPresent``。
   resources.limits	對於 GPU 機器，您必須指定資源限制。 Kubernetes 裝置外掛程式會將預設資源請求設定為符合該限制。 您必須將金鑰指定為 nvidia.com/gpu。 輸入您要求的 GPU 總數，例如 2。 請注意，容器 Pod 不共用 GPU，且 GPU 不能過度確定。 例如，如果您只有 1 部 mg1c.16x128 機器，則在該機器中您只有 2 個 GPU，且最多可以指定 2。

2. 套用 YAML 檔案。 例如：

   kubectl apply -f nvidia-devicequery.yaml
   

3. 透過篩選具有「nvidia-devicequery」標籤的 Pod，來檢查該工作 Pod。 驗證 STATUS 為 Completed。

   kubectl get pod -A -l 'name in (nvidia-devicequery)'
   

   輸出範例

   NAME                  READY     STATUS      RESTARTS   AGE
   nvidia-devicequery-ppkd4      0/1       Completed   0          36s
   

4. 說明 Pod，以查看 GPU 裝置外掛程式如何排定 Pod。

   • 在 Limits 及 Requests 欄位中，查看您所指定的資源限制符合裝置外掛程式自動設定的要求。
   • 在事件中，驗證已將 Pod 指派給 GPU 工作者節點。

       kubectl describe pod nvidia-devicequery-ppkd4
       ```
       輸出範例
       ```sh {: screen}
       NAME:           nvidia-devicequery-ppkd4
       Namespace:      default
       ...
       Limits:
           nvidia.com/gpu:  1
       Requests:
           nvidia.com/gpu:  1
       ...
       Events:
       Type    Reason                 Age   From                     Message
       ----    ------                 ----  ----                     -------
       Normal  Scheduled              1m    default-scheduler        Successfully assigned nvidia-devicequery-ppkd4 to 10.xxx.xx.xxx
       ...
       ```
   

5. 若要驗證工作已使用 GPU 來運算其工作負載，您可以檢查日誌。

   kubectl logs nvidia-devicequery-ppkd4
   

   輸出範例

   /cuda-samples/sample Starting...
   CUDA Device Query (Runtime API) version (CUDART static linking)
   Detected 1 CUDA Capable device(s)
   Device 0: "Tesla P100-PCIE-16GB"
   CUDA Driver Version / Runtime Version          11.4 / 11.7
   CUDA Capability Major/Minor version number:    6.0
   Total amount of global memory:                 16281 MBytes (17071734784 bytes)
   (056) Multiprocessors, (064) CUDA Cores/MP:    3584 CUDA Cores
   GPU Max Clock rate:                            1329 MHz (1.33 GHz)
   Memory Clock rate:                             715 Mhz
   Memory Bus Width:                              4096-bit
   L2 Cache Size:                                 4194304 bytes
   Maximum Texture Dimension Size (x,y,z)         1D=(131072), 2D=(131072, 65536), 3D=(16384, 16384, 16384)
   Maximum Layered 1D Texture Size, (num) layers  1D=(32768), 2048 layers
   Maximum Layered 2D Texture Size, (num) layers  2D=(32768, 32768), 2048 layers
   Total amount of constant memory:               65536 bytes
   Total amount of shared memory per block:       49152 bytes
   Total shared memory per multiprocessor:        65536 bytes
   Total number of registers available per block: 65536
   Warp size:                                     32
   Maximum number of threads per multiprocessor:  2048
   Maximum number of threads per block:           1024
   Max dimension size of a thread block (x,y,z): (1024, 1024, 64)
   Max dimension size of a grid size    (x,y,z): (2147483647, 65535, 65535)
   Maximum memory pitch:                          2147483647 bytes
   Texture alignment:                             512 bytes
   Concurrent copy and kernel execution:          Yes with 2 copy engine(s)
   Run time limit on kernels:                     No
   Integrated GPU sharing Host Memory:            No
   Support host page-locked memory mapping:       Yes
   Alignment requirement for Surfaces:            Yes
   Device has ECC support:                        Enabled
   Device supports Unified Addressing (UVA):      Yes
   Device supports Managed Memory:                Yes
   Device supports Compute Preemption:            Yes
   Supports Cooperative Kernel Launch:            Yes
   Supports MultiDevice Co-op Kernel Launch:      Yes
   Device PCI Domain ID / Bus ID / location ID:   0 / 175 / 0
   Compute Mode:
   < Default (multiple host threads can use ::cudaSetDevice() with device simultaneously) >
   deviceQuery, CUDA Driver = CUDART, CUDA Driver Version = 11.4, CUDA Runtime Version = 11.7, NumDevs = 1
   Result = PASS
   

   在此範例中，您看到使用 GPU 來執行工作，因為 GPU 已在工作者節點中排程。 如果限制設為 2，則只會顯示 2 個 GPU。

現在您已部署測試 GPU 工作負載，您可能想要設定叢集以執行依賴於 GPU 處理的工具，例如 IBM Maximo Visual Inspection。