从 IBM Cloud 控制台启动 Kubernetes 仪表板

1. 登录到 IBM Cloud 控制台。
2. 在菜单栏中，选择要使用的帐户。
3. 从菜单中，点击容器 > 集群。
4. 在集群页面上，单击要访问的集群。
5. 在集群详细信息页面中，单击 Kubernetes 仪表板按钮。

从命令行界面（CLI）启动 Kubernetes 仪表盘

CLI 方法可实现自动化和 CI/CD 集成。 在开始之前 安装 CLI。

1. 获取您的 Kubernetes 凭据。

   kubectl config view -o jsonpath='{.users[0].user.auth-provider.config.id-token}'
   

2. 从输出中复制 id-token 值。

3. 启动代理。

   kubectl proxy
   

   示例输出

   Starting to serve on 127.0.0.1:8001
   

4. 登录到仪表板。

   1. 请在浏览器中访问以下网址：URL：

       http://localhost:8001/api/v1/namespaces/kube-system/services/https:kubernetes-dashboard:/proxy/
       ```
   2. 在登录页面选择**令牌**验证方法。
   
   3. 将 **id-token** 值粘贴到 **“Token”** 字段中，然后点击 **“登录”**。
   
   

使用 CTRL+C 退出 proxy 命令。 再次运行 kubectl proxy 重新启动仪表板。

先决条件

准备工作

• 创建使用 GPU 类型模板的 集群 或工作程序池。 请记住，设置裸机机器可能需要多个工作日才能完成。 有关可用风格的列表，请参阅以下链接。

  • 经典风格
  • VPC 风格

• 请确保您已被分配了一个 服务访问角色， 该角色授予了相应的 Kubernetes RBAC角色，以便您能够操作集群中的 Kubernetes 资源。

适用于 Kubernetes 1.36 及更高版本：您必须自行安装和管理 NVIDIA GPU 驱动程序栈。 IBM Cloud Kubernetes Service 不再在工作节点上提供预安装的 GPU 驱动程序。 按照 NVIDIA GPU 操作员安装指南安装所需组件：

• NVIDIA 内核驱动程序
• 容器运行时组件（如 nvidia-container-toolkit）
• Kubernetes 设备插件

在安装驱动程序之前，请求 GPU 的 pod 将保持 Pending 状态。 在节点上出现兼容驱动程序后，它们将自动过渡到 Running。

对于 Kubernetes 1.35 及更早版本：IBM- 提供的 GPU 驱动程序会自动安装到 GPU 工作节点上。 无需额外安装驱动程序。

部署工作负载

1. 创建 YAML 文件。 在此示例中，Job 的YAML配置通过创建一个短暂存在的Pod来管理批处理式工作负载，该Pod将运行直至命令完成并成功终止。

   对于 GPU 工作负载，您必须在作业 YAML 文件中指定 resources: limits: nvidia.com/gpu 字段。

   apiVersion: batch/v1
   kind: Job
   metadata:
     name: nvidia-devicequery
     labels:
       name: nvidia-devicequery
   spec:
     template:
       metadata:
         labels:
           name: nvidia-devicequery
       spec:
         containers:
         - name: nvidia-devicequery
           image: nvcr.io/nvidia/k8s/cuda-sample:devicequery-cuda11.7.1-ubuntu20.04
           imagePullPolicy: IfNotPresent
           resources:
             limits:
               nvidia.com/gpu: 2
         restartPolicy: Never
   

   了解 YAML 组件

   组件	描述
   元数据和标签名称	请为该任务输入名称和标签，并在文件的元数据以及 spec template 的元数据中使用相同的名称。 例如，nvidia-devicequery。
   containers.image	提供容器是其运行实例的映像。 在此示例中，该值设置为使用 DockerHub CUDA 设备查询映像:nvcr.io/nvidia/k8s/cuda-sample:devicequery-cuda11.7.1-ubuntu20.04。
   containers.imagePullPolicy	若要仅在工作节点上尚未存在该镜像时才拉取新镜像，请指定 IfNotPresent。
   resources.limits	对于 GPU 机器，必须指定资源限制。 Kubernetes 设备插件将默认资源请求设置为与限制值一致。 您必须将密钥指定为 nvidia.com/gpu。 输入请求的 GPU 的整数，例如 2。 请注意，容器 pod 不共享 GPU，并且不能过量使用 GPU。 例如，如果只有 1 个 mg1c.16x128 机器，那么该机器中只有 2 个 GPU，因此可以指定的最大值为 2。

2. 应用 YAML 文件。 例如：

   kubectl apply -f nvidia-devicequery.yaml
   

3. 通过按 nvidia-devicequery 标签筛选Pod，查看该作业Pod。 验证 STATUS 是否为 Completed。

   kubectl get pod -A -l 'name in (nvidia-devicequery)'
   

   示例输出

   NAME                  READY     STATUS      RESTARTS   AGE
   nvidia-devicequery-ppkd4      0/1       Completed   0          36s
   

4. 对 pod 执行 describe 命令，以查看 GPU 设备插件是如何安排 pod 的。

   • 在 Limits 和 Requests 字段中，确保指定的资源限制与设备插件自动设置的请求相匹配。
   • 在 Events 中，验证是否已将 pod 分配给 GPU 工作程序节点。

       kubectl describe pod nvidia-devicequery-ppkd4
       ```
       示例输出
       ```sh {: screen}
       NAME:           nvidia-devicequery-ppkd4
       Namespace:      default
       ...
       Limits:
           nvidia.com/gpu:  1
       Requests:
           nvidia.com/gpu:  1
       ...
       Events:
       Type    Reason                 Age   From                     Message
       ----    ------                 ----  ----                     -------
       Normal  Scheduled              1m    default-scheduler        Successfully assigned nvidia-devicequery-ppkd4 to 10.xxx.xx.xxx
       ...
       ```
   

5. 要验证作业是否使用了 GPU 来计算其工作负载，可以检查日志。

   kubectl logs nvidia-devicequery-ppkd4
   

   示例输出

   /cuda-samples/sample Starting...
   CUDA Device Query (Runtime API) version (CUDART static linking)
   Detected 1 CUDA Capable device(s)
   Device 0: "Tesla P100-PCIE-16GB"
   CUDA Driver Version / Runtime Version          11.4 / 11.7
   CUDA Capability Major/Minor version number:    6.0
   Total amount of global memory:                 16281 MBytes (17071734784 bytes)
   (056) Multiprocessors, (064) CUDA Cores/MP:    3584 CUDA Cores
   GPU Max Clock rate:                            1329 MHz (1.33 GHz)
   Memory Clock rate:                             715 Mhz
   Memory Bus Width:                              4096-bit
   L2 Cache Size:                                 4194304 bytes
   Maximum Texture Dimension Size (x,y,z)         1D=(131072), 2D=(131072, 65536), 3D=(16384, 16384, 16384)
   Maximum Layered 1D Texture Size, (num) layers  1D=(32768), 2048 layers
   Maximum Layered 2D Texture Size, (num) layers  2D=(32768, 32768), 2048 layers
   Total amount of constant memory:               65536 bytes
   Total amount of shared memory per block:       49152 bytes
   Total shared memory per multiprocessor:        65536 bytes
   Total number of registers available per block: 65536
   Warp size:                                     32
   Maximum number of threads per multiprocessor:  2048
   Maximum number of threads per block:           1024
   Max dimension size of a thread block (x,y,z): (1024, 1024, 64)
   Max dimension size of a grid size    (x,y,z): (2147483647, 65535, 65535)
   Maximum memory pitch:                          2147483647 bytes
   Texture alignment:                             512 bytes
   Concurrent copy and kernel execution:          Yes with 2 copy engine(s)
   Run time limit on kernels:                     No
   Integrated GPU sharing Host Memory:            No
   Support host page-locked memory mapping:       Yes
   Alignment requirement for Surfaces:            Yes
   Device has ECC support:                        Enabled
   Device supports Unified Addressing (UVA):      Yes
   Device supports Managed Memory:                Yes
   Device supports Compute Preemption:            Yes
   Supports Cooperative Kernel Launch:            Yes
   Supports MultiDevice Co-op Kernel Launch:      Yes
   Device PCI Domain ID / Bus ID / location ID:   0 / 175 / 0
   Compute Mode:
   < Default (multiple host threads can use ::cudaSetDevice() with device simultaneously) >
   deviceQuery, CUDA Driver = CUDART, CUDA Driver Version = 11.4, CUDA Runtime Version = 11.7, NumDevs = 1
   Result = PASS
   

   在此示例中，您看到 GPU 用于执行作业，因为 GPU 是在工作程序节点中调度的。 如果限制设置为 2，那么仅显示 2 个 GPU。

现在部署了测试 GPU 工作负载，您可能希望设置集群以运行依赖于 GPU 处理的工具，例如 IBM Maximo Visual Inspection。