在集群中部署 Kubernetes 本机应用程序

从 IBM Cloud 控制台启动 Kubernetes 仪表板

1. 登录到 IBM Cloud 控制台。
2. 在菜单栏中，选择要使用的帐户。
3. 从菜单中，点击容器 > 集群。
4. 在集群页面上，单击要访问的集群。
5. 在集群详细信息页面中，单击 Kubernetes 仪表板按钮。

从 CLI 启动 Kubernetes 仪表板

CLI 方法可实现自动化和 CI/CD 集成。 在开始之前 安装 CLI。

1. 获取 Kubernetes 证书。

   kubectl config view -o jsonpath='{.users[0].user.auth-provider.config.id-token}'
   

2. 从输出中复制 id-token 值。

3. 启动代理。

   kubectl proxy
   

   示例输出

   Starting to serve on 127.0.0.1:8001
   

4. 登录到仪表板。

   1. 在浏览器中导航到以下 URL：

      http://localhost:8001/api/v1/namespaces/kube-system/services/https:kubernetes-dashboard:/proxy/
      

   2. 在登录页面选择令牌验证方法。

   3. 将 id-token 值粘贴到 代币 字段，然后单击 登录。

使用 CTRL+C 退出 proxy 命令。 再次运行 kubectl proxy 重新启动仪表板。

先决条件

准备工作

• 创建使用 GPU 类型模板的 集群 或工作程序池。 请记住，设置裸机机器可能需要多个工作日才能完成。 有关可用风格的列表，请参阅以下链接。

  • 经典风格
  • VPC 风格

• 确保为您分配了授予适当 Kubernetes RBAC 角色的 服务访问角色，这样您就可以使用群集中的 Kubernetes 资源。

部署工作负载

1. 创建 YAML 文件。 在此示例中，Job YAML 通过创建一个短命 pod 来管理批处理类工作负载，该 pod 一直运行到命令完成并成功终止为止。

   对于 GPU 工作负载，必须在作业 YAML 中指定 resources: limits: nvidia.com/gpu 字段。

   apiVersion: batch/v1
   kind: Job
   metadata:
     name: nvidia-devicequery
     labels:
       name: nvidia-devicequery
   spec:
     template:
       metadata:
         labels:
           name: nvidia-devicequery
       spec:
         containers:
         - name: nvidia-devicequery
           image: nvcr.io/nvidia/k8s/cuda-sample:devicequery-cuda11.7.1-ubuntu20.04
           imagePullPolicy: IfNotPresent
           resources:
             limits:
               nvidia.com/gpu: 2
         restartPolicy: Never
   

   了解 YAML 组件

   组件	描述
   元数据和标签名称	为任务输入名称和标签，并在文件元数据和 spec template 元数据中使用相同的名称。 例如，nvidia-devicequery。
   containers.image	提供容器是其运行实例的映像。 在此示例中，该值设置为使用 DockerHub CUDA 设备查询映像:nvcr.io/nvidia/k8s/cuda-sample:devicequery-cuda11.7.1-ubuntu20.04。
   containers.imagePullPolicy	要只在图像当前不在工作节点上时提取新图像，请指定 IfNotPresent。
   resources.limits	对于 GPU 机器，必须指定资源限制。 Kubernetes 设备插件会设置默认资源请求，使其与限制相匹配。 您必须将密钥指定为 nvidia.com/gpu。 输入请求的 GPU 的整数，例如 2。 请注意，容器 pod 不共享 GPU，并且不能过量使用 GPU。 例如，如果只有 1 个 mg1c.16x128 机器，那么该机器中只有 2 个 GPU，因此可以指定的最大值为 2。

2. 应用 YAML 文件。 例如：

   kubectl apply -f nvidia-devicequery.yaml
   

3. 通过 nvidia-devicequery 标签过滤 pod，检查作业 pod。 验证 STATUS 是否为 Completed。

   kubectl get pod -A -l 'name in (nvidia-devicequery)'
   

   示例输出

   NAME                  READY     STATUS      RESTARTS   AGE
   nvidia-devicequery-ppkd4      0/1       Completed   0          36s
   

4. 对 pod 执行 describe 命令，以查看 GPU 设备插件是如何安排 pod 的。

   • 在 Limits 和 Requests 字段中，确保指定的资源限制与设备插件自动设置的请求相匹配。

   • 在 Events 中，验证是否已将 pod 分配给 GPU 工作程序节点。

     kubectl describe pod nvidia-devicequery-ppkd4
     

     示例输出

     NAME:           nvidia-devicequery-ppkd4
     Namespace:      default
     ...
     Limits:
         nvidia.com/gpu:  1
     Requests:
         nvidia.com/gpu:  1
     ...
     Events:
     Type    Reason                 Age   From                     Message
     ----    ------                 ----  ----                     -------
     Normal  Scheduled              1m    default-scheduler        Successfully assigned nvidia-devicequery-ppkd4 to 10.xxx.xx.xxx
     ...
     

5. 要验证作业是否使用了 GPU 来计算其工作负载，可以检查日志。

   kubectl logs nvidia-devicequery-ppkd4
   

   示例输出

   /cuda-samples/sample Starting...
   
   CUDA Device Query (Runtime API) version (CUDART static linking)
   
   Detected 1 CUDA Capable device(s)
   
   Device 0: "Tesla P100-PCIE-16GB"
   CUDA Driver Version / Runtime Version          11.4 / 11.7
   CUDA Capability Major/Minor version number:    6.0
   Total amount of global memory:                 16281 MBytes (17071734784 bytes)
   (056) Multiprocessors, (064) CUDA Cores/MP:    3584 CUDA Cores
   GPU Max Clock rate:                            1329 MHz (1.33 GHz)
   Memory Clock rate:                             715 Mhz
   Memory Bus Width:                              4096-bit
   L2 Cache Size:                                 4194304 bytes
   Maximum Texture Dimension Size (x,y,z)         1D=(131072), 2D=(131072, 65536), 3D=(16384, 16384, 16384)
   Maximum Layered 1D Texture Size, (num) layers  1D=(32768), 2048 layers
   Maximum Layered 2D Texture Size, (num) layers  2D=(32768, 32768), 2048 layers
   Total amount of constant memory:               65536 bytes
   Total amount of shared memory per block:       49152 bytes
   Total shared memory per multiprocessor:        65536 bytes
   Total number of registers available per block: 65536
   Warp size:                                     32
   Maximum number of threads per multiprocessor:  2048
   Maximum number of threads per block:           1024
   Max dimension size of a thread block (x,y,z): (1024, 1024, 64)
   Max dimension size of a grid size    (x,y,z): (2147483647, 65535, 65535)
   Maximum memory pitch:                          2147483647 bytes
   Texture alignment:                             512 bytes
   Concurrent copy and kernel execution:          Yes with 2 copy engine(s)
   Run time limit on kernels:                     No
   Integrated GPU sharing Host Memory:            No
   Support host page-locked memory mapping:       Yes
   Alignment requirement for Surfaces:            Yes
   Device has ECC support:                        Enabled
   Device supports Unified Addressing (UVA):      Yes
   Device supports Managed Memory:                Yes
   Device supports Compute Preemption:            Yes
   Supports Cooperative Kernel Launch:            Yes
   Supports MultiDevice Co-op Kernel Launch:      Yes
   Device PCI Domain ID / Bus ID / location ID:   0 / 175 / 0
   Compute Mode:
   < Default (multiple host threads can use ::cudaSetDevice() with device simultaneously) >
   
   deviceQuery, CUDA Driver = CUDART, CUDA Driver Version = 11.4, CUDA Runtime Version = 11.7, NumDevs = 1
   Result = PASS
   

   在此示例中，您看到 GPU 用于执行作业，因为 GPU 是在工作程序节点中调度的。 如果限制设置为 2，那么仅显示 2 个 GPU。

现在部署了测试 GPU 工作负载，您可能希望设置集群以运行依赖于 GPU 处理的工具，例如 IBM Maximo Visual Inspection。