IBM Cloud 콘솔에서 Kubernetes 대시보드 실행

1. IBM Cloud 콘솔에 로그인하십시오.
2. 메뉴 표시줄에서 사용할 계정을 선택하십시오.
3. 메뉴에서 클릭하고, 컨테이너 > 클러스터를 클릭합니다.
4. 클러스터 페이지에서 액세스하려는 클러스터를 클릭하십시오.
5. 클러스터 세부사항 페이지에서 Kubernetes 대시보드 단추를 클릭하십시오.

CLI에서 Kubernetes 대시보드 실행

CLI 방식을 사용하면 자동화 및 CI/CD 통합이 가능합니다. 시작하기 전에 CLI를 설치하세요.

1. Kubernetes 자격증을 취득하세요.

   kubectl config view -o jsonpath='{.users[0].user.auth-provider.config.id-token}'
   

2. 출력에서 아이디 토큰 값을 복사합니다.

3. 프록시를 시작합니다.

   kubectl proxy
   

   출력 예

   Starting to serve on 127.0.0.1:8001
   

4. 대시보드에 로그인하십시오.

   1. 브라우저에서 다음 주소 URL 로 이동하세요:

       http://localhost:8001/api/v1/namespaces/kube-system/services/https:kubernetes-dashboard:/proxy/
       ```
   2. 로그인 페이지에서 **토큰** 인증 방법을 선택합니다.
   
   3. **id-token** 값을 **‘Token’** 필드에 붙여넣고 **‘SIGN IN’을** 클릭하세요.
   
   

proxy 명령을 종료하려면 CTRL+C 을 사용합니다. kubectl proxy 을 다시 실행하여 대시보드를 다시 시작합니다.

전제조건

시작하기 전에

• GPU 특성을 사용하는 클러스터 또는 작업자 풀을 작성하십시오. 베어메탈 머신의 설정을 완료하는 데는 1일 이상의 영업일이 소요될 수 있다는 점에 유의하십시오. 사용 가능한 특징 목록은 다음 링크를 참조하십시오.

  • 클래식 특성
  • VPC 특색

• 클러스터에서 Kubernetes 리소스 관련 작업을 수행할 수 있도록 적절한 Kubernetes RBAC 역할을 부여하는 서비스 액세스 역할이 지정되어 있는지 확인하십시오.

Kubernetes 버전 1.36 이상용: NVIDIA GPU 드라이버 스택을 직접 설치 및 관리해야 합니다. IBM Cloud Kubernetes Service 는 더 이상 워커 노드에 사전 설치된 GPU 드라이버를 제공하지 않습니다. NVIDIA GPU 운영자 설치 가이드에 따라 필요한 구성 요소를 설치하세요:

• NVIDIA 커널 드라이버
• 컨테이너 런타임 구성 요소(예: nvidia-container-toolkit)
• Kubernetes 장치 플러그인

드라이버가 설치될 때까지 GPU를 요청하는 파드는 Pending 상태로 유지됩니다. 노드에서 호환되는 드라이버를 사용할 수 있게 되면 Running 로 자동 전환됩니다.

Kubernetes 버전 1.35 및 이전 버전: IBM-제공된 GPU 드라이버는 GPU 워커 노드에 자동으로 설치됩니다. 추가 드라이버 설치가 필요하지 않습니다.

워크로드 배치

1. YAML 파일을 작성하십시오. 이 예시에서는 ‘ Job ’ YAML이 명령어가 완료되고 정상적으로 종료될 때까지 실행되는 단기 포드를 생성하여 배치 방식의 워크로드를 관리합니다.

   GPU 워크로드의 경우, 작업 YAML에서 ‘ resources: limits: nvidia.com/gpu ’ 필드를 반드시 지정해야 합니다.

   apiVersion: batch/v1
   kind: Job
   metadata:
     name: nvidia-devicequery
     labels:
       name: nvidia-devicequery
   spec:
     template:
       metadata:
         labels:
           name: nvidia-devicequery
       spec:
         containers:
         - name: nvidia-devicequery
           image: nvcr.io/nvidia/k8s/cuda-sample:devicequery-cuda11.7.1-ubuntu20.04
           imagePullPolicy: IfNotPresent
           resources:
             limits:
               nvidia.com/gpu: 2
         restartPolicy: Never
   

   YAML 컴포넌트 이해하기

   컴포넌트	설명
   메타데이터 및 레이블 이름	작업의 이름과 레이블을 입력하고 파일의 메타데이터와 spec template 메타데이터에 동일한 이름을 사용하십시오. 예를 들어, nvidia-devicequery입니다.
   containers.image	컨테이너가 실행 중인 인스턴스인 이미지를 제공하십시오. 이 예제에서 값은 DockerHub CUDA 디바이스 조회 이미지를 사용하도록 설정됩니다.nvcr.io/nvidia/k8s/cuda-sample:devicequery-cuda11.7.1-ubuntu20.04.
   containers.imagePullPolicy	이미지가 현재 작업자 노드에 있지 않은 경우에만 새 이미지를 가져오려면 IfNotPresent를 지정하십시오.
   resources.limits	GPU 머신의 경우 리소스 한계를 지정해야 합니다. Kubernetes 장치 플러그인은 기본 리소스 요청량을 제한값에 맞게 설정합니다. 키를 nvidia.com/gpu 로 지정해야 합니다. 요청하는 GPU의 개수를 정수로 입력하십시오(예: 2). 컨테이너 팟(Pod)은 GPU를 공유하지 않으며 GPU가 초과 커미트될 수 없습니다. 예를 들어, 1개의 mg1c.16x128 머신만 있는 경우 해당 머신에는 2개의 GPU만 있으며 최대 2를 지정할 수 있습니다.

2. YAML 파일을 적용하십시오. 예를 들어, 다음과 같습니다.

   kubectl apply -f nvidia-devicequery.yaml
   

3. nvidia-devicequery 레이블을 기준으로 포드를 필터링하여 작업 포드를 확인하세요. STATUS가 Completed인지 확인하십시오.

   kubectl get pod -A -l 'name in (nvidia-devicequery)'
   

   출력 예

   NAME                  READY     STATUS      RESTARTS   AGE
   nvidia-devicequery-ppkd4      0/1       Completed   0          36s
   

4. GPU 디바이스 플러그인이 팟(Pod)을 스케줄한 방법을 알 수 있도록 팟(Pod)에 대해 설명하십시오.

   • Limits 및 Requests 필드에서 사용자가 지정한 리소스 한계가 디바이스 플러그인에서 자동으로 설정한 요청과 일치하는지 확인하십시오.
   • 이벤트에서 팟(Pod)이 GPU 작업자 노드에 지정되었는지 확인하십시오.

       kubectl describe pod nvidia-devicequery-ppkd4
       ```
       출력 예
       ```sh {: screen}
       NAME:           nvidia-devicequery-ppkd4
       Namespace:      default
       ...
       Limits:
           nvidia.com/gpu:  1
       Requests:
           nvidia.com/gpu:  1
       ...
       Events:
       Type    Reason                 Age   From                     Message
       ----    ------                 ----  ----                     -------
       Normal  Scheduled              1m    default-scheduler        Successfully assigned nvidia-devicequery-ppkd4 to 10.xxx.xx.xxx
       ...
       ```
   

5. 로그를 확인하여 작업이 GPU를 사용하여 해당 워크로드를 계산했는지 확인할 수 있습니다.

   kubectl logs nvidia-devicequery-ppkd4
   

   출력 예

   /cuda-samples/sample Starting...
   CUDA Device Query (Runtime API) version (CUDART static linking)
   Detected 1 CUDA Capable device(s)
   Device 0: "Tesla P100-PCIE-16GB"
   CUDA Driver Version / Runtime Version          11.4 / 11.7
   CUDA Capability Major/Minor version number:    6.0
   Total amount of global memory:                 16281 MBytes (17071734784 bytes)
   (056) Multiprocessors, (064) CUDA Cores/MP:    3584 CUDA Cores
   GPU Max Clock rate:                            1329 MHz (1.33 GHz)
   Memory Clock rate:                             715 Mhz
   Memory Bus Width:                              4096-bit
   L2 Cache Size:                                 4194304 bytes
   Maximum Texture Dimension Size (x,y,z)         1D=(131072), 2D=(131072, 65536), 3D=(16384, 16384, 16384)
   Maximum Layered 1D Texture Size, (num) layers  1D=(32768), 2048 layers
   Maximum Layered 2D Texture Size, (num) layers  2D=(32768, 32768), 2048 layers
   Total amount of constant memory:               65536 bytes
   Total amount of shared memory per block:       49152 bytes
   Total shared memory per multiprocessor:        65536 bytes
   Total number of registers available per block: 65536
   Warp size:                                     32
   Maximum number of threads per multiprocessor:  2048
   Maximum number of threads per block:           1024
   Max dimension size of a thread block (x,y,z): (1024, 1024, 64)
   Max dimension size of a grid size    (x,y,z): (2147483647, 65535, 65535)
   Maximum memory pitch:                          2147483647 bytes
   Texture alignment:                             512 bytes
   Concurrent copy and kernel execution:          Yes with 2 copy engine(s)
   Run time limit on kernels:                     No
   Integrated GPU sharing Host Memory:            No
   Support host page-locked memory mapping:       Yes
   Alignment requirement for Surfaces:            Yes
   Device has ECC support:                        Enabled
   Device supports Unified Addressing (UVA):      Yes
   Device supports Managed Memory:                Yes
   Device supports Compute Preemption:            Yes
   Supports Cooperative Kernel Launch:            Yes
   Supports MultiDevice Co-op Kernel Launch:      Yes
   Device PCI Domain ID / Bus ID / location ID:   0 / 175 / 0
   Compute Mode:
   < Default (multiple host threads can use ::cudaSetDevice() with device simultaneously) >
   deviceQuery, CUDA Driver = CUDART, CUDA Driver Version = 11.4, CUDA Runtime Version = 11.7, NumDevs = 1
   Result = PASS
   

   이 예제에서 GPU가 작업자 노드에서 스케줄되었으므로 GPU가 작업을 실행하는 데 사용되었습니다. 한계가 2로 설정되면 2개의 GPU만 표시됩니다.

테스트용 GPU 워크로드를 배포했으니, 이제 GPU 처리에 의존하는 도구(예: IBM Maximo Visual Inspection.