VPC용 GPU 및 가속기 관리

GPU 지원 프로파일 제품군은 GPU 및 가속기에 대한 주문형이며 비용 효율적인 접근을 제공합니다. GPU와 가속기는 AI, 머신러닝, 추론 등 연산 집약적인 워크로드에 필요한 처리 시간을 단축하는 데 도움을 줍니다. GPU 및 가속기를 사용하려면 해당 워크로드에 적합한 드라이버와 관련 툴킷을 설치했는지 확인하십시오.

NVIDIA GPU가 탑재된 가상 서버 인스턴스 구성

  1. 프로필 필드에서 NVIDIA 의 GPU 프로필을 선택하여 가상 서버 인스턴스를 제공합니다. 스톡 및 사용자 정의 운영 체제 이미지가 지원됩니다.
  2. 가상 서버 인스턴스의 이미지 및 GPU 프로파일에 적합한 NVIDIA GPU 드라이버를 설치하십시오. 다음 표는 Linux 및 Windows 운영 체제에 대한 최소 드라이버 및 CUDA 소프트웨어 버전 수준을 설명합니다. 자세한 내용은 NVIDIA 의 드라이버 다운로드 페이지를 참조하세요. NVIDIA 데이터 센터 제품용 드라이버에 대한 개요는 NVIDIA 데이터 센터 드라이버를 참조하세요.
NVIDIA 드라이버 및 CUDA 버전 Linux
GPU 및 최소 NVIDIA 드라이버 및 CUDA 버전
GPU NVIDIA 드라이버 CUDA 버전
A100 550 12.4
L4 550 12.4
L40s 550 12.4
V100 535 12.2
H100 550 12.4
H200 570 12.8
B300 사용 가능 여부 선택 590 13.1
NVIDIA 드라이버 및 Windows 2019, 2022, 2025용 CUDA 버전
GPU 및 최소 NVIDIA 드라이버 및 CUDA 버전
GPU NVIDIA 드라이버 CUDA 버전
A100 538 12.2
L4 538 12.2
L40s 538 12.2
V100 535 12.2
H100 해당사항 없음 해당사항 없음
H200 해당사항 없음 해당사항 없음
B300 해당사항 없음 해당사항 없음
NVIDIA 드라이버 및 Windows 2016용 CUDA 버전
GPU 및 최소 NVIDIA 드라이버 및 CUDA 버전
GPU NVIDIA 드라이버 CUDA 버전
A100 529 12.0
L4 529 12.0
L40s 해당사항 없음 해당사항 없음
V100 535 12.0
H100 해당사항 없음 해당사항 없음
H200 해당사항 없음 해당사항 없음
B300 해당사항 없음 해당사항 없음
  1. 워크로드에 적합한 연관된 툴킷을 설치하십시오. NVIDIA 의 CUDA 툴킷 다운로드 페이지를 참조하십시오.

2단계와 3단계를 완료하기 위한 자세한 지침, 기타 GPU 도구 및 예제는 V100-Based GPU를 IBM Cloud VPC를 참조하세요.

Linux 에 중점을 둔 NVIDIA 드라이버 설치 안내서는 ‘ NVIDIA 드라이버 설치 안내서’를 참조하십시오.

드라이버 설치를 자동화하려면 가상 서버의 ‘사용자 데이터’ 섹션을 사용할 수 있습니다. 사용자 데이터 필드를 사용하여 NVIDIA 드라이버를 설치하는 명령을 실행하는 스크립트를 입력할 수 있습니다.

NVIDIA B300 GPU로 가상 서버 인스턴스 구성하기

NVIDIA 일부 고객은 HGX B300 가속 가상 서버 프로필을 사용할 수 있습니다. 이 제품을 구매하고 사용하는 데 관심이 있는 경우 지원 사례를 만드세요.

B300 GPU 프로필을 사용하는 경우 게스트 운영 체제를 업데이트해야 합니다. 게스트 OS가 수정되지 않은 경우 "NVRM: NVIDIA 장치에 할당된 이 PCI I/O 영역이 유효하지 않습니다:"와 같은 오류가 표시될 수 있습니다

B300 GPU용 게스트 OS를 구성하려면:

  1. 이러한 명령은 루트로 실행해야 합니다. Sudo 를 루트로 설정합니다.
    sudo -i
  2. grub 설정 파일을 편집합니다. 다음 예제에서는 vi를 사용합니다.
    vi /etc/default/grub.d/50-cloudimg-settings.cfg
  3. GRUB_CMDLINE_LINUX_DEFAULT 줄에 다음 커널 매개 변수를 추가합니다:
    pci=assign-busses pci=realloc pci=nocrs pci=big_root_window
    업데이트된 줄은 다음과 같이 표시되어야 합니다:
    # CLOUD_IMG: This file was created/modified by the Cloud Image build process
GRUB_CMDLINE_LINUX_DEFAULT="nofb console=ttyS0 console=tty1 pci=assign-busses pci=realloc pci=nocrs pci=big_root_window"
  4. Grub을 업데이트하여 변경 사항을 적용합니다.
    update-grub2
  5. 가상 서버를 다시 시작합니다.
    reboot

Intel Gaudi 3 AI Accelerator를 이용한 가상 서버 인스턴스 구성

  1. 프로필 필드에서 Intel® Gaudi® 3 AI Accelerator 인스턴스 프로필을 선택하여 가상 서버 인스턴스를 제공합니다. 스톡 및 사용자 정의 운영 체제 이미지가 지원됩니다.
  2. 가상 서버용 인텔 가우디 3 AI 가속기 소프트웨어와 드라이버를 설치하십시오. 드라이버를 다운로드하려면 인텔 가우디 드라이버 및 소프트웨어 설치 페이지를 참조하십시오.

볼륨에서 드라이버를 사용자 정의 이미지로 통합

  1. GPU를 포함하는 가상 서버 인스턴스를 프로비저닝하고 드라이버를 설치하십시오.
  2. 가상 서버 인스턴스 재고 이미지 부트 볼륨으로부터 이미지를 작성하십시오. 자세한 정보는 볼륨에서 이미지 작성을 참조하십시오.
  3. 여러 인스턴스에 배치하려면 볼륨으로부터의 이미지 작성 프로세스를 반복하십시오.

AMD Instinct MI300X 가속기가 탑재된 베어 메탈 서버 구성

  1. 베어 메탈 서버 생성 ‘프로필’ 필드에서 AMD Instinct™ MI300X 가속기 베어 메탈 서버 프로필 를 선택합니다. 스톡 및 사용자 정의 운영 체제 이미지가 지원됩니다.
  2. 베어 메탈 서버에 필요한 드라이버를 설치하십시오. 드라이버를 다운로드하려면 ‘ROCm 및 머신러닝 프레임워크 설치’ 페이지를 참조하십시오.

다음 단계

자세한 내용은 NVIDIA 의 드라이버 설명서를 참조하십시오.