VPCのためのGPUとアクセラレータの管理

GPU対応のプロファイルファミリーにより、GPUやアクセラレータへのオンデマンドかつコスト効率の高いアクセスが可能になります。 GPUやアクセラレータは、AI、機械学習、推論など、計算負荷の高いワークロードに必要な処理時間を短縮するのに役立ちます。 GPU やアクセラレータを使用するには、ワークロードに適したドライバおよび関連ツールキットを必ずインストールしてください。

NVIDIA GPUを搭載した仮想サーバーインスタンスの設定

  1. プロファイルフィールドで NVIDIA のGPUプロファイル を選択して、 仮想サーバーインスタンス を提供します。 オペレーティング・システムはストック・イメージとカスタム・イメージがサポートされています。
  2. 仮想サーバー・インスタンスのイメージおよび GPU プロファイル用の NVIDIA GPU ドライバーをインストールします。 次の表は、 Linux および Windows オペレーティングシステム用の最小ドライバおよび CUDA ソフトウェアのバージョンレベルを示しています。 詳しくは、 NVIDIA 「 ドライバーのダウンロード 」ページをご覧ください。 NVIDIA データセンター製品用ドライバの概要については、 NVIDIA データセンター用ドライバを参照してください。
NVIDIA ドライバーとCUDAのバージョン Linux
GPU と最小 NVIDIA ドライバおよび CUDA バージョン
GPU NVIDIA ドライバー CUDAバージョン
A100 550 12.4
L4 550 12.4
L40s 550 12.4
V100 535 12.2
H100 550 12.4
H200 570 12.8
B300 空室状況を選択 590 13.1
NVIDIA Windows 2019、2022、2025用ドライバおよびCUDAバージョン
GPU と最小 NVIDIA ドライバおよび CUDA バージョン
GPU NVIDIA ドライバー CUDAバージョン
A100 538 12.2
L4 538 12.2
L40s 538 12.2
V100 535 12.2
H100 該当なし 該当なし
H200 該当なし 該当なし
B300 該当なし 該当なし
NVIDIA Windows 2016用ドライバとCUDAバージョン
GPU と最小 NVIDIA ドライバおよび CUDA バージョン
GPU NVIDIA ドライバー CUDAバージョン
A100 529 12.0
L4 529 12.0
L40s 該当なし 該当なし
V100 535 12.0
H100 該当なし 該当なし
H200 該当なし 該当なし
B300 該当なし 該当なし
  1. ワークロード用の関連ツールキットをインストールします。 NVIDIA の CUDA ツールキットのダウンロードページをご覧ください。

ステップ2と3を完了するための詳細な手順、その他のGPUツール、例については、V100-Based GPUをIBM Cloud VPCで使う方法を参照してください。

Linux 向けの「 NVIDIA 」ドライバーのインストール手順については、『 NVIDIA ドライバーインストールガイド 』を参照してください。

ドライバのインストールを自動化したい場合は、仮想サーバーの「 ユーザーデータ 」セクションを利用できます。 ユーザーデータフィールドを使用すると、 NVIDIA ドライバをインストールするコマンドを発行するスクリプトを入力できます。

NVIDIA B300 GPU による仮想サーバーインスタンスの設定

NVIDIA HGX B300 アクセラレーション仮想サーバー・プロファイルは、一部のお客様にご利用いただけます。 この製品の購入と使用に興味がある場合は、 サポートケースを 作成してください。

B300 GPU プロファイルを使用する場合、ゲスト OS のアップデートが必要です。 ゲスト OS が変更されていない場合、"NVRM: This PCI I/O region assigned to your NVIDIA device is invalid:" のようなエラーが表示されることがあります

B300 GPU 用にゲスト OS を設定するには:

  1. これらのコマンドはrootで実行する必要がある。 Sudo を根付かせる。
    sudo -i
    
  2. GRUBの設定ファイルを編集します。 次の例では、vi を使用しています。
    vi /etc/default/grub.d/50-cloudimg-settings.cfg
    
  3. GRUB_CMDLINE_LINUX_DEFAULT 、以下のカーネル・パラメーターを追加する:
    pci=assign-busses pci=realloc pci=nocrs pci=big_root_window
    
    更新された行は次のようになるはずだ:
    # CLOUD_IMG: This file was created/modified by the Cloud Image build process
    GRUB_CMDLINE_LINUX_DEFAULT="nofb console=ttyS0 console=tty1 pci=assign-busses pci=realloc pci=nocrs pci=big_root_window"
    
  4. grubをアップデートして変更を適用する。
    update-grub2
    
  5. 仮想サーバを再起動します。
    reboot
    

インテル® Gaudi 3 AI アクセラレーター搭載の仮想サーバーインスタンスの設定

  1. プロファイルフィールドで「Intel® Gaudi® 3 AI Accelerator」インスタンスプロファイル を選択して、 仮想サーバーインスタンス を提供します。 オペレーティング・システムはストック・イメージとカスタム・イメージがサポートされています。
  2. 仮想サーバーに Intel Gaudi 3 AI Accelerator ソフトウェアとドライバーをインストールします。 ドライバーのダウンロードについては、 インテル・ガウディ・ドライバーおよびソフトウェアのインストールページをご覧ください。

ボリュームからカスタムイメージにドライバを統合する

  1. GPU を使用して仮想サーバー・インスタンスをプロビジョンし、ドライバーをインストールします。
  2. 仮想サーバー・インスタンスのストック・イメージ・ブート・ボリュームからイメージを作成します。 詳しくは、ボリュームからのイメージの作成を参照してください。
  3. 複数のインスタンスにデプロイする場合は、ボリュームからのイメージの作成のプロセスを繰り返します。

AMD Instinct MI300X アクセラレータを搭載したベアメタルサーバーの設定

  1. [プロファイル]フィールドで「AMD Instinct™ MI300X Acceleratorベアメタルサーバープロファイル 」を選択し、 ベアメタルサーバーを作成します。 オペレーティング・システムはストック・イメージとカスタム・イメージがサポートされています。
  2. ベアメタルサーバーに必要なドライバーをインストールしてください。 ドライバをダウンロードするには、「 ROCm および機械学習フレームワークのインストール 」のページをご覧ください。

次のステップ

詳細については、『 NVIDIA 』のドライバのドキュメントを参照してください。