Gerenciamento de GPUs e aceleradores para VPC

A família de perfis com suporte a GPU oferece acesso sob demanda e com boa relação custo-benefício a GPUs e aceleradores. As GPUs e os aceleradores ajudam a reduzir o tempo de processamento necessário para cargas de trabalho que exigem grande capacidade computacional, como IA, aprendizado de máquina, inferência e muito mais. Para utilizar as GPUs e os aceleradores, certifique-se de instalar o driver adequado e o kit de ferramentas associado às suas cargas de trabalho.

Configurando uma instância de servidor virtual com uma GPU do tipo “ NVIDIA ”

  1. Provisione uma instância de servidor virtual escolhendo um perfil de GPU NVIDIA no campo Profile (Perfil). As imagens customizadas do sistema operacional e da biblioteca de imagens são suportadas.
  2. Instale o driver de GPU NVIDIA para a imagem de sua instância de servidor virtual e perfil de GPU. A tabela a seguir descreve os níveis mínimos de versão do driver e do software CUDA para os sistemas operacionais Linux e Windows. Para obter mais informações, consulte a página de download de drivers do site NVIDIA. Para obter uma visão geral dos drivers dos produtos de data center NVIDIA, consulte NVIDIA Data Center Drivers.
NVIDIA drivers e versão CUDA para Linux
GPUs e drivers mínimos NVIDIA e versões CUDA
GPU NVIDIA motorista Versão CUDA
A100 550 12.4
L4 550 12.4
L40s 550 12.4
V100 535 12.2
H100 550 12.4
H200 570 12.8
B300 Selecione a disponibilidade 590 13.1
NVIDIA drivers e versão CUDA para Windows 2019, 2022, 2025
GPUs e drivers mínimos NVIDIA e versões CUDA
GPU NVIDIA motorista Versão CUDA
A100 538 12.2
L4 538 12.2
L40s 538 12.2
V100 535 12.2
H100 N/A N/A
H200 N/A N/A
B300 N/A N/A
NVIDIA drivers e versão CUDA para Windows 2016
GPUs e drivers mínimos NVIDIA e versões CUDA
GPU NVIDIA motorista Versão CUDA
A100 529 12.0
L4 529 12.0
L40s N/A N/A
V100 535 12.0
H100 N/A N/A
H200 N/A N/A
B300 N/A N/A
  1. Instale o kit de ferramentas associado para sua carga de trabalho. Consulte a página de downloads do kit de ferramentas CUDA em NVIDIA.

Para obter instruções detalhadas para concluir as etapas 2 e 3, outras ferramentas de GPU e exemplos, consulte Como usar GPUs baseadas em V100-Based em IBM Cloud VPC.

Para obter um guia voltado para o Linux sobre a instalação dos drivers do NVIDIA, consulte o Guia de Instalação de Drivers do NVIDIA.

Se você quiser automatizar a instalação dos drivers, pode usar a seção “Dados do usuário ” do servidor virtual. Usando o campo de dados do usuário, você pode inserir um script que emite os comandos para instalar os drivers do NVIDIA.

Configuração de uma instância de servidor virtual com uma GPU NVIDIA B300

NVIDIA Os perfis de servidor virtual acelerado HGX B300 estão disponíveis para clientes selecionados. Crie um caso de suporte se você estiver interessado em comprar e usar essa oferta.

Quando você usa o perfil de GPU B300, o sistema operacional convidado precisa de uma atualização. Se o sistema operacional convidado não for modificado, você poderá ver erros como "NVRM: This PCI I/O region assigned to your NVIDIA device is invalid:"

Para configurar o sistema operacional convidado para a GPU B300:

  1. Esses comandos devem ser executados como root. Sudo para enraizar.
    sudo -i
  2. Edite o arquivo de configuração do GRUB. O exemplo a seguir utiliza o vi.
    vi /etc/default/grub.d/50-cloudimg-settings.cfg
  3. Adicione os seguintes parâmetros do kernel à linha GRUB_CMDLINE_LINUX_DEFAULT:
    pci=assign-busses pci=realloc pci=nocrs pci=big_root_window
    A linha atualizada deve ter a seguinte aparência:
    # CLOUD_IMG: This file was created/modified by the Cloud Image build process
GRUB_CMDLINE_LINUX_DEFAULT="nofb console=ttyS0 console=tty1 pci=assign-busses pci=realloc pci=nocrs pci=big_root_window"
  4. Atualize o grub para aplicar as alterações.
    update-grub2
  5. Reinicie o servidor virtual.
    reboot

Configuração de uma instância de servidor virtual com um Intel Gaudi 3 AI Accelerator

  1. Provisione uma instância de servidor virtual escolhendo o perfil de instância do Intel® Gaudi® 3 AI Accelerator no campo Perfil. As imagens customizadas do sistema operacional e da biblioteca de imagens são suportadas.
  2. Instale o software e os drivers do Intel Gaudi 3 AI Accelerator em seu servidor virtual. Para fazer o download dos drivers, consulte a página de instalação do driver e do software Intel Gaudi.

Integração de drivers em uma imagem personalizada a partir do volume

  1. Provisione uma instância de servidor virtual com um GPU e instale os drivers.
  2. Crie uma imagem por meio do volume de inicialização do banco de imagens da instância de servidor virtual. Para obter mais informações, consulte Criando uma imagem a partir de um volume.
  3. Repita a imagem do processo de volume para implementar em várias instâncias.

Configurando um servidor bare metal com um acelerador AMD Instinct MI300X

  1. Crie um servidor bare metal selecionando o perfil de servidor bare metal “AMD Instinct™ MI300X Accelerator” no campo “Perfil”. As imagens customizadas do sistema operacional e da biblioteca de imagens são suportadas.
  2. Instale os drivers necessários para o seu servidor bare metal. Para baixar os drivers, consulte a página “Instalando o ROCm e as estruturas de aprendizado de máquina ”.

Próximas etapas

Para obter mais informações, consulte a documentação do driver “ NVIDIA ”.