Gestión de GPU y aceleradores para VPC

La familia de perfiles optimizados para GPU ofrece un acceso bajo demanda y rentable a las GPU y a los aceleradores. Las GPU y los aceleradores ayudan a acelerar el tiempo de procesamiento necesario para cargas de trabajo que requieren un uso intensivo de recursos computacionales, como la inteligencia artificial, el aprendizaje automático, la inferencia y otras. Para utilizar las GPU y los aceleradores, asegúrate de instalar el controlador adecuado y el kit de herramientas correspondiente a tus cargas de trabajo.

Configuración de una instancia de servidor virtual con una GPU NVIDIA

  1. Proporcione una instancia de servidor virtual eligiendo un perfil de GPU ( NVIDIA ) en el campo Perfil. Se admiten imágenes de sistema operativo personalizadas y de stock.
  2. Instale el controlador GPU NVIDIA de la imagen y el perfil de GPU de su instancia de servidor virtual. La siguiente tabla describe los niveles mínimos de controlador y de versión de software CUDA para los sistemas operativos Linux y Windows. Para más información, consulte la página de descarga de controladores de NVIDIA. Para obtener una visión general de los controladores para los productos de centro de datos NVIDIA, consulte NVIDIA Data Center Drivers.
NVIDIA y la versión CUDA para Linux
GPUs y drivers mínimos NVIDIA y versiones CUDA
GPU NVIDIA conductor Versión CUDA
A100 550 12.4
L4 550 12.4
L40s 550 12.4
V100 535 12.2
H100 550 12.4
H200 570 12.8
B300 Seleccionar disponibilidad 590 13.1
NVIDIA controladores y versión CUDA para Windows 2019, 2022, 2025
GPUs y drivers mínimos NVIDIA y versiones CUDA
GPU NVIDIA conductor Versión CUDA
A100 538 12.2
L4 538 12.2
L40s 538 12.2
V100 535 12.2
H100 N/D N/D
H200 N/D N/D
B300 N/D N/D
NVIDIA controladores y versión CUDA para Windows 2016
GPUs y drivers mínimos NVIDIA y versiones CUDA
GPU NVIDIA conductor Versión CUDA
A100 529 12.0
L4 529 12.0
L40s N/D N/D
V100 535 12.0
H100 N/D N/D
H200 N/D N/D
B300 N/D N/D
  1. Instale el kit de herramientas asociado a la carga de trabajo. Consulta la página de descargas del kit de herramientas CUDA en NVIDIA.

Para obtener instrucciones detalladas para completar los pasos 2 y 3, otras herramientas de GPU y ejemplos, consulte Cómo utilizar V100-Based en IBM Cloud VPC.

Para obtener una guía centrada en Linux sobre la instalación de los controladores de NVIDIA, consulta la NVIDIA Driver Installation Guide.

Si desea automatizar la instalación de los controladores, puede utilizar la sección Datos de usuario del servidor virtual. Utilizando el campo de datos de usuario, puede introducir un script que emita los comandos para instalar los controladores NVIDIA.

Configuración de una instancia de servidor virtual con una GPU NVIDIA B300

NVIDIA Los perfiles de servidor virtual acelerado HGX B300 están disponibles para clientes seleccionados. Cree un caso de asistencia si está interesado en adquirir y utilizar esta oferta.

Cuando se utiliza el perfil de GPU B300, el sistema operativo invitado necesita una actualización. Si no se modifica el SO huésped, es posible que aparezcan errores como "NVRM: Esta región de E/S PCI asignada a su dispositivo NVIDIA no es válida:"

Para configurar el SO invitado para la GPU B300:

  1. Estos comandos deben ejecutarse como root. Sudo de raíz.
    sudo -i
  2. Edita el archivo de configuración de grub. En el siguiente ejemplo se utiliza vi.
    vi /etc/default/grub.d/50-cloudimg-settings.cfg
  3. Añada los siguientes parámetros del kernel a la línea GRUB_CMDLINE_LINUX_DEFAULT:
    pci=assign-busses pci=realloc pci=nocrs pci=big_root_window
    La línea actualizada debería tener este aspecto:
    # CLOUD_IMG: This file was created/modified by the Cloud Image build process
GRUB_CMDLINE_LINUX_DEFAULT="nofb console=ttyS0 console=tty1 pci=assign-busses pci=realloc pci=nocrs pci=big_root_window"
  4. Actualiza grub para aplicar los cambios.
    update-grub2
  5. Reinicie el servidor virtual.
    reboot

Configuración de una instancia de servidor virtual con un acelerador de IA Intel Gaudi 3

  1. Proporcione una instancia de servidor virtual eligiendo el perfil de instancia Intel® Gaudi® 3 AI Accelerator en el campo Perfil. Se admiten imágenes de sistema operativo personalizadas y de stock.
  2. Instale el software Intel Gaudi 3 AI Accelerator y los controladores para su servidor virtual. Para descargar los controladores, consulte la página de instalación de controladores y software de Intel Gaudi.

Integración de controladores en una imagen personalizada desde el volumen

  1. Suministre una instancia de servidor virtual con una GPU e instala los controladores.
  2. Cree una imagen del volumen de arranque de la imagen en stock de la instancia de servidor virtual. Para obtener más información, consulte Creación de una imagen a partir de un volumen.
  3. Repita la imagen del proceso desde el volumen para desplegar en varias instancias.

Configuración de un servidor bare metal con un acelerador AMD Instinct MI300X

  1. Crea un servidor bare metal seleccionando el perfil de servidor AMD Instinct™ MI300X Accelerator en el campo Perfil. Se admiten imágenes de sistema operativo personalizadas y de stock.
  2. Instala los controladores necesarios para tu servidor físico. Para descargar los controladores, consulta la página Instalación de ROCm y marcos de aprendizaje automático.

Próximos pasos

Para obtener más información, consulta la documentación del controlador NVIDIA.