Instalando o complemento Red Hat OpenShift AI

Siga as etapas para instalar o complemento OpenShift AI em um cluster existente.

Deseja implantar o operador OpenShift de IA em um novo cluster? Experimente a OpenShift IA em IBM Cloud arquitetura implantável.

Requisitos mínimos

Analise as considerações a seguir antes de configurar o add-on.

  • Analise as versões de complemento de cluster com suporte e determine qual versão de complemento deve ser instalada em seu cluster.
  • Seu cluster deve ter pelo menos 2 nós de trabalho. Cada nó de trabalho deve ter um mínimo de 8vCPU e 32GB memória.
  • Seus nós de trabalho devem usar o sistema operacional RHCOS.
  • Você deve permitir o tráfego de saída de seu cluster para instalar os operadores necessários.

Versões suportadas

Analise as versões do complemento OpenShift AI compatíveis e as versões correspondentes do OpenShift AI e do Red Hat OpenShift on IBM Cloud correspondentes.

Versões de complemento de IA compatíveis e versões correspondentes para Red Hat OpenShift AI e Red Hat OpenShift on IBM Cloud.
OpenShift Versão do complemento de IA Red Hat OpenShift Versão com IA Versões de cluster compatíveis
420 3.4.2 420.421
419 3.4.0 4.19, 4.20, 4.21
418 2.25.6 4.18, 4.19
417 2.25.6 4.17, 4.18
416 2.25.6 4.16, 4.17

Não há suporte para a atualização da versão 418 para a 419. Somente novas instalações da versão 419 são permitidas. Para obter mais informações, consulte “Sobre o complemento de IA do OpenShift ”.

Considerações

  • Para usar todos os recursos oferecidos pelo OpenShift AI, recomenda-se pelo menos 1 GPU.
  • Seu cluster pode ter uma combinação de nós com GPU e sem GPU. No entanto, se você usar essa configuração, certifique-se de implementar seu aplicativo em um nó de GPU para aproveitar seus recursos.
  • A partir da versão 2.19.0 do OpenShift AI Operator, o KServe está disponível no modo Advanced ou Standard. Por padrão, quando você instala o KServe usando o OpenShift AI usando o complemento IBM Cloud, ele é instalado no modo Standard. Se quiser usar o modo Advanced, você deverá concluir as etapas opcionais após instalar o complemento.

Antes de Iniciar

Conclua estas etapas antes de instalar o add-on.

  1. Efetue login na sua conta. If applicable, target the appropriate resource group. Configure o contexto para o seu cluster.

  2. Opcional: se você ainda não tiver um, crie um VPC Public Gateway.

  3. Se quiser usar os operadores OpenShift Pipelines, Node Feature Discovery ou NVIDIA GPU com o complemento OpenShift AI, você deverá ativar o OperatorHub em seu cluster e desativar a proteção de tráfego de saída. Se você não quiser usar esses operadores, pule esta etapa.

    1. Habilite o OperatorHub em seu cluster.
    oc patch operatorhub cluster --type json -p '[{"op": "add", "path": "/spec/disableAllDefaultSources", "value": false}]'
    
    1. Desativar a proteção do tráfego de saída.

    A desativação da proteção do tráfego de saída permite todas as conexões de rede externas. Consulte Gerenciamento da proteção do tráfego de saída em clusters de VPC para obter mais informações.

    ibmcloud oc vpc outbound-traffic-protection disable --cluster CLUSTER
    

Pré-requisitos

Conclua estas etapas antes de instalar o add-on.

  1. Efetue login na sua conta. If applicable, target the appropriate resource group. Configure o contexto para o seu cluster.

  2. Opcional: se você ainda não tiver um, crie um VPC Public Gateway.

  3. Se quiser usar os operadores OpenShift Pipelines, Node Feature Discovery ou NVIDIA GPU com o complemento OpenShift AI, você deverá ativar o OperatorHub em seu cluster e desativar a proteção de tráfego de saída. Se você não quiser usar esses operadores, pule esta etapa.

    1. Habilite o OperatorHub em seu cluster.
    oc patch operatorhub cluster --type json -p '[{"op": "add", "path": "/spec/disableAllDefaultSources", "value": false}]'
    
    1. Desativar a proteção do tráfego de saída.

    A desativação da proteção do tráfego de saída permite todas as conexões de rede externas. Consulte Gerenciamento da proteção do tráfego de saída em clusters de VPC para obter mais informações.

    1. No console, navegue até a página Clusters e clique no cluster relevante.
    2. Na página Overview (Visão geral) do cluster, localize a seção Networking (Rede) e selecione a opção Outbound traffic protection disabled (Proteção de tráfego de saída desativada ).

Etapa 1: Escolha as opções de personalização

Você pode aprimorar seus projetos de IA do Red Hat OpenShift especificando diferentes opções a serem incluídas na instalação do add-on, como pipelines de dados para criar fluxos de trabalho de aprendizado de máquina portáteis ou ferramentas para gerenciar e dimensionar seus recursos. Você também pode personalizar as políticas de upgrade e de exclusão. Para obter descrições de cada opção disponível, consulte OpenShift AI customization options. Se você não incluir uma opção específica ao instalar o add-on, o valor padrão será aplicado. Essas opções são gerenciadas pela plataforma de IA Red Hat OpenShift.

Na CLI, execute o comando para listar todas as opções. Na interface do usuário, essas opções são listadas na seção Capabilities (Recursos ) durante a instalação.

ibmcloud oc cluster addon options --addon openshift-ai

Etapa 2: Analise os operadores adicionais recomendados

Você pode optar por instalar também operadores adicionais que são recomendados para o uso de determinados recursos do OpenShift AI. Se eles ainda não estiverem instalados em seu cluster, você poderá optar por incluí-los na instalação do complemento. Ou você pode instalá-los a qualquer momento usando o site OperatorHub ou seguindo as etapas de instalação específicas do operador. Para usar esses operadores, você deve desativar a proteção do tráfego de saída do cluster.

Você é responsável pelo gerenciamento desses operadores, incluindo, entre outros, a atualização, o monitoramento, a recuperação e a reinstalação.

Recomenda-se o uso dos seguintes operadores.

Alguns desses operadores podem incluir personalizações adicionais que você pode optar por especificar ao instalar o complemento. Revise a lista de personalizações disponíveis para os operadores recomendados.

Etapa 3: instalar o complemento na CLI

Execute o comando para instalar o complemento Red Hat OpenShift AI. Especifique as personalizações com o formato --parameter PARAM=VALUE. Por exemplo, para incluir a opção Data Science Pipelines, especifique --parameter oaiDataSciencePipelines=Managed.

Para incluir os operadores recomendados ao instalar o add-on com a CLI, especifique as seguintes opções ao executar o comando de instalação.

  • OpenShift Dutos: --parameter pipelineEnabled=true
  • Node Descoberta de recursos: --parameter nfdEnabled=true
  • NVIDIA Operador de GPU: --parameter nvidiaEnabled=true

Para obter uma lista das versões disponíveis, consulte Versões compatíveis.

Comando de instalação.

ibmcloud oc cluster addon enable openshift-ai --cluster CLUSTER [-f] [--param PARAM] [-q] [--version VERSION]

Exemplo de comando para instalar o complemento com atualizações automáticas de correções e secundárias, CodeFlare, e KServe ativados.

ibmcloud oc cluster addon enable openshift-ai --cluster CLUSTER --param oaiInstallPlanApproval=Automatic --param oaiCodeflare=Managed --param oaiKserve=Managed

Etapa 2: Analise os operadores adicionais recomendados

Você pode optar por instalar também operadores adicionais que são recomendados para o uso de determinados recursos do OpenShift AI. Se eles ainda não estiverem instalados em seu cluster, você poderá optar por incluí-los na instalação do complemento. Ou você pode instalá-los a qualquer momento usando o site OperatorHub ou seguindo as etapas de instalação específicas do operador. Para usar esses operadores, você deve desativar a proteção do tráfego de saída do cluster.

Você é responsável pelo gerenciamento desses operadores, incluindo, entre outros, a atualização, o monitoramento, a recuperação e a reinstalação.

Recomenda-se o uso dos seguintes operadores.

Alguns desses operadores podem incluir personalizações adicionais que você pode optar por especificar ao instalar o complemento. Revise a lista de personalizações disponíveis para os operadores recomendados.

Etapa 3: Instale o complemento na interface do usuário

Instale o complemento Red Hat OpenShift AI com a interface do usuário.

  1. Navegue até a página do seu cluster e clique no cluster relevante.

  2. Na página de detalhes do cluster, localize a seção Add-ons. Localize a opção Red Hat OpenShift AI e clique em Install (Instalar ).

  3. Na seção Capabilities (Recursos), examine a descrição das opções de personalização de add-on disponíveis e ative as opções que deseja incluir na instalação.

  4. Na seção Operadores recomendados adicionais, clique para expandir cada operador e selecione as opções de personalização que deseja incluir. Esses operadores e personalizações adicionais são recomendados para determinados recursos de IA do Red Hat OpenShift. Você pode optar por instalar essas opções posteriormente, usando o site OperatorHub ou seguindo as etapas de instalação específicas do operador.

    Você é responsável pelo gerenciamento desses operadores, incluindo, entre outros, a atualização, o monitoramento, a recuperação e a reinstalação.

  5. Clique em Instalar.

Etapa 4: Acesse o painel de controle do OpenShift AI

Depois de instalar o complemento OpenShift AI, você poderá acessar o painel OpenShift AI.

  1. Na página de visão geral do seu cluster, clique em “ OpenShift ” no console da web.
  2. No site Iniciador de aplicativos Iniciador de aplicativos, selecione a opção de painel Red Hat OpenShift IA.
  3. Se solicitado, clique em Log in with OpenShift.

Opcional: Configuração do KServe no modo avançado

Se quiser usar o KServe no modo Advanced, você deverá concluir as etapas a seguir.

  1. Instale o OpenShift Serverless Operator em OperatorHub.
  2. Instale o OpenShift Service Mesh Operator em OperatorHub.
  3. Defina o estado de gerenciamento da malha de serviço como Managed em seu CR de inicialização do cluster de ciência de dados.
    serviceMesh:
        controlPlane:
            metricsCollection: Istio
            name: data-science-smcp
            namespace: istio-system
        managementState: Managed
    
  4. Defina o estado de gerenciamento do serviço KServe como Managed em seu recurso personalizado do Data Science Cluster.
    kserve:
        managementState: Managed
        serving:
          managementState: Managed
          name: knative-serving
    

OpenShift Opções de personalização de IA

Analise as opções de personalização disponíveis para o complemento OpenShift AI. Essas operadoras são gerenciadas pela plataforma de IA Red Hat OpenShift.

Para incluir uma opção ao instalar o complemento OpenShift AI com a CLI, inclua a opção com o --parameter PARAM=VALUE formato ao executar o ibmcloud oc cluster addon enable openshift-ai. Por exemplo, para instalar o complemento com a opção Data Science Pipelines, especifique --parameter oaiDataSciencePipelines=Managed.

Para incluir uma opção ao instalar o complemento OpenShift de IA com a interface do usuário, clique para ativar a opção quando solicitado. Essas opções estão incluídas na seção Recursos.

OpenShift Opções de personalização do complemento de IA e parâmetros da CLI.
Customização Parâmetro da CLI Descrição Valores Valor Padrão
OpenShift Política de aprovação de atualizações menores e de correção da plataforma de IA oaiInstallPlanApproval Aplique atualizações secundárias e de patches automática ou manualmente. Automatic ou Manual Automatic
OpenShift Política de exclusão de IA oaiDeletePolicy Mantenha ou exclua quaisquer operadores ou componentes instalados pelo add-on se o add-on for removido. Retain ou Delete Retain
Painel do hub de dados abertos oaiDashboard Ativar ou desativar o componente. Se ativado, ele é gerenciado pela plataforma de IA OpenShift. Managed para ativar
Removed para desativar
Managed (ativado)
Kueue oaiKueue Ativar ou desativar o componente. Se ativado, ele é gerenciado pela plataforma de IA OpenShift. Managed para ativar
Removed para desativar
Managed (ativado)
CodeFlare oaiCodeflare Ativar ou desativar o componente. Se ativado, ele é gerenciado pela plataforma de IA OpenShift. Managed para ativar
Removed para desativar
Managed (ativado)
ModelMesh Servindo oaiModelmeshserving Ativar ou desativar o componente. Se ativado, ele é gerenciado pela plataforma de IA OpenShift. Managed para ativar
Removed para desativar
Managed (ativado)
Ambiente de Trabalho oaiWorkbenches Ativar ou desativar o componente. Se ativado, ele é gerenciado pela plataforma de IA OpenShift. Managed para ativar
Removed para desativar
Managed (ativado)
Pipelines de ciência de dados oaiDataSciencePipelines Ativar ou desativar o componente. Se ativado, ele é gerenciado pela plataforma de IA OpenShift. Managed para ativar
Removed para desativar
Managed (ativado)
KServe oaiKserve Ativar ou desativar o componente. Se ativado, ele é gerenciado pela plataforma de IA OpenShift. Managed para ativar
Removed para desativar
Managed (ativado)
Ray oaiRay Ativar ou desativar o componente. Se ativado, ele é gerenciado pela plataforma de IA OpenShift. Managed para ativar
Removed para desativar
Managed (ativado)

Operadores adicionais recomendados

Analise os operadores recomendados e as personalizações opcionais que você pode incluir durante a instalação. Você é responsável pelo gerenciamento desses operadores, incluindo, entre outros, a atualização, o monitoramento, a recuperação e a reinstalação.

Para incluir uma personalização para um operador ao instalar o complemento OpenShift AI com a CLI, inclua a opção com o --parameter PARAM=VALUE formato ao executar o ibmcloud oc cluster addon enable openshift-ai. Por exemplo, para incluir a personalização do NVIDIA armazenamento GPUDirect para o NVIDIA operador, especifique --parameter nvidiaGpuDirectStorageEnabled=true.

Para incluir uma personalização para um operador ao instalar o complemento OpenShift de IA com a interface do usuário, clique para ativar a opção quando solicitado. Observe que existem operadores NVIDIA adicionais com configurações padrão que só podem ser alteradas na CLI ou editando o ClusterPolicy.

OpenShift Opções de personalização de complementos de IA para operadores adicionais. Essas configurações podem ser alteradas durante a instalação na CLI ou na interface do usuário.
Customização Parâmetro da CLI Descrição Valor Configuração padrão
Node Política de exclusão da descoberta de recursos nfdDeletePolicy Mantenha ou exclua o operador se o complemento OpenShift AI for removido. Retain (padrão) ou Delete Retain
NVIDIA Política de exclusão de operadores de GPU nvidiaDeletePolicy Mantenha ou exclua o operador se o complemento OpenShift AI for removido. Retain (padrão) ou Delete Retain
NVIDIA Teste pós-instalação do CUDA nvidiaCudaTest Habilite o teste NVIDIA CUDA. true (ativado, padrão)
false (desativado)
false (desativado)
Política de exclusão do operador de pipeline pipelineDeletePolicy Mantenha ou exclua o operador se o complemento OpenShift AI for removido. Retain (padrão) ou Delete

Os seguintes operadores de GPU NVIDIA se aplicam com as configurações padrão. Só é possível alterar essas configurações durante a instalação se você instalar o add-on com a CLI. Após a instalação, você pode alterar essas configurações, na interface do usuário ou na CLI, editando o endereço ClusterPolicy.

OpenShift Opções de personalização de complementos de IA para operadores adicionais. Essas configurações podem ser alteradas durante a instalação somente na CLI.
Customização Parâmetro da CLI Descrição Valores da CLI Configuração padrão da interface do usuário
NVIDIA Cargas de trabalho de sandbox nvidiaSandboxWorkloads Permitir o gerenciamento de operandos adicionais necessários para cargas de trabalho de sandbox. true (ativado, padrão)
false (desativado)
Enabled
NVIDIA vGPU Gerente nvidiaVgpuManagerEnabled Habilite o NVIDIA vGPU Manager. true (ativado, padrão)
false (desativado)
Enabled
NVIDIA Armazenamento direto GPUD nvidiaGpuDirectStorageEnabled Ativar o armazenamento GPUDirect. true (ativado, padrão)
false (desativado)
Enabled
NVIDIA Node Exportador de status nvidiaNodeStatusExporterEnabled Ativar o Exportador de status do Node. true (ativado, padrão)
false (desativado)
Enabled
NVIDIA Gerenciador de E/S de Funções Virtuais nvidiaVfioManagerEnabled Habilite o VFIO Manager para configuração a fim de implantar a VFIO-PCI. true (ativado, padrão)
false (desativado)
Enabled
NVIDIA Plug-in de dispositivo de sandbox nvidiaSandboxDevicePluginEnabled Habilite o plug-in de dispositivo do NVIDIA Sandbox. true (ativado, padrão)
false (desativado)
Enabled
Gerenciador de GPU de várias instâncias da NVIDA nvidiaMigManagerEnabled Habilite o NVIDIA Multi Instance GPU Manager. true (ativado, padrão)
false (desativado)
Enabled
NVIDIA Implementação do mecanismo de host do Data Center GPU Manager nvidiaDcgmEnabled Ative a implantação do Hostengine do GPU Manager do Data Center NVIDIA como um pod separado. true (ativado, padrão)
false (desativado)
Enabled
NVIDIA vGPU Gerenciador de Dispositivos nvidiaVgpuDeviceManagerEnabled Habilite NVIDIA vGPU Device Manager. true (ativado, padrão)
false (desativado)
Enabled

O que vem a seguir?