Instalando o complemento Red Hat OpenShift AI
Siga as etapas para instalar o complemento OpenShift AI em um cluster existente.
Deseja implantar o operador OpenShift de IA em um novo cluster? Experimente a OpenShift IA em IBM Cloud arquitetura implantável.
Requisitos mínimos
Analise as considerações a seguir antes de configurar o add-on.
- Analise as versões de complemento de cluster com suporte e determine qual versão de complemento deve ser instalada em seu cluster.
- Seu cluster deve ter pelo menos 2 nós de trabalho. Cada nó de trabalho deve ter um mínimo de 8vCPU e 32GB memória.
- Seus nós de trabalho devem usar o sistema operacional RHCOS.
- Você deve permitir o tráfego de saída de seu cluster para instalar os operadores necessários.
Versões suportadas
Analise as versões do complemento OpenShift AI compatíveis e as versões correspondentes do OpenShift AI e do Red Hat OpenShift on IBM Cloud correspondentes.
| OpenShift Versão do complemento de IA | Red Hat OpenShift Versão com IA | Versões de cluster compatíveis |
|---|---|---|
| 420 | 3.4.2 | 420.421 |
| 419 | 3.4.0 | 4.19, 4.20, 4.21 |
| 418 | 2.25.6 | 4.18, 4.19 |
| 417 | 2.25.6 | 4.17, 4.18 |
| 416 | 2.25.6 | 4.16, 4.17 |
Não há suporte para a atualização da versão 418 para a 419. Somente novas instalações da versão 419 são permitidas. Para obter mais informações, consulte “Sobre o complemento de IA do OpenShift ”.
Considerações
- Para usar todos os recursos oferecidos pelo OpenShift AI, recomenda-se pelo menos 1 GPU.
- Seu cluster pode ter uma combinação de nós com GPU e sem GPU. No entanto, se você usar essa configuração, certifique-se de implementar seu aplicativo em um nó de GPU para aproveitar seus recursos.
- A partir da versão 2.19.0 do OpenShift AI Operator, o KServe está disponível no modo Advanced ou Standard. Por padrão, quando você instala o KServe usando o OpenShift AI usando o complemento IBM Cloud, ele é instalado no modo Standard. Se quiser usar o modo Advanced, você deverá concluir as etapas opcionais após instalar o complemento.
Antes de Iniciar
Conclua estas etapas antes de instalar o add-on.
-
Opcional: se você ainda não tiver um, crie um VPC Public Gateway.
-
Se quiser usar os operadores OpenShift Pipelines, Node Feature Discovery ou NVIDIA GPU com o complemento OpenShift AI, você deverá ativar o OperatorHub em seu cluster e desativar a proteção de tráfego de saída. Se você não quiser usar esses operadores, pule esta etapa.
- Habilite o OperatorHub em seu cluster.
oc patch operatorhub cluster --type json -p '[{"op": "add", "path": "/spec/disableAllDefaultSources", "value": false}]'- Desativar a proteção do tráfego de saída.
A desativação da proteção do tráfego de saída permite todas as conexões de rede externas. Consulte Gerenciamento da proteção do tráfego de saída em clusters de VPC para obter mais informações.
ibmcloud oc vpc outbound-traffic-protection disable --cluster CLUSTER
Pré-requisitos
Conclua estas etapas antes de instalar o add-on.
-
Opcional: se você ainda não tiver um, crie um VPC Public Gateway.
-
Se quiser usar os operadores OpenShift Pipelines, Node Feature Discovery ou NVIDIA GPU com o complemento OpenShift AI, você deverá ativar o OperatorHub em seu cluster e desativar a proteção de tráfego de saída. Se você não quiser usar esses operadores, pule esta etapa.
- Habilite o OperatorHub em seu cluster.
oc patch operatorhub cluster --type json -p '[{"op": "add", "path": "/spec/disableAllDefaultSources", "value": false}]'- Desativar a proteção do tráfego de saída.
A desativação da proteção do tráfego de saída permite todas as conexões de rede externas. Consulte Gerenciamento da proteção do tráfego de saída em clusters de VPC para obter mais informações.
- No console, navegue até a página Clusters e clique no cluster relevante.
- Na página Overview (Visão geral) do cluster, localize a seção Networking (Rede) e selecione a opção Outbound traffic protection disabled (Proteção de tráfego de saída desativada ).
Etapa 1: Escolha as opções de personalização
Você pode aprimorar seus projetos de IA do Red Hat OpenShift especificando diferentes opções a serem incluídas na instalação do add-on, como pipelines de dados para criar fluxos de trabalho de aprendizado de máquina portáteis ou ferramentas para gerenciar e dimensionar seus recursos. Você também pode personalizar as políticas de upgrade e de exclusão. Para obter descrições de cada opção disponível, consulte OpenShift AI customization options. Se você não incluir uma opção específica ao instalar o add-on, o valor padrão será aplicado. Essas opções são gerenciadas pela plataforma de IA Red Hat OpenShift.
Na CLI, execute o comando para listar todas as opções. Na interface do usuário, essas opções são listadas na seção Capabilities (Recursos ) durante a instalação.
ibmcloud oc cluster addon options --addon openshift-ai
Etapa 2: Analise os operadores adicionais recomendados
Você pode optar por instalar também operadores adicionais que são recomendados para o uso de determinados recursos do OpenShift AI. Se eles ainda não estiverem instalados em seu cluster, você poderá optar por incluí-los na instalação do complemento. Ou você pode instalá-los a qualquer momento usando o site OperatorHub ou seguindo as etapas de instalação específicas do operador. Para usar esses operadores, você deve desativar a proteção do tráfego de saída do cluster.
Você é responsável pelo gerenciamento desses operadores, incluindo, entre outros, a atualização, o monitoramento, a recuperação e a reinstalação.
Recomenda-se o uso dos seguintes operadores.
Alguns desses operadores podem incluir personalizações adicionais que você pode optar por especificar ao instalar o complemento. Revise a lista de personalizações disponíveis para os operadores recomendados.
Etapa 3: instalar o complemento na CLI
Execute o comando para instalar o complemento Red Hat OpenShift AI. Especifique as personalizações com o formato --parameter PARAM=VALUE.
Por exemplo, para incluir a opção Data Science Pipelines, especifique --parameter oaiDataSciencePipelines=Managed.
Para incluir os operadores recomendados ao instalar o add-on com a CLI, especifique as seguintes opções ao executar o comando de instalação.
- OpenShift Dutos:
--parameter pipelineEnabled=true - Node Descoberta de recursos:
--parameter nfdEnabled=true - NVIDIA Operador de GPU:
--parameter nvidiaEnabled=true
Para obter uma lista das versões disponíveis, consulte Versões compatíveis.
Comando de instalação.
ibmcloud oc cluster addon enable openshift-ai --cluster CLUSTER [-f] [--param PARAM] [-q] [--version VERSION]
Exemplo de comando para instalar o complemento com atualizações automáticas de correções e secundárias, CodeFlare, e KServe ativados.
ibmcloud oc cluster addon enable openshift-ai --cluster CLUSTER --param oaiInstallPlanApproval=Automatic --param oaiCodeflare=Managed --param oaiKserve=Managed
Etapa 2: Analise os operadores adicionais recomendados
Você pode optar por instalar também operadores adicionais que são recomendados para o uso de determinados recursos do OpenShift AI. Se eles ainda não estiverem instalados em seu cluster, você poderá optar por incluí-los na instalação do complemento. Ou você pode instalá-los a qualquer momento usando o site OperatorHub ou seguindo as etapas de instalação específicas do operador. Para usar esses operadores, você deve desativar a proteção do tráfego de saída do cluster.
Você é responsável pelo gerenciamento desses operadores, incluindo, entre outros, a atualização, o monitoramento, a recuperação e a reinstalação.
Recomenda-se o uso dos seguintes operadores.
Alguns desses operadores podem incluir personalizações adicionais que você pode optar por especificar ao instalar o complemento. Revise a lista de personalizações disponíveis para os operadores recomendados.
Etapa 3: Instale o complemento na interface do usuário
Instale o complemento Red Hat OpenShift AI com a interface do usuário.
-
Navegue até a página do seu cluster e clique no cluster relevante.
-
Na página de detalhes do cluster, localize a seção Add-ons. Localize a opção Red Hat OpenShift AI e clique em Install (Instalar ).
-
Na seção Capabilities (Recursos), examine a descrição das opções de personalização de add-on disponíveis e ative as opções que deseja incluir na instalação.
-
Na seção Operadores recomendados adicionais, clique para expandir cada operador e selecione as opções de personalização que deseja incluir. Esses operadores e personalizações adicionais são recomendados para determinados recursos de IA do Red Hat OpenShift. Você pode optar por instalar essas opções posteriormente, usando o site OperatorHub ou seguindo as etapas de instalação específicas do operador.
Você é responsável pelo gerenciamento desses operadores, incluindo, entre outros, a atualização, o monitoramento, a recuperação e a reinstalação.
-
Clique em Instalar.
Etapa 4: Acesse o painel de controle do OpenShift AI
Depois de instalar o complemento OpenShift AI, você poderá acessar o painel OpenShift AI.
- Na página de visão geral do seu cluster, clique em “ OpenShift ” no console da web.
- No site Iniciador de aplicativos
, selecione a opção de painel Red Hat OpenShift IA.
- Se solicitado, clique em
Log in with OpenShift.
Opcional: Configuração do KServe no modo avançado
Se quiser usar o KServe no modo Advanced, você deverá concluir as etapas a seguir.
- Instale o OpenShift Serverless Operator em OperatorHub.
- Instale o OpenShift Service Mesh Operator em OperatorHub.
- Defina o estado de gerenciamento da malha de serviço como
Managedem seu CR de inicialização do cluster de ciência de dados.serviceMesh: controlPlane: metricsCollection: Istio name: data-science-smcp namespace: istio-system managementState: Managed - Defina o estado de gerenciamento do serviço KServe como
Managedem seu recurso personalizado do Data Science Cluster.kserve: managementState: Managed serving: managementState: Managed name: knative-serving
OpenShift Opções de personalização de IA
Analise as opções de personalização disponíveis para o complemento OpenShift AI. Essas operadoras são gerenciadas pela plataforma de IA Red Hat OpenShift.
Para incluir uma opção ao instalar o complemento OpenShift AI com a CLI, inclua a opção com o --parameter PARAM=VALUE formato ao executar
o ibmcloud oc cluster addon enable openshift-ai. Por exemplo, para instalar o complemento com a opção Data Science Pipelines, especifique --parameter oaiDataSciencePipelines=Managed.
Para incluir uma opção ao instalar o complemento OpenShift de IA com a interface do usuário, clique para ativar a opção quando solicitado. Essas opções estão incluídas na seção Recursos.
| Customização | Parâmetro da CLI | Descrição | Valores | Valor Padrão |
|---|---|---|---|---|
| OpenShift Política de aprovação de atualizações menores e de correção da plataforma de IA | oaiInstallPlanApproval |
Aplique atualizações secundárias e de patches automática ou manualmente. | Automatic ou Manual |
Automatic |
| OpenShift Política de exclusão de IA | oaiDeletePolicy |
Mantenha ou exclua quaisquer operadores ou componentes instalados pelo add-on se o add-on for removido. | Retain ou Delete |
Retain |
| Painel do hub de dados abertos | oaiDashboard |
Ativar ou desativar o componente. Se ativado, ele é gerenciado pela plataforma de IA OpenShift. | Managed para ativarRemoved para desativar |
Managed (ativado) |
| Kueue | oaiKueue |
Ativar ou desativar o componente. Se ativado, ele é gerenciado pela plataforma de IA OpenShift. | Managed para ativarRemoved para desativar |
Managed (ativado) |
| CodeFlare | oaiCodeflare |
Ativar ou desativar o componente. Se ativado, ele é gerenciado pela plataforma de IA OpenShift. | Managed para ativarRemoved para desativar |
Managed (ativado) |
| ModelMesh Servindo | oaiModelmeshserving |
Ativar ou desativar o componente. Se ativado, ele é gerenciado pela plataforma de IA OpenShift. | Managed para ativarRemoved para desativar |
Managed (ativado) |
| Ambiente de Trabalho | oaiWorkbenches |
Ativar ou desativar o componente. Se ativado, ele é gerenciado pela plataforma de IA OpenShift. | Managed para ativarRemoved para desativar |
Managed (ativado) |
| Pipelines de ciência de dados | oaiDataSciencePipelines |
Ativar ou desativar o componente. Se ativado, ele é gerenciado pela plataforma de IA OpenShift. | Managed para ativarRemoved para desativar |
Managed (ativado) |
| KServe | oaiKserve |
Ativar ou desativar o componente. Se ativado, ele é gerenciado pela plataforma de IA OpenShift. | Managed para ativarRemoved para desativar |
Managed (ativado) |
| Ray | oaiRay |
Ativar ou desativar o componente. Se ativado, ele é gerenciado pela plataforma de IA OpenShift. | Managed para ativarRemoved para desativar |
Managed (ativado) |
Operadores adicionais recomendados
Analise os operadores recomendados e as personalizações opcionais que você pode incluir durante a instalação. Você é responsável pelo gerenciamento desses operadores, incluindo, entre outros, a atualização, o monitoramento, a recuperação e a reinstalação.
Para incluir uma personalização para um operador ao instalar o complemento OpenShift AI com a CLI, inclua a opção com o --parameter PARAM=VALUE formato ao executar o ibmcloud oc cluster addon enable openshift-ai. Por exemplo, para incluir a personalização do NVIDIA armazenamento GPUDirect para o NVIDIA operador, especifique --parameter nvidiaGpuDirectStorageEnabled=true.
Para incluir uma personalização para um operador ao instalar o complemento OpenShift de IA com a interface do usuário, clique para ativar a opção quando solicitado. Observe que existem operadores NVIDIA adicionais com configurações padrão que só podem ser alteradas na CLI ou editando o ClusterPolicy.
| Customização | Parâmetro da CLI | Descrição | Valor | Configuração padrão |
|---|---|---|---|---|
| Node Política de exclusão da descoberta de recursos | nfdDeletePolicy |
Mantenha ou exclua o operador se o complemento OpenShift AI for removido. | Retain (padrão) ou Delete |
Retain |
| NVIDIA Política de exclusão de operadores de GPU | nvidiaDeletePolicy |
Mantenha ou exclua o operador se o complemento OpenShift AI for removido. | Retain (padrão) ou Delete |
Retain |
| NVIDIA Teste pós-instalação do CUDA | nvidiaCudaTest |
Habilite o teste NVIDIA CUDA. | true (ativado, padrão)false (desativado) |
false (desativado) |
| Política de exclusão do operador de pipeline | pipelineDeletePolicy |
Mantenha ou exclua o operador se o complemento OpenShift AI for removido. | Retain (padrão) ou Delete |
Os seguintes operadores de GPU NVIDIA se aplicam com as configurações padrão. Só é possível alterar essas configurações durante a instalação se você instalar o add-on com a CLI. Após a instalação, você pode alterar essas configurações, na interface do usuário ou na CLI, editando o endereço ClusterPolicy.
| Customização | Parâmetro da CLI | Descrição | Valores da CLI | Configuração padrão da interface do usuário |
|---|---|---|---|---|
| NVIDIA Cargas de trabalho de sandbox | nvidiaSandboxWorkloads |
Permitir o gerenciamento de operandos adicionais necessários para cargas de trabalho de sandbox. | true (ativado, padrão)false (desativado) |
Enabled |
| NVIDIA vGPU Gerente | nvidiaVgpuManagerEnabled |
Habilite o NVIDIA vGPU Manager. | true (ativado, padrão)false (desativado) |
Enabled |
| NVIDIA Armazenamento direto GPUD | nvidiaGpuDirectStorageEnabled |
Ativar o armazenamento GPUDirect. | true (ativado, padrão)false (desativado) |
Enabled |
| NVIDIA Node Exportador de status | nvidiaNodeStatusExporterEnabled |
Ativar o Exportador de status do Node. | true (ativado, padrão)false (desativado) |
Enabled |
| NVIDIA Gerenciador de E/S de Funções Virtuais | nvidiaVfioManagerEnabled |
Habilite o VFIO Manager para configuração a fim de implantar a VFIO-PCI. | true (ativado, padrão)false (desativado) |
Enabled |
| NVIDIA Plug-in de dispositivo de sandbox | nvidiaSandboxDevicePluginEnabled |
Habilite o plug-in de dispositivo do NVIDIA Sandbox. | true (ativado, padrão)false (desativado) |
Enabled |
| Gerenciador de GPU de várias instâncias da NVIDA | nvidiaMigManagerEnabled |
Habilite o NVIDIA Multi Instance GPU Manager. | true (ativado, padrão)false (desativado) |
Enabled |
| NVIDIA Implementação do mecanismo de host do Data Center GPU Manager | nvidiaDcgmEnabled |
Ative a implantação do Hostengine do GPU Manager do Data Center NVIDIA como um pod separado. | true (ativado, padrão)false (desativado) |
Enabled |
| NVIDIA vGPU Gerenciador de Dispositivos | nvidiaVgpuDeviceManagerEnabled |
Habilite NVIDIA vGPU Device Manager. | true (ativado, padrão)false (desativado) |
Enabled |
O que vem a seguir?
- Experimente um tutorial para usar a IA do OpenShift para detecção de fraudes.
- Saiba como você pode usar o OpenShift AI para implantar um modelo que você treinou com o InstructLab.
- Consulte as informações sobre o gerenciamento do complemento OpenShift AI.
- Certifique-se de que você entendeu o processo de atualização do complemento OpenShift AI.