Instalando o complemento Red Hat OpenShift AI
Siga as etapas para instalar o complemento OpenShift AI em um cluster existente.
Deseja implantar o operador OpenShift de IA em um novo cluster? Experimente a OpenShift IA em IBM Cloud arquitetura implantável.
Requisitos mínimos
Analise as considerações a seguir antes de configurar o add-on.
- Analise as versões de complemento de cluster com suporte e determine qual versão de complemento deve ser instalada em seu cluster.
- Seu cluster deve ter pelo menos 2 nós de trabalho. Cada nó de trabalho deve ter um mínimo de 8vCPU e 32GB memória.
- Seus nós de trabalho devem usar o sistema operacional RHCOS.
- Você deve permitir o tráfego de saída de seu cluster para instalar os operadores necessários.
Versões suportadas
Analise as versões do complemento OpenShift AI compatíveis e as versões correspondentes do OpenShift AI e do Red Hat OpenShift on IBM Cloud correspondentes.
| OpenShift Versão do complemento de IA | Red Hat OpenShift Versão com IA | Versões de cluster compatíveis |
|---|---|---|
| 420 | 3.4.2 | 420.421 |
| 419 | 3.4.0 | 4.19, 4.20, 4.21 |
| 418 | 2.25.6 | 4.18, 4.19 |
| 417 | 2.25.6 | 4.17, 4.18 |
| 416 | 2.25.6 | 4.16, 4.17 |
Não há suporte para a atualização da versão 418 para a 419. Somente novas instalações da versão 419 são permitidas. Para obter mais informações, consulte “Sobre o complemento de IA do OpenShift ”.
Considerações
- Para usar todos os recursos oferecidos pelo OpenShift AI, recomenda-se pelo menos 1 GPU.
- Seu cluster pode ter uma combinação de nós com GPU e sem GPU. No entanto, se você usar essa configuração, certifique-se de implementar seu aplicativo em um nó de GPU para aproveitar seus recursos.
- A partir da versão 2.19.0 do OpenShift AI Operator, o KServe está disponível no modo Advanced ou Standard. Por padrão, quando você instala o KServe usando o OpenShift AI usando o complemento IBM Cloud, ele é instalado no modo Standard. Se quiser usar o modo Advanced, você deverá concluir as etapas opcionais após instalar o complemento.
Antes de Iniciar
Conclua estas etapas antes de instalar o add-on.
-
Opcional: se você ainda não tiver um, crie um VPC Public Gateway.
-
Se quiser usar os operadores OpenShift Pipelines, Node Feature Discovery ou NVIDIA GPU com o complemento OpenShift AI, você deverá ativar o OperatorHub em seu cluster e desativar a proteção de tráfego de saída. Se você não quiser usar esses operadores, pule esta etapa.
- Habilite o OperatorHub em seu cluster.
oc patch operatorhub cluster --type json -p '[{"op": "add", "path": "/spec/disableAllDefaultSources", "value": false}]' ``` 2. Desativar a proteção do tráfego de saída. A desativação da proteção do tráfego de saída permite todas as conexões de rede externas. Consulte [Gerenciamento da proteção do tráfego de saída em clusters de VPC](/docs/openshift?topic=openshift-sbd-allow-outbound) para obter mais informações. {: note} ```sh {: pre} ibmcloud oc vpc outbound-traffic-protection disable --cluster CLUSTER ```
Pré-requisitos
Conclua estas etapas antes de instalar o add-on.
-
Opcional: se você ainda não tiver um, crie um VPC Public Gateway.
-
Se quiser usar os operadores OpenShift Pipelines, Node Feature Discovery ou NVIDIA GPU com o complemento OpenShift AI, você deverá ativar o OperatorHub em seu cluster e desativar a proteção de tráfego de saída. Se você não quiser usar esses operadores, pule esta etapa.
- Habilite o OperatorHub em seu cluster.
oc patch operatorhub cluster --type json -p '[{"op": "add", "path": "/spec/disableAllDefaultSources", "value": false}]' ``` 2. Desativar a proteção do tráfego de saída. A desativação da proteção do tráfego de saída permite todas as conexões de rede externas. Consulte [Gerenciamento da proteção do tráfego de saída em clusters de VPC](/docs/openshift?topic=openshift-sbd-allow-outbound) para obter mais informações. {: note} 1. No console, navegue até a [página Clusters](https://cloud.ibm.com/containers/cluster-management/clusters){: external} e clique no cluster relevante. 2. Na página Overview (Visão geral) do cluster, localize a seção **Networking (Rede)** e selecione a opção **Outbound traffic protection disabled (Proteção de tráfego de saída desativada** ).
Etapa 1: Escolha as opções de personalização
Você pode aprimorar seus projetos de IA do Red Hat OpenShift especificando diferentes opções a serem incluídas na instalação do add-on, como pipelines de dados para criar fluxos de trabalho de aprendizado de máquina portáteis ou ferramentas para gerenciar e dimensionar seus recursos. Você também pode personalizar as políticas de upgrade e de exclusão. Para obter descrições de cada opção disponível, consulte OpenShift AI customization options. Se você não incluir uma opção específica ao instalar o add-on, o valor padrão será aplicado. Essas opções são gerenciadas pela plataforma de IA Red Hat OpenShift.
Na CLI, execute o comando para listar todas as opções. Na interface do usuário, essas opções são listadas na seção Capabilities (Recursos ) durante a instalação.
ibmcloud oc cluster addon options --addon openshift-ai
Etapa 2: Analise os operadores adicionais recomendados
Você pode optar por instalar também operadores adicionais que são recomendados para o uso de determinados recursos do OpenShift AI. Se eles ainda não estiverem instalados em seu cluster, você poderá optar por incluí-los na instalação do complemento. Ou você pode instalá-los a qualquer momento usando o site OperatorHub ou seguindo as etapas de instalação específicas do operador. Para usar esses operadores, você deve desativar a proteção do tráfego de saída do cluster.
Você é responsável pelo gerenciamento desses operadores, incluindo, entre outros, a atualização, o monitoramento, a recuperação e a reinstalação.
Recomenda-se o uso dos seguintes operadores.
Alguns desses operadores podem incluir personalizações adicionais que você pode optar por especificar ao instalar o complemento. Revise a lista de personalizações disponíveis para os operadores recomendados.
Etapa 3: instalar o complemento na CLI
Execute o comando para instalar o complemento Red Hat OpenShift AI. Especifique as personalizações com o formato --parameter PARAM=VALUE.
Por exemplo, para incluir a opção Data Science Pipelines, especifique --parameter oaiDataSciencePipelines=Managed.
Para incluir os operadores recomendados ao instalar o add-on com a CLI, especifique as seguintes opções ao executar o comando de instalação.
- OpenShift Dutos:
--parameter pipelineEnabled=true - Node Descoberta de recursos:
--parameter nfdEnabled=true - NVIDIA Operador de GPU:
--parameter nvidiaEnabled=true
Para obter uma lista das versões disponíveis, consulte Versões compatíveis.
Comando de instalação.
ibmcloud oc cluster addon enable openshift-ai --cluster CLUSTER [-f] [--param PARAM] [-q] [--version VERSION]
Exemplo de comando para instalar o complemento com atualizações automáticas de correções e secundárias, CodeFlare, e KServe ativados.
ibmcloud oc cluster addon enable openshift-ai --cluster CLUSTER --param oaiInstallPlanApproval=Automatic --param oaiCodeflare=Managed --param oaiKserve=Managed
Etapa 2: Analise os operadores adicionais recomendados
Você pode optar por instalar também operadores adicionais que são recomendados para o uso de determinados recursos do OpenShift AI. Se eles ainda não estiverem instalados em seu cluster, você poderá optar por incluí-los na instalação do complemento. Ou você pode instalá-los a qualquer momento usando o site OperatorHub ou seguindo as etapas de instalação específicas do operador. Para usar esses operadores, você deve desativar a proteção do tráfego de saída do cluster.
Você é responsável pelo gerenciamento desses operadores, incluindo, entre outros, a atualização, o monitoramento, a recuperação e a reinstalação.
Recomenda-se o uso dos seguintes operadores.
Alguns desses operadores podem incluir personalizações adicionais que você pode optar por especificar ao instalar o complemento. Revise a lista de personalizações disponíveis para os operadores recomendados.
Etapa 3: Instale o complemento na interface do usuário
Instale o complemento Red Hat OpenShift AI com a interface do usuário.
-
Navegue até a página do seu cluster e clique no cluster relevante.
-
Na página de detalhes do cluster, localize a seção Add-ons. Localize a opção Red Hat OpenShift AI e clique em Install (Instalar ).
-
Na seção Capabilities (Recursos), examine a descrição das opções de personalização de add-on disponíveis e ative as opções que deseja incluir na instalação.
-
Na seção Operadores recomendados adicionais, clique para expandir cada operador e selecione as opções de personalização que deseja incluir. Esses operadores e personalizações adicionais são recomendados para determinados recursos de IA do Red Hat OpenShift. Você pode optar por instalar essas opções posteriormente, usando o site OperatorHub ou seguindo as etapas de instalação específicas do operador.
Você é responsável pelo gerenciamento desses operadores, incluindo, entre outros, a atualização, o monitoramento, a recuperação e a reinstalação.
-
Clique em Instalar.
Etapa 4: Acesse o painel de controle do OpenShift AI
Depois de instalar o complemento OpenShift AI, você poderá acessar o painel OpenShift AI.
- Na página de visão geral do seu cluster, clique em “ OpenShift ” no console da web.
- No site Iniciador de aplicativos
, selecione a opção de painel Red Hat OpenShift IA.
- Se solicitado, clique em
Log in with OpenShift.
Opcional: Configuração do KServe no modo avançado
Se quiser usar o KServe no modo Advanced, você deverá concluir as etapas a seguir.
- Instale o OpenShift Serverless Operator em OperatorHub.
- Instale o OpenShift Service Mesh Operator em OperatorHub.
- Defina o estado de gerenciamento da malha de serviço como
Managedem seu CR de inicialização do cluster de ciência de dados.serviceMesh: controlPlane: metricsCollection: Istio name: data-science-smcp namespace: istio-system managementState: Managed - Defina o estado de gerenciamento do serviço KServe como
Managedem seu recurso personalizado do Data Science Cluster.kserve: managementState: Managed serving: managementState: Managed name: knative-serving
OpenShift Opções de personalização de IA
Analise as opções de personalização disponíveis para o complemento OpenShift AI. Essas operadoras são gerenciadas pela plataforma de IA Red Hat OpenShift.
Para incluir uma opção ao instalar o complemento OpenShift AI com a CLI, inclua a opção com o --parameter PARAM=VALUE formato ao executar
o ibmcloud oc cluster addon enable openshift-ai. Por exemplo, para instalar o complemento com a opção Data Science Pipelines, especifique --parameter oaiDataSciencePipelines=Managed.
Para incluir uma opção ao instalar o complemento OpenShift de IA com a interface do usuário, clique para ativar a opção quando solicitado. Essas opções estão incluídas na seção Recursos.
| Customização | Parâmetro da CLI | Descrição | Valores | Valor Padrão |
|---|---|---|---|---|
| OpenShift Política de aprovação de atualizações menores e de correção da plataforma de IA | oaiInstallPlanApproval |
Aplique atualizações secundárias e de patches automática ou manualmente. | Automatic ou Manual |
Automatic |
| OpenShift Política de exclusão de IA | oaiDeletePolicy |
Mantenha ou exclua quaisquer operadores ou componentes instalados pelo add-on se o add-on for removido. | Retain ou Delete |
Retain |
| Painel do hub de dados abertos | oaiDashboard |
Ativar ou desativar o componente. Se ativado, ele é gerenciado pela plataforma de IA OpenShift. | Managed para ativarRemoved para desativar |
Managed (ativado) |
| Kueue | oaiKueue |
Ativar ou desativar o componente. Se ativado, ele é gerenciado pela plataforma de IA OpenShift. | Managed para ativarRemoved para desativar |
Managed (ativado) |
| CodeFlare | oaiCodeflare |
Ativar ou desativar o componente. Se ativado, ele é gerenciado pela plataforma de IA OpenShift. | Managed para ativarRemoved para desativar |
Managed (ativado) |
| ModelMesh Servindo | oaiModelmeshserving |
Ativar ou desativar o componente. Se ativado, ele é gerenciado pela plataforma de IA OpenShift. | Managed para ativarRemoved para desativar |
Managed (ativado) |
| Ambiente de Trabalho | oaiWorkbenches |
Ativar ou desativar o componente. Se ativado, ele é gerenciado pela plataforma de IA OpenShift. | Managed para ativarRemoved para desativar |
Managed (ativado) |
| Pipelines de ciência de dados | oaiDataSciencePipelines |
Ativar ou desativar o componente. Se ativado, ele é gerenciado pela plataforma de IA OpenShift. | Managed para ativarRemoved para desativar |
Managed (ativado) |
| KServe | oaiKserve |
Ativar ou desativar o componente. Se ativado, ele é gerenciado pela plataforma de IA OpenShift. | Managed para ativarRemoved para desativar |
Managed (ativado) |
| Ray | oaiRay |
Ativar ou desativar o componente. Se ativado, ele é gerenciado pela plataforma de IA OpenShift. | Managed para ativarRemoved para desativar |
Managed (ativado) |
Operadores adicionais recomendados
Analise os operadores recomendados e as personalizações opcionais que você pode incluir durante a instalação. Você é responsável pelo gerenciamento desses operadores, incluindo, entre outros, a atualização, o monitoramento, a recuperação e a reinstalação.
Para incluir uma personalização para um operador ao instalar o complemento OpenShift AI com a CLI, inclua a opção com o --parameter PARAM=VALUE formato ao executar o ibmcloud oc cluster addon enable openshift-ai. Por exemplo, para incluir a personalização do NVIDIA armazenamento GPUDirect para o NVIDIA operador, especifique --parameter nvidiaGpuDirectStorageEnabled=true.
Para incluir uma personalização para um operador ao instalar o complemento OpenShift de IA com a interface do usuário, clique para ativar a opção quando solicitado. Observe que existem operadores NVIDIA adicionais com configurações padrão que só podem ser alteradas na CLI ou editando o ClusterPolicy.
| Customização | Parâmetro da CLI | Descrição | Valor | Configuração padrão |
|---|---|---|---|---|
| Node Política de exclusão da descoberta de recursos | nfdDeletePolicy |
Mantenha ou exclua o operador se o complemento OpenShift AI for removido. | Retain (padrão) ou Delete |
Retain |
| NVIDIA Política de exclusão de operadores de GPU | nvidiaDeletePolicy |
Mantenha ou exclua o operador se o complemento OpenShift AI for removido. | Retain (padrão) ou Delete |
Retain |
| NVIDIA Teste pós-instalação do CUDA | nvidiaCudaTest |
Habilite o teste NVIDIA CUDA. | true (ativado, padrão)false (desativado) |
false (desativado) |
| Política de exclusão do operador de pipeline | pipelineDeletePolicy |
Mantenha ou exclua o operador se o complemento OpenShift AI for removido. | Retain (padrão) ou Delete |
Os seguintes operadores de GPU NVIDIA se aplicam com as configurações padrão. Só é possível alterar essas configurações durante a instalação se você instalar o add-on com a CLI. Após a instalação, você pode alterar essas configurações, na interface do usuário ou na CLI, editando o endereço ClusterPolicy.
| Customização | Parâmetro da CLI | Descrição | Valores da CLI | Configuração padrão da interface do usuário |
|---|---|---|---|---|
| NVIDIA Cargas de trabalho de sandbox | nvidiaSandboxWorkloads |
Permitir o gerenciamento de operandos adicionais necessários para cargas de trabalho de sandbox. | true (ativado, padrão)false (desativado) |
Enabled |
| NVIDIA vGPU Gerente | nvidiaVgpuManagerEnabled |
Habilite o NVIDIA vGPU Manager. | true (ativado, padrão)false (desativado) |
Enabled |
| NVIDIA Armazenamento direto GPUD | nvidiaGpuDirectStorageEnabled |
Ativar o armazenamento GPUDirect. | true (ativado, padrão)false (desativado) |
Enabled |
| NVIDIA Node Exportador de status | nvidiaNodeStatusExporterEnabled |
Ativar o Exportador de status do Node. | true (ativado, padrão)false (desativado) |
Enabled |
| NVIDIA Gerenciador de E/S de Funções Virtuais | nvidiaVfioManagerEnabled |
Habilite o VFIO Manager para configuração a fim de implantar a VFIO-PCI. | true (ativado, padrão)false (desativado) |
Enabled |
| NVIDIA Plug-in de dispositivo de sandbox | nvidiaSandboxDevicePluginEnabled |
Habilite o plug-in de dispositivo do NVIDIA Sandbox. | true (ativado, padrão)false (desativado) |
Enabled |
| Gerenciador de GPU de várias instâncias da NVIDA | nvidiaMigManagerEnabled |
Habilite o NVIDIA Multi Instance GPU Manager. | true (ativado, padrão)false (desativado) |
Enabled |
| NVIDIA Implementação do mecanismo de host do Data Center GPU Manager | nvidiaDcgmEnabled |
Ative a implantação do Hostengine do GPU Manager do Data Center NVIDIA como um pod separado. | true (ativado, padrão)false (desativado) |
Enabled |
| NVIDIA vGPU Gerenciador de Dispositivos | nvidiaVgpuDeviceManagerEnabled |
Habilite NVIDIA vGPU Device Manager. | true (ativado, padrão)false (desativado) |
Enabled |
O que vem a seguir?
- Experimente um tutorial para usar a IA do OpenShift para detecção de fraudes.
- Saiba como você pode usar a IA d OpenShift para implantar um modelo que você treinou com o InstructLab.
- Consulte as informações sobre o gerenciamento do complemento OpenShift AI.
- Certifique-se de que você entendeu o processo de atualização do complemento OpenShift AI.