Installation du module complémentaire Red Hat OpenShift AI

Suivez les étapes pour installer le module complémentaire IA d' OpenShift s sur un cluster existant.

Vous souhaitez déployer l'opérateur OpenShift IA sur un nouveau cluster? Essayez OpenShift l'IA sur une architecture IBM Cloud déployable.

Configuration minimale requise

Passez en revue les considérations suivantes avant de configurer le module complémentaire.

Consultez les versions de modules complémentaires de cluster prises en charge et déterminez quelle version de module complémentaire installer dans votre cluster.
Votre cluster doit comporter au moins 2 nœuds de travail. Chaque nœud de travailleur doit disposer d'un minimum de 8vCPU et de 32GB de mémoire.
Vos nœuds de travail doivent utiliser le système d'exploitation RHCOS.
Vous devez autoriser le trafic sortant de votre cluster pour installer les opérateurs nécessaires.

Versions prises en charge

Passez en revue les versions de l'add-on OpenShift AI prises en charge et les versions OpenShift AI et Red Hat OpenShift on IBM Cloud correspondantes.

Versions des modules complémentaires d'IA pris en charge et versions correspondantes pour Red Hat OpenShift AI et Red Hat OpenShift on IBM Cloud.
OpenShift Version complémentaire de l'IA	Red Hat OpenShift Version générée par l'IA	Versions de cluster prises en charge
420	3.4.2	420 421
419	3.4.0	4.19, 4.20, 4.21
418	2.25.6	4.18, 4.19
417	2.25.6	4.17, 4.18
416	2.25.6	4.16, 4.17

La mise à jour de la version 418 à la version 419 n'est pas prise en charge. Seules les nouvelles installations de la version 419 sont autorisées. Pour plus d’informations, consultez la section À propos du module complémentaire d’IA OpenShift.

Considérations

Pour utiliser toutes les capacités offertes par OpenShift AI, il est recommandé d'avoir au moins 1 GPU.
Votre cluster peut comporter un mélange de nœuds GPU et non GPU. Cependant, si vous utilisez cette configuration, assurez-vous de déployer votre application sur un nœud GPU pour tirer parti de ses ressources.
À partir de la version 2.19.0 de OpenShift AI Operator, KServe est disponible en mode avancé ou standard. Par défaut, lorsque vous installez KServe à l'aide de OpenShift AI en utilisant le module complémentaire IBM Cloud, il est installé en mode Standard. Si vous souhaitez utiliser le mode avancé, vous devez effectuer les étapes facultatives après l'installation du module complémentaire.

Avant de commencer

Effectuez les étapes suivantes avant d'installer le module complémentaire.

Connectez-vous à votre compte. Le cas échéant, ciblez le groupe de ressources approprié. Définissez le contexte de votre cluster.
Facultatif: si vous n'en avez pas encore, créez un VPC Public Gateway.
Si vous souhaitez utiliser les opérateurs OpenShift Pipelines, Node Feature Discovery ou NVIDIA GPU avec le module complémentaire OpenShift AI, vous devez activer OperatorHub sur votre cluster et désactiver la protection du trafic sortant. Si vous ne souhaitez pas utiliser ces opérateurs, passez cette étape.
1. Activez OperatorHub sur votre cluster.
```
oc patch operatorhub cluster --type json -p '[{"op": "add", "path": "/spec/disableAllDefaultSources", "value": false}]'
```
1. Désactiver la protection du trafic sortant.
La désactivation de la protection du trafic sortant autorise toutes les connexions réseau externes. Pour plus d'informations, voir Gestion de la protection du trafic sortant dans les clusters VPC.
```
ibmcloud oc vpc outbound-traffic-protection disable --cluster CLUSTER
```

Prérequis

Effectuez les étapes suivantes avant d'installer le module complémentaire.

Connectez-vous à votre compte. Le cas échéant, ciblez le groupe de ressources approprié. Définissez le contexte de votre cluster.
Facultatif: si vous n'en avez pas encore, créez un VPC Public Gateway.
Si vous souhaitez utiliser les opérateurs OpenShift Pipelines, Node Feature Discovery ou NVIDIA GPU avec le module complémentaire OpenShift AI, vous devez activer OperatorHub sur votre cluster et désactiver la protection du trafic sortant. Si vous ne souhaitez pas utiliser ces opérateurs, passez cette étape.
1. Activez OperatorHub sur votre cluster.
```
oc patch operatorhub cluster --type json -p '[{"op": "add", "path": "/spec/disableAllDefaultSources", "value": false}]'
```
1. Désactiver la protection du trafic sortant.
La désactivation de la protection du trafic sortant autorise toutes les connexions réseau externes. Pour plus d'informations, voir Gestion de la protection du trafic sortant dans les clusters VPC.
1. Dans la console, accédez à la page Clusters et cliquez sur le cluster concerné.
2. Sur la page de présentation du cluster, trouvez la section Réseau et sélectionnez l'option Protection du trafic sortant désactivée.

Étape 1 : Choisir les options de personnalisation

Vous pouvez améliorer vos projets d'IA sur Red Hat OpenShift en spécifiant différentes options à inclure dans l'installation de votre module complémentaire, comme des pipelines de données pour construire des flux de travail d'apprentissage automatique portables ou des outils pour gérer et mettre à l'échelle vos ressources. Vous pouvez également personnaliser les politiques de mise à niveau et de suppression. Pour une description de chaque option disponible, voir OpenShift AI customization options. Si vous n'incluez pas une option spécifique lors de l'installation du module complémentaire, c'est la valeur par défaut qui s'applique. Ces options sont gérées par la plateforme Red Hat OpenShift AI.

Dans l'interface de gestion, exécutez la commande pour répertorier toutes les options. Dans l'interface utilisateur, ces options sont répertoriées dans la section Capacités lors de l'installation.

ibmcloud oc cluster addon options --addon openshift-ai

Étape 2 : Examiner les opérateurs supplémentaires recommandés

Vous pouvez choisir d'installer également des opérateurs supplémentaires recommandés pour l'utilisation de certaines fonctionnalités de OpenShift AI. S'ils ne sont pas déjà installés sur votre cluster, vous pouvez choisir de les inclure dans l'installation du module complémentaire. Vous pouvez également les installer à tout moment en utilisant OperatorHub ou en suivant les étapes d'installation spécifiques à l'opérateur. Pour utiliser ces opérateurs, vous devez désactiver la protection du trafic sortant pour votre cluster.

Vous êtes responsable de la gestion de ces opérateurs, y compris, mais sans s'y limiter, de la mise à jour, de la surveillance, de la récupération et de la réinstallation.

Les opérateurs suivants sont recommandés.

Certains de ces opérateurs peuvent inclure des personnalisations supplémentaires que vous pouvez choisir de spécifier lorsque vous installez le module complémentaire. Examinez la liste des personnalisations disponibles pour les opérateurs recommandés.

Étape 3 : Installer le module complémentaire dans le CLI

Exécutez la commande pour installer le module complémentaire Red Hat OpenShift AI. Spécifiez les personnalisations au format --parameter PARAM=VALUE. Par exemple, pour inclure l'option Data Science Pipelines, spécifiez --parameter oaiDataSciencePipelines=Managed.

Pour inclure les opérateurs recommandés lors de l'installation du module complémentaire avec l'interface de programmation, spécifiez les options suivantes lorsque vous exécutez la commande d'installation.

OpenShift Pipelines : --parameter pipelineEnabled=true
Node Découverte d'une fonctionnalité : --parameter nfdEnabled=true
NVIDIA Opérateur GPU : --parameter nvidiaEnabled=true

Pour une liste des versions disponibles, voir Versions prises en charge.

Commande d'installation.

ibmcloud oc cluster addon enable openshift-ai --cluster CLUSTER [-f] [--param PARAM] [-q] [--version VERSION]

Exemple de commande pour installer le module complémentaire avec les mises à jour mineures et correctives automatiques, CodeFlare, et KServe activés.

ibmcloud oc cluster addon enable openshift-ai --cluster CLUSTER --param oaiInstallPlanApproval=Automatic --param oaiCodeflare=Managed --param oaiKserve=Managed

Étape 2 : Examiner les opérateurs supplémentaires recommandés

Vous êtes responsable de la gestion de ces opérateurs, y compris, mais sans s'y limiter, de la mise à jour, de la surveillance, de la récupération et de la réinstallation.

Les opérateurs suivants sont recommandés.

Étape 3 : Installer le module complémentaire dans l'interface utilisateur

Installez le module complémentaire Red Hat OpenShift AI avec l'interface utilisateur.

Accédez à la page de votre cluster et cliquez sur le cluster concerné.
Sur la page de détails du cluster, trouvez la section Add-ons. Recherchez l'option Red Hat OpenShift AI et cliquez sur Installer.
Dans la section Capacités, passez en revue la description des options de personnalisation disponibles et activez les options que vous souhaitez inclure dans l'installation.
Dans la section Opérateurs supplémentaires recommandés, cliquez sur pour développer chaque opérateur et sélectionnez les options de personnalisation que vous souhaitez inclure. Ces opérateurs et personnalisations supplémentaires sont recommandés pour certaines fonctionnalités de Red Hat OpenShift AI. Vous pouvez choisir d'installer ces options ultérieurement en utilisant OperatorHub ou en suivant les étapes d'installation spécifiques à l'opérateur.

Vous êtes responsable de la gestion de ces opérateurs, y compris, mais sans s'y limiter, de la mise à jour, de la surveillance, de la récupération et de la réinstallation.
Cliquez sur Install.

Étape 4 : Accéder au tableau de bord OpenShift AI

Après avoir installé le module complémentaire OpenShift AI, vous pouvez accéder au tableau de bord OpenShift AI.

Depuis la page d'aperçu de votre cluster, cliquez sur Console Web d' OpenShift.
Dans le lanceur d'applications Lanceur , sélectionnez l'option Red Hat OpenShift AI dashboard.
Si vous y êtes invité, cliquez sur Log in with OpenShift.

Optionnel : Configuration de KServe en mode avancé

Si vous souhaitez utiliser KServe en mode avancé, vous devez suivre les étapes suivantes.

Installez l'opérateur sans serveur OpenShift à partir de OperatorHub.
Installez le Service Mesh Operator de OpenShift à partir de OperatorHub.

Définissez l'état de gestion du maillage de services sur Managed dans votre CR d'initialisation du cluster Data Science.

serviceMesh:
    controlPlane:
        metricsCollection: Istio
        name: data-science-smcp
        namespace: istio-system
    managementState: Managed

Définissez l'état de gestion du service KServe sur Managed dans votre ressource personnalisée Data Science Cluster.

kserve:
    managementState: Managed
    serving:
      managementState: Managed
      name: knative-serving

OpenShift Options de personnalisation de l'IA

Examinez les options de personnalisation disponibles pour le module complémentaire OpenShift AI. Ces opérateurs sont gérés par la plateforme d'IA Red Hat OpenShift.

Pour inclure une option lors de l'installation du module complémentaire OpenShift AI avec l'interface CLI, incluez l'option avec le --parameter PARAM=VALUE format lorsque vous exécutez le ibmcloud oc cluster addon enable openshift-ai. Par exemple, pour installer le module complémentaire avec l'option Data Science Pipelines, spécifiez --parameter oaiDataSciencePipelines=Managed.

Pour inclure une option lors de l 'installation du module complémentaire OpenShift AI avec l'interface utilisateur, cliquez pour activer l'option lorsque vous y êtes invité. Ces options sont incluses dans la section Capacités.

OpenShift Options de personnalisation des modules complémentaires d'IA et paramètres CLI.
Personnalisation	Paramètre CLI	Description	Valeurs	Valeur par défaut
OpenShift Politique d'approbation des mises à jour mineures et des correctifs de la plateforme d'IA	`oaiInstallPlanApproval`	Appliquer les mises à jour mineures et les correctifs automatiquement ou manuellement.	`Automatic` ou `Manual`	`Automatic`
OpenShift Politique de suppression de l'IA	`oaiDeletePolicy`	Conserver ou supprimer tous les opérateurs ou composants installés par le module complémentaire si ce dernier est supprimé.	`Retain` ou `Delete`	`Retain`
Tableau de bord du Hub de données ouvertes	`oaiDashboard`	Activer ou désactiver le composant. Si elle est activée, elle est gérée par la plateforme d'IA OpenShift.	`Managed` pour activer `Removed` pour désactiver	`Managed` (activé)
Kueue	`oaiKueue`	Activer ou désactiver le composant. Si elle est activée, elle est gérée par la plateforme d'IA OpenShift.	`Managed` pour activer `Removed` pour désactiver	`Managed` (activé)
CodeFlare	`oaiCodeflare`	Activer ou désactiver le composant. Si elle est activée, elle est gérée par la plateforme d'IA OpenShift.	`Managed` pour activer `Removed` pour désactiver	`Managed` (activé)
ModelMesh Servir	`oaiModelmeshserving`	Activer ou désactiver le composant. Si elle est activée, elle est gérée par la plateforme d'IA OpenShift.	`Managed` pour activer `Removed` pour désactiver	`Managed` (activé)
Plan de travail	`oaiWorkbenches`	Activer ou désactiver le composant. Si elle est activée, elle est gérée par la plateforme d'IA OpenShift.	`Managed` pour activer `Removed` pour désactiver	`Managed` (activé)
Pipelines de science des données	`oaiDataSciencePipelines`	Activer ou désactiver le composant. Si elle est activée, elle est gérée par la plateforme d'IA OpenShift.	`Managed` pour activer `Removed` pour désactiver	`Managed` (activé)
KServe	`oaiKserve`	Activer ou désactiver le composant. Si elle est activée, elle est gérée par la plateforme d'IA OpenShift.	`Managed` pour activer `Removed` pour désactiver	`Managed` (activé)
Ray	`oaiRay`	Activer ou désactiver le composant. Si elle est activée, elle est gérée par la plateforme d'IA OpenShift.	`Managed` pour activer `Removed` pour désactiver	`Managed` (activé)

Autres opérateurs recommandés

Passez en revue les opérateurs recommandés et les personnalisations optionnelles que vous pouvez inclure lors de l'installation. Vous êtes responsable de la gestion de ces opérateurs, y compris, mais sans s'y limiter, de la mise à jour, de la surveillance, de la récupération et de la réinstallation.

Pour inclure une personnalisation pour un opérateur lorsque vous installez le module complémentaire OpenShift AI avec l'interface CLI, incluez l'option avec le --parameter PARAM=VALUE format lorsque vous exécutez le ibmcloud oc cluster addon enable openshift-ai. Par exemple, pour inclure la NVIDIA personnalisation GPUDirect Storage pour NVIDIA l'opérateur, spécifiez --parameter nvidiaGpuDirectStorageEnabled=true.

Pour inclure une personnalisation pour un opérateur lorsque vous installez le module complémentaire OpenShift IA avec l'interface utilisateur, cliquez pour activer l'option lorsque vous y êtes invité. Notez qu'il existe des opérateurs NVIDIA supplémentaires avec des paramètres par défaut qui ne peuvent être modifiés que dans l'interface CLI ou en modifiant le fichier ClusterPolicy.

OpenShift Options de personnalisation de l'IA pour les opérateurs supplémentaires. Ces paramètres peuvent être modifiés au cours de l'installation dans le CLI ou l'interface utilisateur.
Personnalisation	Paramètre CLI	Description	Valeur	Valeur par défaut
Node Politique de suppression de la découverte de fonctionnalités	`nfdDeletePolicy`	Conservez ou supprimez l'opérateur si le module complémentaire OpenShift AI est supprimé.	`Retain` (par défaut) ou `Delete`	`Retain`
NVIDIA Politique de suppression des opérateurs de GPU	`nvidiaDeletePolicy`	Conservez ou supprimez l'opérateur si le module complémentaire OpenShift AI est supprimé.	`Retain` (par défaut) ou `Delete`	`Retain`
NVIDIA Tests CUDA après l'installation	`nvidiaCudaTest`	Activer les tests CUDA sur NVIDIA.	`true` (activé, par défaut) `false` (désactivé)	`false` (Désactivé)
Politique de suppression des exploitants de pipelines	`pipelineDeletePolicy`	Conservez ou supprimez l'opérateur si le module complémentaire OpenShift AI est supprimé.		`Retain` (par défaut) ou `Delete`

Les opérateurs GPU suivants NVIDIA s'appliquent avec les paramètres par défaut. Vous ne pouvez modifier ces paramètres au cours de l'installation que si vous installez le module complémentaire à l'aide de l'interface de programmation. Après l'installation, vous pouvez modifier ces paramètres, que ce soit dans l'interface utilisateur ou dans l'interface de ligne de commande, en éditant le fichier ClusterPolicy.

OpenShift Options de personnalisation de l'IA pour les opérateurs supplémentaires. Ces paramètres peuvent être modifiés au cours de l'installation uniquement dans l'interface de programmation.
Personnalisation	Paramètre CLI	Description	Valeurs CLI	Paramètres par défaut de l'interface utilisateur
NVIDIA Charges de travail en bac à sable	`nvidiaSandboxWorkloads`	Permettre la gestion des opérandes supplémentaires requis pour les charges de travail en bac à sable.	`true` (activé, par défaut) `false` (désactivé)	`Enabled`
NVIDIA vGPU Gestionnaire	`nvidiaVgpuManagerEnabled`	Activer NVIDIA vGPU Manager.	`true` (activé, par défaut) `false` (désactivé)	`Enabled`
NVIDIA Stockage GPUDirect	`nvidiaGpuDirectStorageEnabled`	Activer le stockage GPUDirect.	`true` (activé, par défaut) `false` (désactivé)	`Enabled`
NVIDIA Node Exporteur d'état	`nvidiaNodeStatusExporterEnabled`	Activer l'exportateur d'état d' Node.	`true` (activé, par défaut) `false` (désactivé)	`Enabled`
NVIDIA Gestionnaire d'E/S de fonctions virtuelles	`nvidiaVfioManagerEnabled`	Activer VFIO Manager pour la configuration du déploiement de VFIO-PCI.	`true` (activé, par défaut) `false` (désactivé)	`Enabled`
NVIDIA Plug-in pour périphérique Sandbox	`nvidiaSandboxDevicePluginEnabled`	Activer NVIDIA Sandbox Device Plug-in.	`true` (activé, par défaut) `false` (désactivé)	`Enabled`
Gestionnaire GPU multi-instances NVIDIA	`nvidiaMigManagerEnabled`	Activer NVIDIA Multi Instance GPU Manager.	`true` (activé, par défaut) `false` (désactivé)	`Enabled`
NVIDIA Déploiement du GPU Manager Hostengine du centre de données	`nvidiaDcgmEnabled`	Activez le déploiement de NVIDIA Data Center GPU Manager Hostengine en tant que pod séparé.	`true` (activé, par défaut) `false` (désactivé)	`Enabled`
NVIDIA vGPU Gestionnaire de périphériques	`nvidiaVgpuDeviceManagerEnabled`	Activer NVIDIA vGPU Gestionnaire de périphériques.	`true` (activé, par défaut) `false` (désactivé)	`Enabled`

Étape suivante ?

Essayez un tutoriel sur l'utilisation de OpenShift AI pour la détection des fraudes.
Découvrez comment vous pouvez utiliser OpenShift AI pour déployer un modèle que vous avez formé avec InstructLab.
Voir les informations sur la gestion du module complémentaire OpenShift AI.
Assurez-vous de bien comprendre le processus de mise à jour du module complémentaire OpenShift AI.