安裝 Red Hat OpenShift AI 附加元件

按照步驟將 OpenShift AI 附加元件安裝至現有的群集。

想在新叢集上部署 AI 操作 OpenShift 員嗎？嘗試在 IBM Cloud 可部署架構上運用 OpenShift 人工智慧。

最低需求

設定附加元件前，請檢閱下列注意事項。

檢視「支援的群集附加元件版本」，並決定要在群集中安裝的附加元件版本。
您的群集必須至少有 2 個 Worker 節點。每個 Worker 節點至少要有 8vCPU 和 32GB 記憶體。
您的工作節點必須使用 RHCOS 作業系統。
您必須允許群集的出站流量，才能安裝所需的操作員。

支援的版本

檢視支援的 OpenShift AI 附加元件版本以及相應的 OpenShift AI 和 Red Hat OpenShift on IBM Cloud 版本。

支援的 AI 附加元件版本以及 Red Hat OpenShift AI 和 Red Hat OpenShift on IBM Cloud.
OpenShift AI 附加版本	Red Hat OpenShift AI 版本	支援的群集版本
420	3.4.2	420,421
419	3.4.0	4.19, 4.20, 4.21
418	2.25.6	4.18, 4.19
417	2.25.6	4.17, 4.18
416	2.25.6	4.16, 4.17

不支援從版本 418 升級到 419。只允許新安裝版本 419。如需更多資訊，請參閱《關於 OpenShift AI 附加元件》。

考量

若要使用 OpenShift AI 提供的所有功能，建議至少使用 1 個 GPU。
您的集群可以混合使用 GPU 和非 GPU 節點。但是，如果您使用此配置，請務必在 GPU 節點上部署您的應用程式，以充分利用其資源。
從 OpenShift AI Operator 的 2.19.0 版本開始，KServe 可選擇進階或標準模式。預設情況下，當您使用 OpenShift AI 使用 IBM Cloud 附加元件安裝 KServe 時，它是以標準模式安裝的。如果要使用進階模式，必須在安裝附加元件後完成選用步驟。

開始之前

安裝附加元件前，請先完成這些步驟。

請登入您的帳戶。適用的話，請將適當的資源群組設為目標。設定叢集的環境定義。
選項：如果您還沒有，請建立 VPC Public Gateway。
如果您要使用 OpenShift Pipelines、Node Feature Discovery 或 NVIDIA GPU 操作員與 OpenShift AI 附加元件，您必須在集群上啟用 OperatorHub，並停用出站流量保護。如果您不想使用這些運算符號，請跳過此步驟。
1. 在群集中啟用 OperatorHub。
```
oc patch operatorhub cluster --type json -p '[{"op": "add", "path": "/spec/disableAllDefaultSources", "value": false}]'
```
1. 停用出站流量保護。
停用出站流量保護允許所有外部網路連線。如需詳細資訊，請參閱在 VPC 群集中管理出站流量保護。
```
ibmcloud oc vpc outbound-traffic-protection disable --cluster CLUSTER
```

必要條件

安裝附加元件前，請先完成這些步驟。

請登入您的帳戶。適用的話，請將適當的資源群組設為目標。設定叢集的環境定義。
選項：如果您還沒有，請建立 VPC Public Gateway。
如果您要使用 OpenShift Pipelines、Node Feature Discovery 或 NVIDIA GPU 操作員與 OpenShift AI 附加元件，您必須在集群上啟用 OperatorHub，並停用出站流量保護。如果您不想使用這些運算符號，請跳過此步驟。
1. 在群集中啟用 OperatorHub。
```
oc patch operatorhub cluster --type json -p '[{"op": "add", "path": "/spec/disableAllDefaultSources", "value": false}]'
```
1. 停用出站流量保護。
停用出站流量保護允許所有外部網路連線。如需詳細資訊，請參閱在 VPC 群集中管理出站流量保護。
1. 在主控台中，導覽到群集頁面，然後按一下相關群集。
2. 在群集的「總覽」頁面上，找到「網路」區段，然後選擇「已停用出站流量保護」選項。

步驟 1：選擇自訂選項

您可以透過指定附加元件安裝時包含的不同選項來強化您的 Red Hat OpenShift AI 專案，例如用於建立可攜式機器學習工作流程的資料管道，或用於管理和擴充資源的工具。您也可以自訂升級政策和刪除政策。如需每個可用選項的說明，請參閱 OpenShift AI 自訂選項。如果安裝附加元件時未包含特定選項，則採用預設值。這些選項由 Red Hat OpenShift AI 平台管理。

在 CLI 中，執行指令以列出所有選項。在使用者介面中，這些選項會列在安裝時的 Capabilities (能力 ) 區段中。

ibmcloud oc cluster addon options --addon openshift-ai

步驟 2：檢閱其他建議的操作者

您也可以選擇安裝建議使用某些 OpenShift AI 功能的附加操作員。如果您的群集上尚未安裝這些軟體，您可以選擇在安裝附加元件時將它們包含在內。或者，您可以使用 OperatorHub 或按照操作員特定的安裝步驟隨時進行安裝。若要使用這些運算符，您必須停用叢集的出站流量保護。

您有責任管理這些操作員，包括但不限於更新、監控、復原和重新安裝。

建議使用以下運算子。

其中一些操作員可能包含額外的自訂功能，您可以在安裝附加元件時選擇指定。檢視建議操作員可用的自訂清單。

步驟 3：在 CLI 中安裝附加元件

執行指令以安裝 Red Hat OpenShift AI 附加元件。指定自訂格式 --parameter PARAM=VALUE。例如，若要包含資料科學管道選項，請指定 --parameter oaiDataSciencePipelines=Managed。

若要在使用 CLI 安裝附加元件時包含建議的操作員，請在執行安裝指令時指定下列選項。

OpenShift 管道：--parameter pipelineEnabled=true
Node 功能發現：--parameter nfdEnabled=true
NVIDIA GPU 操作員：--parameter nvidiaEnabled=true

如需可用版本的清單，請參閱支援的版本。

安裝指令。

ibmcloud oc cluster addon enable openshift-ai --cluster CLUSTER [-f] [--param PARAM] [-q] [--version VERSION]

範例指令安裝附加元件，並啟用自動次要版和修補程式更新、CodeFlare, 和 KServe。

ibmcloud oc cluster addon enable openshift-ai --cluster CLUSTER --param oaiInstallPlanApproval=Automatic --param oaiCodeflare=Managed --param oaiKserve=Managed

步驟 2：檢閱其他建議的操作員

您有責任管理這些操作員，包括但不限於更新、監控、復原和重新安裝。

建議使用以下運算子。

其中一些操作員可能包含額外的自訂功能，您可以在安裝附加元件時選擇指定。檢視建議操作員可用的自訂清單。

步驟 3：在使用者介面中安裝附加元件

使用 UI 安裝 Red Hat OpenShift AI 附加元件。

導覽到群集頁面，然後按一下相關群集。
在群集詳細資訊頁面中，找到附加元件區段。找到 Red Hat OpenShift AI 選項，然後按一下安裝。
在「功能」一節中，檢視可用附加元件自訂選項的說明，並啟用您要包含在安裝中的選項。
在「額外建議的操作員」部分，按一下以展開每個操作員，並選擇您要包含的自訂選項。這些額外的操作員和客製化功能建議用於某些 Red Hat OpenShift AI 功能。您可以選擇稍後使用 OperatorHub 或按照操作員特定的安裝步驟安裝這些選項。

您有責任管理這些操作員，包括但不限於更新、監控、復原和重新安裝。
按一下安裝。

步驟 4：存取 OpenShift AI 面板

安裝 OpenShift AI 附加元件後，您可以存取 OpenShift AI 面板。

在叢集概覽頁面上，點選「OpenShift」網頁控制台。
從應用程式啟動器 ，選擇 Red Hat OpenShift AI 面板選項。
如果出現提示，請按一下 Log in with OpenShift。

選項：在進階模式下設定 KServe

如果您想在進階模式下使用 KServe，您必須完成以下步驟。

從 OperatorHub 安裝 OpenShift Serverless Operator。
從 OperatorHub 安裝 OpenShift Service Mesh Operator。

在您的 Data Science Cluster 初始化 CR 中，將服務網狀結構管理狀態設定為 Managed。

serviceMesh:
    controlPlane:
        metricsCollection: Istio
        name: data-science-smcp
        namespace: istio-system
    managementState: Managed

在您的 Data Science Cluster 自訂資源中，將 KServe 服務管理狀態設定為 Managed。

kserve:
    managementState: Managed
    serving:
      managementState: Managed
      name: knative-serving

OpenShift AI 客製化選項

檢視 OpenShift AI 附加元件的客製化選項。這些操作員由 Red Hat OpenShift AI 平台管理。

若要在透過命令列介面安裝 AI 附加 OpenShift 元件時包含某個選項，請在執行時以 -- --parameter PARAM=VALUE ibmcloud oc cluster addon enable openshift-ai 格式加入該選項。例如，若要使用資料科學管道選項安裝附加元件，請指定 --parameter oaiDataSciencePipelines=Managed。

若要在安裝 AI 附加 OpenShift 元件時包含此選項，請於系統提示時點擊以啟用該選項。這些選項包含在 Capabilities（能力 ）部分。

OpenShift AI 附加元件自訂選項和 CLI 參數。
自訂作業	CLI 參數	說明	值	預設值
OpenShift AI 平台次要版本與修補程式更新審核政策	`oaiInstallPlanApproval`	自動或手動套用次要和修補程式更新。	`Automatic` 或 `Manual`	`Automatic`
OpenShift AI 刪除政策	`oaiDeletePolicy`	如果移除附加元件，保留或刪除附加元件安裝的任何操作員或元件。	`Retain` 或 `Delete`	`Retain`
開放資料中心儀表板	`oaiDashboard`	啟用或停用該元件。如果啟用，則由 OpenShift AI 平台管理。	`Managed` 啟用停用 `Removed`	`Managed` (已啟用)
咿咿	`oaiKueue`	啟用或停用該元件。如果啟用，則由 OpenShift AI 平台管理。	`Managed` 啟用停用 `Removed`	`Managed` (已啟用)
CodeFlare	`oaiCodeflare`	啟用或停用該元件。如果啟用，則由 OpenShift AI 平台管理。	`Managed` 啟用停用 `Removed`	`Managed` (已啟用)
ModelMesh 服務	`oaiModelmeshserving`	啟用或停用該元件。如果啟用，則由 OpenShift AI 平台管理。	`Managed` 啟用停用 `Removed`	`Managed` (已啟用)
工作台	`oaiWorkbenches`	啟用或停用該元件。如果啟用，則由 OpenShift AI 平台管理。	`Managed` 啟用停用 `Removed`	`Managed` (已啟用)
資料科學管道	`oaiDataSciencePipelines`	啟用或停用該元件。如果啟用，則由 OpenShift AI 平台管理。	`Managed` 啟用停用 `Removed`	`Managed` (已啟用)
KServe	`oaiKserve`	啟用或停用該元件。如果啟用，則由 OpenShift AI 平台管理。	`Managed` 啟用停用 `Removed`	`Managed` (已啟用)
雷縣	`oaiRay`	啟用或停用該元件。如果啟用，則由 OpenShift AI 平台管理。	`Managed` 啟用停用 `Removed`	`Managed` (已啟用)

其他建議的 Operator

檢視建議的操作員，以及您可以在安裝時包含的選用自訂功能。您有責任管理這些操作員，包括但不限於更新、監控、復原和重新安裝。

當您透過命令列介面安裝 AI 附加 OpenShift 元件時，若需為操作員包含自訂設定，請在 ibmcloud oc cluster addon enable openshift-ai 執行時以以下 --parameter PARAM=VALUE 格式加入該選項：例如，若要為 NVIDIA 運算子包含 GPUDirect Storage NVIDIA 自訂設定，請指定 --parameter nvidiaGpuDirectStorageEnabled=true。

若要在安裝 AI 附加 OpenShift 元件時為操作員啟用自訂設定，請於系統提示時點擊以啟用該選項。請注意，尚有其他預設 NVIDIA 設定的操作員，其設定僅能透過命令列介面（CLI）或編輯. ClusterPolicy 檔案進行變更。

OpenShift AI 附加客製化選項，適用於額外的操作員。這些設定可以在安裝時在 CLI 或 UI 中變更。
自訂作業	CLI 參數	說明	值	預設值
Node 功能發現刪除政策	`nfdDeletePolicy`	如果移除 OpenShift AI 附加元件，保留或刪除操作員。	`Retain` (預設) 或 `Delete`	`Retain`
NVIDIA GPU 操作員刪除政策	`nvidiaDeletePolicy`	如果移除 OpenShift AI 附加元件，保留或刪除操作員。	`Retain` (預設) 或 `Delete`	`Retain`
NVIDIA CUDA 安裝後測試	`nvidiaCudaTest`	啟用 NVIDIA CUDA 測試。	`true` (啟用，預設值) `false` (停用)	`false` (禁用)
管道營運商刪除政策	`pipelineDeletePolicy`	如果移除 OpenShift AI 附加元件，保留或刪除操作員。		`Retain` (預設) 或 `Delete`

下列 NVIDIA GPU 操作員適用於預設設定。只有在使用 CLI 安裝附加元件時，才能在安裝過程中變更這些設定。安裝完成後，您可以在使用者介面或 CLI 中，透過編輯 ClusterPolicy.

OpenShift AI 附加客製化選項，適用於額外的操作員。這些設定只能在安裝時於 CLI 中變更。
自訂作業	CLI 參數	說明	CLI 值	UI 預設設定
NVIDIA 沙箱工作負載	`nvidiaSandboxWorkloads`	啟用沙箱工作負載所需額外操作符的管理。	`true` (啟用，預設值) `false` (停用)	`Enabled`
NVIDIA vGPU 經理	`nvidiaVgpuManagerEnabled`	啟用 NVIDIA vGPU Manager。	`true` (啟用，預設值) `false` (停用)	`Enabled`
NVIDIA GPUD 直接儲存	`nvidiaGpuDirectStorageEnabled`	啟用 GPUDirect 儲存。	`true` (啟用，預設值) `false` (停用)	`Enabled`
NVIDIA Node 狀態匯出工具	`nvidiaNodeStatusExporterEnabled`	啟用「Node」狀態匯出工具。	`true` (啟用，預設值) `false` (停用)	`Enabled`
NVIDIA 虛擬函式 I/O 管理員	`nvidiaVfioManagerEnabled`	啟用 VFIO Manager 進行設定，以部署 VFIO-PCI。	`true` (啟用，預設值) `false` (停用)	`Enabled`
NVIDIA 沙盒裝置外掛程式	`nvidiaSandboxDevicePluginEnabled`	啟用 NVIDIA Sandbox Device Plug-in。	`true` (啟用，預設值) `false` (停用)	`Enabled`
NVIDIA 多實例 GPU 管理器	`nvidiaMigManagerEnabled`	啟用 NVIDIA Multi Instance GPU Manager。	`true` (啟用，預設值) `false` (停用)	`Enabled`
NVIDIA 資料中心 GPU Manager 主機引擎部署	`nvidiaDcgmEnabled`	啟用 NVIDIA Data Center GPU Manager Hostengine 作為單獨 pod 的部署。	`true` (啟用，預設值) `false` (停用)	`Enabled`
NVIDIA vGPU 裝置管理員	`nvidiaVgpuDeviceManagerEnabled`	啟用 NVIDIA vGPU Device Manager。	`true` (啟用，預設值) `false` (停用)	`Enabled`

下一步為何？

嘗試使用 OpenShift AI 進行詐騙偵測的教學。
瞭解如何使用 OpenShift AI 部署您使用 InstructLab 訓練的模型。
請參閱有關管理 OpenShift AI 附加元件的資訊。
確保您瞭解 OpenShift AI 附加元件的更新程序。