Edge-Umgebungen für KI, IoT und maschinelles Lernen

Erstellen Sie einen Satellite-Standort mit Red Hat OpenShift-Clustern am Netzwerkrand in der Nähe Ihrer IoT-Geräte, um auf die KI- und Machine-Learning-Dienste von IBM Cloud zuzugreifen, unabhängig davon, wo sich Ihre Daten befinden.

Übliche Herausforderungen von Edge-Workloads mit IBM Cloud lösen

Bewältigen Sie Herausforderungen bei Edge-Workloads wie Modelltraining und Inferenz, indem Sie IBM Cloud-Dienste dort nutzen, wo Ihre Edge-Workloads ausgeführt werden.

Modell für maschinelles Lernen trainieren
Das Trainieren Ihres Machine-Learning-Modells erfordert in der Regel erhebliche Rechenressourcen in Bezug auf Arbeitsspeicher, Grafikprozessoren (GPUs) und Speicherplatz. Statt Software für das Trainieren von Modellen in Ihrer Rechenressourceninfrastruktur zu installieren und zu verwalten, können Sie die Rechenressourceninfrastruktur einem Satellite-Standort hinzufügen. Dann können Sie auf IBM Cloud Pak® for Data zugreifen, das Tools wie Watson Studio und IBM Watson® Machine Learning zur Datenanalyse und für das Modelltraining umfasst. Indem Sie auf diese Tools als Cloud-Services zugreifen, vereinfachen Sie die Installation und Verwaltung der Software. Sie können diese Cloud-Services auch unabhängig vom zugrunde liegenden Provider der Infrastruktur in Ihrer gesamten Edge-Infrastruktur verwenden.
Modellinferenz
Die Modellinferenz ist die Task, ein trainiertes Modell zu verwenden, um Vorhersagen zu erstellen, Anomalien zu erkennen und Daten aus Ihrer Edge-Umgebung zu kategorisieren. Wegen der Anforderungen an Hauptspeicher, Speicherplatz und Latenz sollte die Modellinferenz so nah an Ihren IoT-Sensoren und anderen Datenquellen wie möglich ausgeführt werden. Sie können einen Satellite-Standort mit verwalteten Red Hat OpenShift-Clustern erstellen, bei dem sich Ihre Daten in Ihren Edge-Umgebungen befinden. Anschließend können Sie ein serverloses Programmiermodell wie Red Hat™ OpenShift™ Serverless™ einrichten, um ein vereinfachtes Programmiermodell mit einer REST-Schnittstelle (Representational State Transfer) bereitzustellen, über das Sie Ihr trainiertes Modell abfragen können, um eine Vorhersage zu generieren.

Edge-Lösung mit Satellite einrichten

Nutzen Sie Satellite, um eine einheitliche und skalierbare Benutzererfahrung in Ihren Edge-Umgebungen zu gewährleisten.

  1. Maschinelles Lernen und Modelltraining für Ihre Daten einrichten.
  2. Satellite mit einer serverunabhängigen Komponente in Ihrer Edge-Umgebung einrichten.
  3. Modellinferenz im Edge-System ausführen.

Schritt 1: Maschinelles Lernen und Modelltraining für Ihre Daten einrichten

Bereiten Sie Edge-Daten mit Watson Studio und Machine Learning in IBM Cloud oder IBM Cloud Pak for Data vor, bevor Sie Ihr Modell bereitstellen.

  1. Laden Sie die Trainingsdaten in IBM Cloud Object Storage hoch.
  2. Verwenden Sie Watson Studio und Machine Learning, um die Trainingsdaten von IBM Cloud Object Storage abzurufen, die Daten zu analysieren und ein Modell mit TensorFlow,, Keras, SciKit-Learn, oder einem anderen gängigen Algorithmus für maschinelles Lernen zu trainieren.

Das trainierte Modell wird wieder in IBM Cloud Object Storage gespeichert, sodass die Daten in Ihrer Edge-Umgebung keinen Speicherplatz belegen.

Schritt 2: Satellite mit einer serverunabhängigen Komponente in Ihrer Edge-Umgebung einrichten

Als Systemadministrator für die Edge-Umgebung aktivieren Sie ein serverunabhängiges Tool, um die Modellinferenz im Edge-System zu vereinfachen.

  1. Erstellen Sie einen Satellite-Standort in Ihrer Edge-Datenverarbeitungsinfrastruktur.
  2. Erstellen Sie einen verwalteten Red Hat OpenShift-Cluster am Satellite-Standort.
  3. Greifen Sie auf die Red Hat OpenShift-Webkonsole zu.
  4. Installieren Sie mithilfe des OperatorHub, den Serverless-Operator Red Hat OpenShift.
  5. Installieren Sie Knative Serving Operator.

Sie haben Satellite mit einer serverlosen Komponente bereitgestellt.

Schritt 3: Modellinferenz im Edge-System ausführen

Führen Sie als KI-Entwickler die Modellinferenz für Ihre Edge-Daten aus, indem Sie die serverunabhängige Verarbeitung verwenden, die der Edge-Administrator eingerichtet hat.

  1. Laden Sie das trainierte Modell aus IBM Cloud Object Storage in Ihre lokale Entwicklungsumgebung herunter.
  2. Erstellen Sie ein Knative-konformes Container-Image.
  3. Stellen Sie das Image für Ihren Red Hat OpenShift-Prozessor ohne Server bereit, der in Ihrem Satellite-Cluster ausgeführt wird. Sie können die Red Hat OpenShift-Webkonsole in der Entwicklerperspektive oder das Befehlszeilentool kn für Satellite Serverless verwenden.

Jetzt verfügen Sie über einen verwalteten Satellite-Standort, der in Ihrer Edge-Umgebung ausgeführt wird und über Ihr KI-trainiertes Modell und Red Hat OpenShift Serverless eine bedarfsgesteuerte Modellinferenz für Ihre Edge-Daten ausführt.