AI, IoT 및 기계 학습(ML)을 위한 에지 환경

IoT 기기와 가까운 에지에 Red Hat OpenShift 클러스터가 포함된 Satellite 위치를 생성하여, 데이터가 있는 곳 어디에서나 IBM Cloud AI 및 머신러닝 서비스에 액세스할 수 있습니다.

IBM Cloud로 공통 에지 워크로드 과제 해결

엣지 워크로드가 실행되는 곳에서 IBM Cloud 서비스를 활용하여 모델 훈련 및 추론과 같은 엣지 워크로드의 과제를 해결하십시오.

기계 학습 모델 훈련
머신러닝 모델을 훈련하는 데는 일반적으로 메모리, 그래픽 처리 장치(GPU), 저장 공간 등에 상당한 컴퓨팅 리소스가 필요합니다. 사용자의 컴퓨팅 인프라에 모델 훈련 소프트웨어를 설치하고 관리하는 대신 Satellite 위치에 컴퓨팅 인프라를 추가할 수 있습니다. 그런 다음 IBM Cloud Pak® for Data에 액세스할 수 있습니다. 여기에는 데이터 분석 및 모델 훈련을 위한 Watson Studio 및 IBM Watson® Machine Learning 등의 도구가 포함됩니다. 클라우드 서비스로서 이러한 도구에 액세스하여 소프트웨어의 설치 및 관리를 단순화합니다. 또한 기본 인프라 제공자와 관계없이 모든 에지 인프라에서 이러한 동일한 클라우드 서비스를 사용할 수 있습니다.
모델 추론
모델 추론은 훈련된 모델을 사용하여 예측하고 이상 항목을 발견하며 에지 환경에서 데이터를 분류하는 태스크입니다. 메모리, 스토리지 및 대기 시간 요구사항으로 인해 모델 추론은 IoT 센서 및 기타 데이터 소스에 가까울 수록 가장 효과적으로 실행됩니다. 관리형 Red Hat OpenShift 클러스터를 사용하여 Satellite 위치를 생성하면, 에지 환경에 데이터가 저장됩니다. 그런 다음, Red Hat™ OpenShift™ Serverless™와 같은 서버리스 프로그래밍 모델을 설정하여, REST(Representational State Transfer) 인터페이스를 통해 훈련된 모델을 조회하고 예측 결과를 도출할 수 있는 간소화된 프로그래밍 모델을 제공할 수 있습니다.

Satellite를 사용하여 에지 솔루션 설정

Satellite 를 사용하여 엣지 환경 전반에 걸쳐 일관되고 확장 가능한 경험을 제공하세요.

  1. 데이터에 대한 기계 학습 및 모델 훈련을 설정합니다.
  2. 서버리스 컴포넌트가 있는 Satellite를 에지 환경에 배치합니다.
  3. 에지에서 모델 추론을 실행합니다.

1단계: 데이터에 대한 기계 학습 및 모델 훈련 설정

모델을 배포하기 전에 IBM Cloud 또는 IBM Cloud Pak for Data 에서 Watson Studio 및 Machine Learning 을 사용하여 에지 데이터를 준비하십시오.

  1. 훈련 데이터를 IBM Cloud Object Storage에 업로드하십시오.
  2. 다음 링크를 사용하여 Watson StudioMachine Learning 를 사용하여 IBM Cloud Object Storage 에서 훈련 데이터를 가져오고, 데이터를 분석한 후 TensorFlow,, Keras, SciKit-Learn, 또는 기타 널리 사용되는 머신러닝 알고리즘을 활용해 모델을 훈련하십시오.

학습된 모델은 다시 IBM Cloud Object Storage에 저장되므로, 데이터는 에지 환경에서 스토리지 영역을 차지하지 않습니다.

2단계: 서버리스 컴포넌트가 있는 Satellite를 에지 환경에 배치

에지 환경 시스템 관리자로서 서버리스 도구를 사용하여 에지에서의 모델 추론을 단순화할 수 있습니다.

  1. 에지 컴퓨팅 인프라에서 Satellite 위치를 작성하십시오.
  2. Satellite 위치에 관리 Red Hat OpenShift 클러스터를 작성하십시오.
  3. Red Hat OpenShift 웹 콘솔에 액세스하십시오.
  4. OperatorHub, 사용하여 Red Hat OpenShift 서버리스 오퍼레이터를 설치합니다.
  5. Knative Serving Operator를 설치하십시오.

Satellite를 서버리스 컴포넌트와 함께 배치했습니다.

3단계: 에지에서 모델 추론 실행

AI 개발자로서 에지 관리자가 설정하는 서버리스 처리를 사용하여 에지 데이터에서 모델 추론을 실행하십시오.

  1. IBM Cloud Object Storage에서 로컬 개발 환경으로 훈련된 모델을 다운로드하십시오.
  2. Knative 준수 컨테이너 이미지를 작성하십시오.
  3. Satellite 클러스터에서 실행되는 Red Hat OpenShift 서버리스 프로세서에 이미지를 배치 하십시오. 개발자 관점에서 ‘ Red Hat OpenShift ’ 웹 콘솔을 사용하거나, ‘ Satellite ’ 서버리스용 ‘ kn ’ 명령줄 도구를 사용할 수 있습니다.

이제 에지 환경에서 실행되고, AI 훈련된 모델 및 Satellite Serverless를 통해 에지 데이터에 대해 요청 시 모델 추론을 수행하는 관리 Red Hat OpenShift 위치가 있습니다.