keywords: HA: InstructLab, DR: InstructLab, InstructLab 복구 시간 목표, InstructLab 복구 지점 목표

subcollection: instructlab

InstructLab에 대한 고가용성 및 재해 복구 이해

고가용성서비스 또는 작업 부하가 장애를 견디고 사전 정의된 서비스 수준에 따라 처리 기능을 계속 제공할 수 있는 능력. 서비스의 경우, 가용성은 서비스 수준 협약에 정의되어 있습니다. 가용성에는 유지보수, 고장, 재해 등 계획된 이벤트와 계획되지 않은 이벤트가 모두 포함됩니다. (HA)은 예기치 않은 장애가 발생하더라도 서비스가 계속 작동하고 액세스할 수 있는 기능입니다. 재해 복구는서비스 중단과 같은 드물지만 심각한 사고와 광범위한 장애로부터 복구할 수 있는 서비스 또는 작업량 능력. 여기에는 전체 지역에 영향을 미치는 물리적 재해, 데이터베이스 손상, 또는 작업 부하에 기여하는 서비스의 손실이 포함됩니다. 이 영향은 고가용성 설계가 처리할 수 있는 능력을 초과합니다. 서비스 인스턴스를 작동 상태로 복구하는 프로세스입니다.

Red Hat AI InstructLab 는 지역 정전 시 가용성을 위해 설계된 고가용성 지역 서비스입니다. Red Hat AI InstructLab 는 표준 요금제로 서비스 수준 목표(SLO) 를 충족하도록 설계되었습니다.

사용 가능한 지역 및 데이터 센터 위치에 대한 자세한 내용은 위치별 서비스 및 인프라 가용성을 참조하세요.

고가용성 아키텍처

Red Hat AI InstructLab 아키텍처 아키텍처 아키텍처 다이어그램 — caption-side=bottom"

고가용성 기능

Red Hat AI InstructLab 는 다음과 같은 고가용성 기능을 지원합니다:

다음용 HA 기능 Red Hat AI InstructLab
기능	설명	고려사항
글로벌 로드 밸런싱	노드 또는 가용성 영역에 장애가 발생하면 글로벌 로드 밸런서를 통해 살아남은 HA 인스턴스 노드로 API 요청이 라우팅되어 서비스가 계속 실행됩니다. 영역 내 노드에서 실행 중인 활성 합성 데이터 생성 작업과 활성 모델 정렬 작업은 실패 시 자동으로 다른 영역의 노드에서 재시도됩니다. 용량 제약으로 인해 특정 지역에서는 모델 정렬 노드가 한 영역 내에 배포됩니다. 영역이 복원되면 활성 모델 정렬 작업이 자동으로 다시 시도됩니다.	중단과 글로벌 로드 밸런서가 장애를 인식하는 데 짧은 시간(초)이 걸릴 수 있으며, 이 시간 동안 장애가 발생한 인스턴스로 요청이 전송될 수 있습니다.

재해 복구 기능

Red Hat AI InstructLab 는 다음과 같은 재해 복구 기능을 지원합니다:

다음을 위한 DR 기능 Red Hat AI InstructLab
기능	설명	고려사항
InstructLab 는 지역별 배포 모델을 따릅니다.	지역 장애가 발생한 경우 해당 지역이 복구될 때까지 API를 사용할 수 없게 될 수 있습니다.	InstructLab 이 배포된 다른 활성 지역은 해당 지역이 복원될 때까지 합성 데이터를 생성하고 모델 정렬을 실행하는 데 사용할 수 있습니다.
Object Storage 복제	InstructLab 클라이언트가 제공한 오브젝트 스토리지 버킷에 모든 SDG 및 정렬된 모델을 유지합니다. 재해 복구 전략은 Object Storage 서비스 문서를 참조하세요.	버킷 복제를 사용하여 분류법 콘텐츠, 생성된 합성 데이터 및 정렬된 모델을 다른 지역으로 복제할 수 있습니다. 자세한 정보는 IBM Cloud® Object Storage에 대한 고가용성 및 재해 복구 이해를 참조하십시오.

DR 계획 수립

DR 단계는 정기적으로 실행해야 합니다. 계획을 수립할 때 다음과 같은 실패 시나리오와 해결 방법을 고려하세요.

DR 시나리오
실패	분석
하드웨어 장애(단일 지점)	IBM 는 영역 내 단일 하드웨어 장애 지점으로부터 복원력이 있는 인스턴스를 제공합니다. 구성이 필요하지 않습니다.
구역 장애	IBM 는 영역 장애로부터 복원력이 있는 인스턴스를 제공합니다. 구성이 필요하지 않습니다.
데이터 손상	백업에서 클라이언트 개체 스토리지 버킷 콘텐츠의 손상되지 않은 특정 시점 버전을 복원합니다. InstructLab 복원은 서비스 팀에서 처리합니다.
지역별 실패	모델 정렬 및 합성 데이터 생성은 라이브 영역으로 전환됩니다. InstructLab 복원은 서비스 팀에서 처리합니다.

HA 및 DR에 대한 책임

HA 및 DR에 대한 계획을 지속적으로 테스트하는 것은 귀하의 책임입니다.

네트워크 연결이 중단되거나 단기간 동안 서비스를 이용할 수 없는 경우가 발생할 수 있습니다. 애플리케이션의 고가용성을 유지하기 위해 애플리케이션 소스 코드에 클라이언트 가용성 재시도 로직이 포함되어 있는지 확인하는 것은 회원님의 책임입니다.

각 기능과 관련된 다음 체크리스트를 사용하여 계획을 세우고 실천하는 데 도움을 받으세요.

오브젝트 스토리지 복제

기본 버킷에서 백업 버킷으로 복제 정책 적용 여부 확인
샘플 분류 파일이 소스에서 기본 버킷으로 예상 동기화 시간 내에 동기화되었는지 확인합니다
샘플 합성 데이터 파일이 소스에서 기본 버킷으로 예상 동기화 시간 내에 동기화되는지 확인합니다
샘플 정렬된 모델 파일이 소스에서 기본 버킷으로 예상 동기화 시간 내에 동기화되었는지 확인합니다

오브젝트 스토리지 복제에 대한 체크리스트 예시

- [ ] Create a primary InstructLab instance in primary region.
- [ ] Create a primary Cloud Object Storage bucket in primary region.
- [ ] Create a secondary InstructLab instance in secondary region.
- [ ] Create a secondary object storage bucket in secondary region.
- [ ] Enable object replication from primary object bucket to secondary object bucket
- [ ] Upload taxonomy to primary object storage bucket and create taxonomy object in primary InstructLab instance
- [ ] Ensure taxonomy object storage bucket object replicates to secondary region
- [ ] Generate training data from taxonomy in primary Instructlab Instance
- [ ] Ensure training data file replicates from primary object storage bucket to secondary object storage bucket
- [ ] Fine tune a model in the InstructLab primary instance
- [ ] Ensure model alignment file replicates from primary object storage bucket to secondary object storage bucket

회원님과 IBM Cloud 의 책임 소유권에 대한 자세한 내용은 Red Hat AI InstructLab 에서 회원님의 책임을 참조하세요.

복구 시간 목표(RTO) 및 복구 지점 목표(RPO)

다음을 위한 RTO/RPO 기능 Red Hat AI InstructLab
기능	RTO 및 RPO
백업을 통한 오브젝트 스토리지 복제 InstructLab 인스턴스	RTO = 분, RPO = 0에 가까움

변경 관리

변경 관리에는 업그레이드, 구성 변경 및 삭제와 같은 작업이 포함됩니다.

사용자와 프로세스에 업무에 필요한 최소한의 권한으로 IAM 역할과 작업을 부여하세요. 자세한 내용은 실수로 서비스가 삭제되는 것을 방지하려면 어떻게 해야 하나요?

Red Hat AI InstructLab 의 새 버전으로 업그레이드하기 전에 분류 체계, 생성된 데이터 및 정렬된 모델의 수동 백업을 만드는 것이 좋습니다.

IBM 지역 장애에서 복구하는 방법

IBM 에서 서비스 인스턴스를 복원할 수 없는 경우 재해 복구 계획에 설명된 대로 서비스를 복원해야 합니다.

IBM 서비스 유지 관리 방법

모든 업그레이드는 복구 계획 및 롤백 프로세스를 포함한 IBM 서비스 모범 사례에 따릅니다.
정기 유지보수로 인해 짧은 중단이 발생할 수 있으며, 이는 클라이언트 가용성 재시도 로직으로 완화됩니다.
변경 사항은 지역별로, 지역 내에서 지역별로 순차적으로 배포됩니다. IBM 에서는 결함이 처음 발견되면 업데이트를 되돌립니다.
복잡한 변경 사항은 기능 플래그를 통해 활성화 및 비활성화하여 노출을 제어합니다.
고객 워크로드에 영향을 미치는 변경 사항은 IBM Cloud 알림에 자세히 설명되어 있습니다.

이 서비스에 영향을 미치는 계획된 유지보수, 공지사항 및 릴리스 노트에 대한 자세한 내용은 다음 링크를 참조하세요.