자동 스케일링

플릿을 사용하면 대규모 병렬 처리를 활용하여 대규모 컴퓨팅 집약적인 작업을 완료할 수 있습니다. Code Engine 리소스 요구 사항을 가장 효율적으로 충족하도록 플릿의 워커 노드를 자동으로 확장합니다. Code Engine 에서 배포되는 워커의 프로필을 결정하도록 하거나 GPU 유형과 같은 특정 프로필을 선택할 수 있습니다. 두 경우 모두 Code Engine 에서 자동으로 작업자 수를 조정하여 효율성을 극대화합니다.

배포되는 작업자 수는 완료해야 할 작업 수, 코드 인스턴스에 필요한 리소스, 한 번에 실행하려는 최대 동시 인스턴스 수에 따라 결정됩니다. 이러한 설정을 조정하여 최소 1건에서 최대 수백만 건의 작업을 완료하도록 팀을 확장할 수 있습니다.

예를 들어 완료해야 할 작업이 4개 있다고 가정해 보겠습니다. 작업을 완료하기 위한 각 코드 인스턴스에는 1 vCPU and 2 GB memory, 총 요구 사항은 4 vCPU and 8GB memory 입니다. 최대 동시 인스턴스 수를 2개로 설정한 경우 Code Engine 는 2 vCPU and 4 GB memory 로 워커 노드 1개를 배포하여 한 번에 2개의 인스턴스를 실행할 수 있습니다. 최대 동시 인스턴스 수를 4개로 설정하면 Code Engine 에서 동일한 작업자 노드 2개를 배포하여 두 작업자에서 동시에 4개의 인스턴스를 모두 실행할 수 있습니다. 두 번째 시나리오에서는 차량이 더 빨리 완료되지만 더 많은 작업자를 배치해야 합니다. 자동 워커 노드 배포를 위한 조합은 무한히 많으며 다양한 프로필의 워커 노드가 배포될 수 있다는 점에 유의하세요.

GPU에는 자동 크기 조정 기능을 사용할 수 없습니다. 플릿에 GPU를 배포하려면 배포할 GPU 워커의 유형을 지정해야 합니다.

작업 및 인스턴스 사양

플릿을 배포할 때 사용자는 완료할 작업 수, 한 번에 실행할 인스턴스 수, 작업이 완료되는 순서를 지정할 수 있습니다. 플릿은 여러 인스턴스를 동시에 시작하여 여러 작업을 동시에 처리할 수 있습니다. 모든 인스턴스는 차량 사양과 동일한 양의 vCPU 및 메모리로 생성됩니다. 또한 사용자는 작업 사양 파일을 만들어 각 작업에 대한 특정 명령과 인수를 제공하거나 사용자 지정 작업 인덱스를 만들 수 있습니다.

COS의 작업 저장소

플릿을 생성할 때 영구 데이터 저장소와 버킷 하위 경로를 지정하여 COS 버킷을 사용하여 플릿에 작업을 제공할 수 있습니다. COS 버킷의 각 개체는 하나의 작업을 나타냅니다.

격리

배치 작업과 달리 플릿은 단일 테넌트 격리를 제공합니다. 차량 작업자는 다른 사용자와 공유되지 않습니다.

재시도

각 함대 인스턴스는 완료될 때까지 실행됩니다. 그러나 오류가 발생하면 Code Engine 인스턴스가 다시 시작됩니다. 최대 재시도 횟수를 제한하여 실패한 인스턴스를 다시 시작하지 않도록 할 수 있습니다.

상태

하나 이상의 워커 노드가 프로비저닝되면 플릿은 Running 상태입니다. 플릿이 더 이상 실행되지 않으면 모든 작업이 성공적으로 완료된 경우 Succeeded 상태가 되고, 하나 이상의 작업이 실패한 경우 Failed 상태가 됩니다. 플릿을 취소할 수도 있습니다.

자세한 내용은 차량 상태 이해를 참조하세요.

작업자 프로필

차량 작업자의 프로필을 선택적으로 선택할 수 있습니다. 프로필을 지정하지 않으면 Code Engine 에서 프로필을 선택해 드립니다.

Code Engine 플릿은 다음 프로필 제품군을 지원합니다:

일부 프로필은 모든 VPC 네트워크 영역에서 사용 가능하지 않을 수 있습니다. 다음 CLI 명령을 사용하여 지역의 Code Engine 서버리스 플릿에서 지원하는 작업자 프로필을 나열할 수 있습니다.

ibmcloud ce fleet worker profiles

• H100 및 L40s 와 같은 특정 프로필의 영역별 가용성 및 용량을 알고 싶은 경우 지원 케이스를 열고 주제로 "가상 프라이빗 클라우드(VPC)"를 선택합니다.
• 현재 플릿에서 지원되지 않는 특정 VPC 프로필이 필요한 경우 지원 케이스를 열고 " Code Engine "를 주제로 선택하세요.