플릿 확장 설정

플릿을 생성할 때는 스케일링 매개변수를 사용하여 Code Engine 플릿이 배포하는 워커의 수와 작업 부하 변화에 대한 대응 방식을 제어하십시오.

모든 스케일링 매개변수는 선택 사항이며, 함대를 생성할 때 설정할 수 있습니다.

Code Engine CLI의 스케일링 매개변수

플릿을 생성하려면 ibmcloud ce fleet run 또는 ibmcloud ce fleet create 명령을 사용합니다. 플릿 크기 조정을 위해 다음과 같은 옵션을 지원합니다. 사용 가능한 모든 명령어 옵션의 전체 목록을 보려면 CLI 참조 문서를 참조하십시오.

--scale-max

모든 워커에 걸쳐 동시 실행 가능한 작업 슬롯의 총 수에 대한 상한값. 작업자는 동시에 처리할 수 있는 작업 수가 이 정도를 넘지 않도록 확장됩니다. 기본값은 10 입니다.

--scale-min

대기 중이거나 실행 중인 작업이 없는 경우에도 항상 할당된 상태로 유지되는 동시 작업 슬롯의 최소 수입니다. 이 용량을 제공하는 작업자들은 계속 활성 상태를 유지하며, 절대 자동으로 축소되지 않습니다.

이 설정으로 인해 활동 중인 작업자가 있지만, 대기 중이거나 실행 중인 작업이 없는 플릿은 ‘대기’ 상태가 됩니다.

--scale-max 이하여야 합니다. 기본값은 0 입니다.

--scale-spare

현재 실행 중인 작업 수보다 더 많은 수의 무료 동시 작업 슬롯을 유지합니다. 모든 작업자가 바쁠 때, 함대는 예비 완충량을 회복하기 위해 추가 작업자를 투입하며, 이 수치는 최대 --scale-max 까지입니다. 여유 용량이 남아 있는 상태에서 새로운 작업이 도착하면, 새로운 작업자가 배정될 때까지 기다리지 않고 즉시 시작됩니다.

--scale-max 이하여야 합니다. 기본값은 0 입니다.

--scale-down-delay

Code Engine 가 워크러의 규모를 축소하기 전에, 해당 워크러가 마지막 작업을 완료한 후에도 얼마나 오랫동안 계속 실행될지 지정합니다. 지연 기간 내에 마지막 작업을 완료한 작업자는 새로운 작업이 도착하는 즉시 이를 처리합니다.

초 수를 나타내는 양의 정수를 지정하십시오. 기본값은 0 입니다(작업자(workers)는 더 이상 필요하지 않게 되면 즉시 축소됩니다).

Code Engine 콘솔의 스케일링 매개변수

최대 컨테이너 슬롯 수

최소 컨테이너 슬롯 수

이 설정으로 인해 활동 중인 작업자가 있지만, 대기 중이거나 실행 중인 작업이 없는 플릿은 ‘대기’ 상태가 됩니다.

‘최대 컨테이너 슬롯 수’ 이하여야 합니다. 기본값은 0 입니다.

여유 컨테이너 슬롯

현재 실행 중인 작업 수보다 더 많은 수의 무료 동시 작업 슬롯을 유지합니다. 모든 작업자가 바쁠 때, 선단은 예비 완충 여력을 회복하기 위해 추가 작업자를 투입하며, 이는 최대 컨테이너 슬롯 수까지 가능합니다. 여유 용량이 남아 있는 상태에서 새로운 작업이 도착하면, 새로운 작업자가 배정될 때까지 기다리지 않고 즉시 시작됩니다.

‘최대 컨테이너 슬롯 수’ 이하여야 합니다. 기본값은 0 입니다.

축소 지연

분 단위로 수치를 입력하십시오. 기본값은 0 입니다(작업자(workers)는 더 이상 필요하지 않게 되면 즉시 축소됩니다).

작업 부하 패턴 및 관련 매개변수

어떤 매개변수를 사용할지는 작업이 생성되는 방식, 지연 시간 요구 사항, 그리고 플릿 구성의 안정성에 따라 달라집니다.

Code Engine CLI의 일회성 배치 워크로드

모든 작업을 미리 파악하고, 함대를 생성할 때 해당 작업을 할당하면, 마지막 작업이 완료되면 함대 작업도 끝납니다. 이 모델은 가장 간단한 모델로, 병렬로 실행될 작업 수를 제어하기 위해 --scale-max 을 설정하는 것 외에는 별도의 스케일링 구성이 필요하지 않습니다. 일련의 작업에 대해 전용 플릿 구성이 필요한 경우 이 방법을 사용하십시오.

관련 옵션: --scale-max

Code Engine 콘솔의 일회성 일괄 처리 워크로드

모든 작업을 미리 파악하고, 함대를 생성할 때 해당 작업을 할당하면, 마지막 작업이 완료되면 함대 작업도 끝납니다. 이 모델은 가장 간단한 모델로, 병렬로 실행되는 작업의 수를 제어하기 위해 ‘최대 컨테이너 슬롯’을 설정하는 것 외에는 별도의 스케일링 구성이 필요하지 않습니다. 일련의 작업에 대해 전용 플릿 구성이 필요한 경우 이 방법을 사용하십시오.

관련 매개변수: 최대 컨테이너 슬롯 수

Code Engine CLI에서 예약된 일괄 처리 워크로드

항상 함대를 대기시켜 두고, 일정에 따라 새로운 작업들을 추가합니다. 배치 사이에는 함대에 처리 대기 중인 작업이 없습니다. 배치 간 간격이 예측 가능하고 충분히 길기 때문에 작업자를 따뜻하게 유지하는 데 드는 비용이 이득보다 크므로, --scale-min, --scale-spare 또는 --scale-down-delay 를 사용하는 데는 이점이 없습니다. 모든 배치에 걸쳐 함대 구성은 안정적으로 유지됩니다.

관련 옵션: --scale-max

Code Engine 콘솔의 예약된 일괄 처리 워크로드

항상 함대를 대기시켜 두고, 일정에 따라 새로운 작업들을 추가합니다. 배치 사이에는 함대에 처리 대기 중인 작업이 없습니다. 배치 간의 간격은 예측 가능하며, 작업자를 따뜻하게 유지하는 데 드는 비용이 그만한 가치가 없을 만큼 충분히 길기 때문에, ‘최소 컨테이너 슬롯’, ‘예비 컨테이너 슬롯’ 또는 ‘축소 지연’을 사용하는 데는 아무런 이점이 없습니다. 모든 배치에 걸쳐 함대 구성은 안정적으로 유지됩니다.

관련 매개변수: 최대 컨테이너 슬롯 수

Code Engine CLI의 지속적이고 지연 시간에 민감한 워크로드

작업은 사용자의 동작, 센서 측정값 또는 기타 실시간 이벤트에 의해 촉발되어 하루 종일 예측할 수 없는 시점에 발생합니다. 작업이 도착할 때마다 새로운 작업자가 시작되기를 기다린다면 용납할 수 없는 지연 시간이 발생할 것입니다. 대신, 작업이 즉시 시작될 수 있도록 대기 중인 인력 풀을 확보해 둘 수 있도록 플릿을 구성하십시오.

관련 옵션: --scale-max, --scale-min, --scale-spare, --scale-down-delay

--scale-max 를 사용하여 프로비저닝할 수 있는 컨테이너 슬롯의 최대 개수를 정의하십시오. 귀사의 플릿은 워크로드 수요에 따라 이 동시 처리 한도까지 확장됩니다.
--scale-min 를 사용하면 대기열에 작업이 하나도 없을 때에도 기본 작업자 풀이 항상 실행되도록 할 수 있습니다. 트래픽이 일정 기간 동안 0으로 떨어질 수 있지만, 트래픽이 재개될 때 즉시 시작되기를 원할 때 이 옵션을 사용하십시오.
--scale-spare 를 사용하여 현재 실행 중인 작업 수보다 많은 수의 여유 작업 슬롯을 확보하십시오. 작업이 도착하면, 이미 실행 중인 워커에서 즉시 처리가 시작되며, 플릿은 여유 용량을 보충하기 위해 백그라운드에서 더 많은 워커를 할당합니다.
--scale-down-delay 를 사용하면 작업자가 마지막 작업이 완료된 직후에 즉시 축소되는 것을 방지할 수 있습니다. 이 설정은 작업이 일시적인 간격을 두고 간헐적으로 들어올 때 유용하며, 이를 통해 작업자가 항상 대기 상태를 유지할 수 있게 하고 불필요한 규모 축소 및 확대 주기를 방지할 수 있습니다. 워커를 따뜻하게 유지하면 작업 시작 지연 시간을 줄이고, 워커 초기화 오버헤드를 최소화하며, 새로운 워커를 반복적으로 프로비저닝하는 데 드는 비용을 절감할 수 있습니다.

Code Engine 콘솔의 지속적이고 지연 시간에 민감한 워크로드

관련 매개변수: 최대 컨테이너 슬롯 수, 최소 컨테이너 슬롯 수, 여유 컨테이너 슬롯 수, 축소 지연 시간

'최대 컨테이너 슬롯'을 사용하여 프로비저닝할 수 있는 컨테이너 슬롯의 최대 개수를 정의합니다. 귀사의 플릿은 워크로드 수요에 따라 이 동시 처리 한도까지 확장됩니다.
'최소 컨테이너 슬롯'을 사용하여, 대기열에 작업이 하나도 없는 경우에도 기본 작업자 풀이 항상 실행되도록 합니다. 트래픽이 일정 기간 동안 0으로 떨어질 수 있지만, 트래픽이 재개될 때 즉시 시작되기를 원할 때 이 옵션을 사용하십시오.
여분의 컨테이너 슬롯을 사용하여, 현재 실행 중인 작업 수보다 더 많은 수의 여유 작업 슬롯을 확보해 두십시오. 작업이 도착하면, 이미 실행 중인 워커에서 즉시 처리가 시작되며, 플릿은 여유 용량을 보충하기 위해 백그라운드에서 더 많은 워커를 할당합니다.
‘스케일 다운 지연’을 사용하여 작업자가 마지막 작업이 완료된 직후 즉시 스케일 다운되지 않도록 방지할 수 있습니다. 이 설정은 작업이 일시적인 간격을 두고 간헐적으로 들어올 때 유용하며, 이를 통해 작업자가 항상 대기 상태를 유지할 수 있게 하고 불필요한 규모 축소 및 확대 주기를 방지할 수 있습니다. 워커를 따뜻하게 유지하면 작업 시작 지연 시간을 줄이고, 워커 초기화 오버헤드를 최소화하며, 새로운 워커를 반복적으로 프로비저닝하는 데 드는 비용을 절감할 수 있습니다.