スケーリングの仕組み

Code Engine は、システム内での要求数をモニターし、アプリケーションの並行性設定の制約の範囲内で、アプリケーション・インスタンスをスケーリングします。

Code Engine コンソールからアプリケーションのスケーリングを監視するには、特定のアプリケーション・ページにナビゲートします。 アプリケーションの実行中、実行中インスタンスの数は、指定したインスタンス最大数に基づいて 1 以上になります。 アプリケーションが処理する要求の数が、構成されているターゲット並行性より少ない場合、アプリケーションは、実行中のインスタンスの数を、構成されているインスタンスの最小数まで拡張します。 最小インスタンス数が 0 (デフォルト値) に設定されている場合、アプリケーションはゼロにスケールダウンし、アプリのインスタンス数は 0 インスタンスを反映します。 アプリケーションがスケールダウンされ、要求がアプリケーションにルーティングされると、 Code Engine はアプリケーションをスケールアップし、新しく作成されたアプリケーション・インスタンスに要求をルーティングします。

アプリケーションが完全にスケールダウンできるようにするには、アプリケーション・コードで SIGTERM シグナルを処理する必要があります。 Code Engine が自動的にスケールダウンすると、SIGTERM シグナルがアプリケーションに送信されます。 アプリケーションが SIGTERM シグナルを処理しない場合、アプリケーション・インスタンスは、要求タイムアウト値 (デフォルト値は 300 秒) によって構成された時間、 Terminating 状況のままになります。 要求タイムアウトの期間が経過すると、 Code Engine は SIGKILL シグナルを送信して、 Terminating 状況のアプリ・インスタンスを強制的に停止します。

待ち時間とスループットの最適化

アプリケーションの待ち時間とスループットを最適化するには、いくつかの一般的なモデルの長所と短所、およびコンテナー並行性を構成するためのベスト・プラクティスを理解してください。

並行性の設定を使用して、アプリケーションの作成時または更新時にインスタンスごとに同時に処理できる要求の最大数を指定します。 Code Engineコンソールで、「ランタイム」セクションに並行性の値を設定します。 CLI では、**app createコマンドまたはapp update**コマンドで--concurrencyオプション (別名 --cn) を使用します。

CLI を使用したアプリのスケーリング方法の監視

CLI を使用して、アプリの実行中インスタンスの数を確認できます。

1. app create コマンドを使用してアプリケーションを作成します。

   ibmcloud ce application create --name myapp --image icr.io/codeengine/helloworld
   

2. アプリケーションを呼び出します。 app create コマンドの出力からアプリの URL を入手するか、ibmcloud ce app get --name myapp --output url を実行することができます。

   curl https://myapp.4svg40kna19.us-south.codeengine.appdomain.cloud
   

3. application get コマンドを実行して、アプリケーションの状況を表示します。 Running instances の値を見つけます。 この例では、アプリの実行中インスタンスは 1 つです。 以下に例を示します。

   ibmcloud ce application get --name myapp
   

   出力例

   [...]
   OK
   
   Name:          myapp
   [...]
   
   URL:           https://myapp.4svg40kna19.us-south.codeengine.appdomain.cloud
   Cluster Local URL:  http://myapp.4svg40kna19.svc.cluster.local
   Console URL:   https://cloud.ibm.com/codeengine/project/us-south/01234567-abcd-abcd-abcd-abcdabcd1111/application/myapp/configuration
   
   Status Summary:  Application deployed successfully
   
   Environment Variables:    
       Type     Name             Value  
       Literal  CE_API_BASE_URL  https://api.us-south.codeengine.cloud.ibm.com  
       Literal  CE_APP           myapp  
       Literal  CE_DOMAIN        us-south.codeengine.appdomain.cloud  
       Literal  CE_PROJECT_ID    abcdefgh-abcd-abcd-abcd-1a2b3c4d5e6f
       Literal  CE_REGION        us-south  
       Literal  CE_SUBDOMAIN     abcdabcdab
   Image:                icr.io/codeengine/helloworld
   Resource Allocation:
       CPU:                1
       Ephemeral Storage:  400M
       Memory:             4G
   
   Revisions:
   myapp-ds8fn-1:
       Age:                6m25s
       Traffic:            100%
       Image:              icr.io/codeengine/helloworld (pinned to fe0446)
       Running Instances:  1
   
   Runtime:
       Concurrency:    100
       Maximum Scale:  10
       Minimum Scale:  0
       Timeout:        300
   
   Conditions:
       Type                 OK    Age    Reason
       ConfigurationsReady  true  6m10s
       Ready                true  5m56s
       RoutesReady          true  5m56s
   
   Events:
       Type    Reason   Age    Source              Messages
       Normal  Created  6m28s  service-controller  Created Configuration "myapp"
       Normal  Created  6m28s  service-controller  Created Route "myapp"
   
   Instances:
       Name                                       Revision       Running  Status   Restarts  Age
       myapp-ds8fn-1-deployment-79bdd76749-khtmw  myapp-ds8fn-1  2/2      Running  0         32s
   

   アプリがゼロにスケーリングされるまで数分かかることがあるため、しばらくお待ちください。

4. application get コマンドを再実行し、Running instances の値がゼロにスケーリングされていることを確認します。 アプリケーションが処理する要求の数が、構成されているターゲット並行性より少ない場合、アプリケーションは、実行中のインスタンスの数を、構成されているインスタンスの最小数まで拡張します。 このシナリオでは、実行中のインスタンスの数は自動的にゼロになります。 --min-scale オプションが 0 (デフォルト値) に設定されている場合、実行中のインスタンスの数は自動的にゼロになります。

   アプリがゼロにスケーリングされるまで数分かかることがあるため、しばらくお待ちください。

   ibmcloud ce application get -n myapp
   

   出力例

   OK
   
   Name:          myapp
   [...]
   
   URL:           https://myapp.4svg40kna19.us-south.codeengine.appdomain.cloud
   Cluster Local URL:  http://myapp.4svg40kna19.svc.cluster.local
   Console URL:   https://cloud.ibm.com/codeengine/project/us-south/01234567-abcd-abcd-abcd-abcdabcd1111/application/myapp/configuration
   
   Image:                icr.io/codeengine/helloworld
   Resource Allocation:
       CPU:                1
       Ephemeral Storage:  400M
       Memory:             4G
   
   Revisions:
   myapp-ds8fn-1:
       Age:                12m
       Traffic:            100%
       Image:              icr.io/codeengine/helloworld (pinned to 548d5c)
       Running Instances:  0
   
   Runtime:
       Concurrency:         100
       Maximum Scale:       10
       Minimum Scale:       0
       Timeout:             300
   
   Conditions:
       Type                 OK    Age    Reason
       ConfigurationsReady  true  3m7s
       Ready                true  2m54s
       RoutesReady          true  2m54s
   
   Events:
       Type    Reason   Age    Source              Messages
       Normal  Created  3m21s  service-controller  Created Configuration "myapp"
       Normal  Created  3m20s  service-controller  Created Route "myapp"
   

5. ゼロからスケーリングするためにアプリケーションを再度呼び出します。

   curl https://myapp.4svg40kna19.us-south.codeengine.appdomain.cloud
   

6. application get コマンドを再実行し、Running instances の値がゼロからスケール・アップされていることを確認します。 以下に例を示します。

   ibmcloud ce application get -n myapp
   

   出力例

   OK
   
   Name:          myapp
   [...]
   
   URL:           https://myapp.4svg40kna19.us-south.codeengine.appdomain.cloud
   Cluster Local URL:  http://myapp.4svg40kna19.svc.cluster.local
   Console URL:   https://cloud.ibm.com/codeengine/project/us-south/01234567-abcd-abcd-abcd-abcdabcd1111/application/myapp/configuration
   
   Status Summary:     Application deployed successfully  
   
   Environment Variables:    
       Type     Name             Value  
       Literal  CE_API_BASE_URL  https://api.us-south.codeengine.cloud.ibm.com  
       Literal  CE_APP           myapp  
       Literal  CE_DOMAIN        us-south.codeengine.appdomain.cloud  
       Literal  CE_PROJECT_ID    abcdefgh-abcd-abcd-abcd-1a2b3c4d5e6f
       Literal  CE_REGION        us-south  
       Literal  CE_SUBDOMAIN     abcdabcdab  
   Image:                  icr.io/codeengine/helloworld  
   Resource Allocation:      
   CPU:                1  
   Ephemeral Storage:  400M  
   Memory:             4G  
   
   Revisions:     
   myapp-00001:    
       Age:                42s  
       Latest:             true  
       Traffic:            100%  
       Image:              icr.io/codeengine/helloworld (pinned to 1cee99)  
       Running Instances:  1  
   
   Runtime:       
   Concurrency:       100  
   Maximum Scale:     10  
   Minimum Scale:     0  
   Scale Down Delay:  0  
   Timeout:           300  
   
   Conditions:    
   Type                 OK    Age  Reason  
   ConfigurationsReady  true  25s    
   Ready                true  12s    
   RoutesReady          true  12s    
   
   Events:        
   Type    Reason   Age  Source              Messages  
   Normal  Created  44s  service-controller  Created Configuration "myapp"  
   Normal  Created  43s  service-controller  Created Route "myapp"  
   
   Instances:     
   Name                                    Revision     Running  Status   Restarts  Age  
   myapp-00001-deployment-d59b87654-xkqh7  myapp-00001  3/3      Running  0         43s
   

アプリの最小インスタンス数と最大インスタンス数の設定

アプリ・インスタンス数の最小値と最大値を更新することにより、アプリの実行インスタンス数を変更できます。

アプリケーションのインスタンスの最小数のデフォルト値は、 0 です。 アプリがトラフィックを受信しない場合は、 0 にスケーリングされ、実行中のアプリのインスタンスはありません。 この状況では、アプリケーションが再びトラフィックを受信すると、応答が遅くなる可能性がありますが、アプリケーションはスケール・アップされます。 この動作を変更するには、コンソールまたは CLI でアプリケーションを更新し、最小スケールを 1 に設定します。

アプリのインスタンスの最大数のデフォルト値は 0 です。これにより、アプリを必要に応じてスケーリングできます。 詳しくは、 境界のスケーリング を参照してください。