オートスケールのベストプラクティスとは？

• ワーカー・ノード戦略とワークロード・デプロイメント戦略に従うことによって、クラスター自動スケーリング機能を最大限に活用します。 詳細については、『 Kubernetes クラスタ・オートスケーラーに関するよくある質問 』を参照してください。
• いくつかのテスト・ワークロードを使用してクラスター自動スケーリング機能を試す ことで、 スケールアップとスケールダウンの仕組み、構成すること、および ワーカー・ノードのオーバープロビジョン や アプリの制限 など、必要なその他の側面を把握できます。
• その後、テスト環境をクリーンアップして、クラスター自動スケーリング機能のフレッシュ・インストールでこれらのカスタム値や追加設定を組み込む計画を立てます。

スケールアップとスケールダウンの仕組みを変更できますか?

はい、設定をカスタマイズしたり、 Kubernetes の他のリソースを利用したりすることで、スケールアップやスケールダウンの動作を調整することができます。

• スケールアップの場合、クラスタ・オートスケーラ ConfigMap の値を scanInterval、 expander、 skipNodes、 maxNodeProvisionTime などにカスタマイズできます。 ワーカー・プールのリソースが不足する前にワーカー・ノードをスケールアップできるように、ワーカー・ノードのオーバープロビジョンの方法を検討します。 また、Kubernetes のポッド中断の割り当て量とポッド優先度のカットオフを設定して、スケールアップの仕組みに影響を与えることができます。

• スケールダウンを行うには、クラスタのオートスケーラーの ConfigMap の値を、 scaleDownUnneededTime、 scaleDownDelayAfterAdd、 scaleDownDelayAfterDelete、または scaleDownUtilizationThreshold などのようにカスタマイズしてください。

ゾーンあたりの最小サイズを増やすことで、クラスターをそのサイズにスケールアップできますか?

いいえ。minSize を設定しても、自動的にスケールアップはトリガーされません。 minSize は、クラスタのオートスケーラーがゾーンごとのワーカーノード数を特定の数未満に縮小しないようにするためのしきい値です。

• クラスターで、ゾーンあたりの数がまだこれに達していない場合は、より多くのリソースを必要とするワークロード・リソース要求が発生するまで、クラスター自動スケーリング機能によってスケールアップされることはありません。 例えば、3 つのゾーンあたり 1 つのワーカー・ノードが含まれた 1 つのワーカー・プールがある場合に (合計 3 つのワーカー・ノード)、minSize をゾーンあたり 4 に設定した場合は、クラスター自動スケーリング機能によって、ゾーンあたりの追加の 3 つのワーカー・ノード (合計 12 個のワーカー・ノード) が即時にプロビジョンされることはありません。 代わりに、リソース要求によってスケールアップがトリガーされます。
• 15 個のワーカー・ノードのリソースを要求するワークロードを作成した場合、クラスター自動スケーリング機能はこの要求を満たすようにワーカー・プールをスケールアップします。 ここで、「 minSize 」とは、たとえその数のワーカーノードを必要とするワークロードを削除したとしても、クラスターのオートスケーラーがゾーンごとに4台未満のワーカーノードまでスケールダウンしないことを意味します。

この動作は、クラスター自動スケーリング機能によって管理されないワーカー・プールとどのように異なりますか?

ワーカー・プールを作成するときには、1 ゾーンあたりのワーカー・ノード数を指定します。 ワーカー・プールのワーカー・ノード数は、ユーザーがワーカー・プールのサイズを変更するか、または 再バランス化するまで変わりません。 ワーカー・プールがワーカー・ノードを自動的に追加/削除することはありません。 スケジュールできる数より多くのポッドがある場合は、ユーザーがワーカー・プールのサイズを変更するまで、余分なポッドは保留状態のままです。 ワーカー・プールに対してクラスター自動スケーリング機能を有効にすると、ポッドの仕様の設定とリソース要求に応じてワーカー・ノード数が増減されます。 手動でワーカー・プールをサイズ変更したり再バランス化したりする必要はありません。

GPUオートスケーリングはどのように機能するのですか？

GPU ワーカーノードの自動スケーリングは、クラスタオートスケーラーバージョン 1.2.4 以降と NVIDIA GPU ワーカーノードフレーバーでのみサポートされます。 スケールアップは、ポッドがGPUリソース不足のためにペンディング状態になったときに起こります。 その後、オートスケーラはノードを追加してクラスタをスケールアップする。 スケールダウンは、利用率が設定された scaleDownGPUUtilizationThreshold を下回ると起こります。 この場合、そのノードはスケールダウンが検討される。

複数のワーカー・プールをすぐに自動スケーリングできますか?

はい。クラスター自動スケーリング機能をインストールした後、構成マップでクラスター内のどのワーカー・プールを自動スケーリングするかを選択できます。 1 つのクラスターにつき 1 つの自動スケーリング機能のみを実行できます。 デフォルト・ワーカー・プール以外のワーカー・プールで自動スケーリング機能を作成して有効にしてください。デフォルト・ワーカー・プールには、自動スケールダウンを妨げる可能性のあるシステム・コンポーネントが含まれているからです。

どうすればクラスター自動スケーリング機能が、アプリで必要なリソースに対応して確実に実行されますか?

クラスタ・オートスケーラーは、ワークロード のリソース要求に応じてクラスタをスケーリングします。 そのため、すべてのデプロイメントについて リソース要求を指定してください。クラスタのオートスケーラーは、このリソース要求に基づいて、ワークロードの実行に必要なワーカーノードの数を算出するからです。 自動スケーリング機能は、ワークロード構成によって要求されるコンピュートの使用量に基づいており、マシン・コストなどの他の要因を考慮していないことに注意してください。

ワーカー・プールをゼロ (0) ノードまでスケールダウンできますか?

はい。 Cluster Autoscaler アドオンのバージョンから 2.0.0、特定のワーカープールをノード数ゼロまでスケールダウンできるようになりました。

なぜこれが役立つのか？

ワークロードが実行されていない場合、スケーリングをゼロにすることでコスト削減が可能になります。 オートスケーラーは必要なときに自動的にノードを復旧させます。

どのように機能しますか。

実行可能なポッドが存在しない場合、オートスケーラーはワーカープールを0ノードまで縮小できます。 新しいポッドがリソースを必要とする場合、オートスケーラーは自動的にプールをスケールアップします。

何をすればいいですか？

• アドオンのバージョンを確認し、 以降 v2.0.0 を使用していることを確認してください。

• オートスケーラー設定内のワーカープール用に minSize = 0 設定します。 パブリックALBを有効にしている場合は、高可用性を実現するため、ゾーンごとに minSize = 2 設定してください。

クラスタのクォーラム要件とは何ですか？

クラスター全体をゼロまでスケールダウンすることはできないことに注意してください。 クラスタの健全性を維持し、クォーラム etcd を確保するためには、最低限のノード数が稼働状態を維持する必要があります。 この定足数が満たされた場合、他のワーカープールをゼロに縮小できます。

自動スケーリングのためにデプロイメントを最適化できますか?

はい。デプロイメントにいくつかの Kubernetes 機能を追加して、クラスター自動スケーリング機能によってスケーリングのためにリソース要求がどのように考慮されるかを調整できます。

• ワーカー・プールにテイントを適用することで、一致する容認が適用されたデプロイメントまたはポッドのみをそのワーカー・プールにデプロイできるようにします。
• デフォルト・ワーカー・プール以外のワーカー・プールにラベルを追加します。 このラベルは、ラベル付けされたワーカー・プール内のワーカー・ノード上にデプロイできるワークロードを制限する nodeAffinity または nodeSelector を指定するために、デプロイメント構成で使用されます。
• ポッドの割り当て制限を活用して、ポッドの急な再スケジューリングや削除を防ぐようにしてください。
• podの優先度を使用している場合、 優先度のしきい値を編集することで、どのような優先度がスケーリングアップを引き起こすかを変更できます。 デフォルトでは、優先度のカットオフはゼロ (0) です。

自動スケーリングされたワーカー・プールでテイントと容認を使用できますか?

はい。ただし、既存のワーカー・ノードと将来のワーカー・ノードのすべてに同じテイントが設定されるように、テイントはワーカー・プール・レベルで適用してください。 その場合、これらのワークロードが、対応するテイントを持つ自動スケーリングされるワーカープールにスケジューリングされるように、 ワークロード構成に一致する許容範囲を指定する必要があります。 テイントを適用したワーカー・プールでは許容されないワークロードをデプロイすると、そのワーカー・ノードはスケールアップ対象とは見なされないので、クラスターに十分な容量があっても追加のワーカー・ノードが注文されることがあることに注意してください。 一方、テイントを適用したワーカー・プールでも、使用されているリソースがしきい値 (デフォルトでは 50%) 未満であるものは、低使用率ワーカー・ノードとして検出され、スケールダウンの対象と見なされます。