Quelles sont les meilleures pratiques en matière de mise à l'échelle automatique?

• Tirez le meilleur parti du programme de mise à l'échelle automatique de cluster en utilisant les stratégies suivantes pour votre noeud worker et les stratégies de déploiement de charge de travail. Pour plus d'informations, consultez le Kubernetes Questions fréquemment posées Cluster Autoscaler.
• Testez le programme de mise à l'échelle automatique de cluster avec quelques charges de travail de test pour bien comprendre comment vous pouvez augmenter et diminuer le travail, configurer et tout autre aspect que vous pouvez souhaiter, comme la mise à disposition excessive de noeuds worker ou la limitation d'applications.
• Ensuite, nettoyez votre environnement de test et prévoyez d'inclure ces valeurs personnalisées et d'autres paramètres avec une toute nouvelle installation du programme de mise à l'échelle automatique de cluster.

Est-il possible de chager le fonctionnement de la mise à l'échelle par augmentation ou réduction ?

Oui, vous pouvez personnaliser les paramètres ou utiliser d'autres ressources d' Kubernetes s pour influencer le fonctionnement de la mise à l'échelle ascendante et descendante.

• Pour la mise à l'échelle, vous pouvez personnaliser les valeurs du cluster autoscaler ConfigMap telles que scanInterval, expander, skipNodes, ou maxNodeProvisionTime. Passez en revue les moyens d'effectuer une mise à disposition excessive des noeuds worker afin de pouvoir effectuer une mise à l'échelle par augmentation des noeuds worker avant qu'un pool de noeuds worker soit à court de ressources. Vous pouvez également configurer des interruptions de budget de pod Kubernetes et des limites de priorité de pod afin d'affecter le fonctionnement de la mise à l'échelle par augmentation.

• Pour réduire la capacité, personnalisez les valeurs de l'autoscaler du cluster ConfigMap, telles que scaleDownUnneededTime, scaleDownDelayAfterAdd, scaleDownDelayAfterDelete, ou scaleDownUtilizationThreshold.

Puis-je augmenter la taille minimale par zone pour déclencher une mise à l'échelle par augmentation de mon cluster pour cette taille ?

Non, le fait de définir une taille minimale (minSize) ne déclenche pas automatiquement une mise à l'échelle par augmentation. Il minSize s'agit d'un seuil garantissant que l'autoscaler du cluster ne réduise pas le nombre de nœuds de travail par zone en dessous d'un certain seuil.

• Si votre cluster ne dispose pas encore de ce nombre de noeuds par zone, le programme de mise à l'échelle automatique de cluster n'effectue pas de mise à l'échelle par augmentation tant qu'aucune de vos demandes de ressource de charge de travail ne réclame davantage de ressources. Par exemple, si vous disposez d'un pool de noeuds worker avec un noeud worker pour trois zones (trois noeuds worker au total) et vous affectez au paramètre minSize la valeur 4 pour chaque zone, le programme de mise à l'échelle automatique de cluster ne met pas immédiatement à disposition trois autres noeuds worker par zone (12 noeuds worker au total). En revanche, la mise à l'échelle par augmentation est déclenchée par les demandes de ressource.
• Si vous créez une charge de travail qui demande les ressources de 15 noeuds worker, le programme de mise à l'échelle automatique de cluster procède à une mise à l'échelle par augmentation du pool de noeuds worker pour répondre à la demande. Désormais, cela signifie minSize que l'autoscaler du cluster ne réduit pas le nombre de nœuds de travail à moins de quatre par zone, même si vous supprimez la charge de travail qui nécessite ce nombre.

Comment ce comportement est-il différent des pools de nœuds worker qui ne sont pas gérés par le programme de mise à l'échelle automatique de cluster ?

Lorsque vous créez un pool de noeuds worker, vous spécifiez le nombre de noeuds worker dont il dispose par zone. Le pool de noeuds worker conserve ce nombre de noeuds tant que vous n'avez pas effectué de redimensionnement ou de rééquilibrage dessus. Le pool de noeuds worker n'ajoute ou ne supprime pas de noeuds worker pour vous. Si vous disposez d'autres pods pouvant être planifiés, les pods restent à l'état En attente jusqu'à ce que vous redimensionniez le pool de noeuds worker. Lorsque vous activez le programme de mise à l'échelle automatique de cluster pour un pool de noeuds worker, les noeuds worker sont augmentés ou diminués, en réponse aux paramètres de spécification et aux demandes de ressources de vos pods. Vous n'avez pas besoin de redimensionner ou de rééquilibrer le pool de noeuds worker manuellement.

Comment fonctionne la mise à l'échelle automatique du GPU?

La mise à l'échelle automatique des nœuds de travail GPU n'est prise en charge qu'avec la version de cluster autoscaler 1.2.4 et les versions ultérieures, et uniquement avec les saveurs de nœuds de travail GPU NVIDIA. La mise à l'échelle se produit lorsqu'un pod passe en état d'attente en raison d'une pénurie de ressources GPU. L'autoscaler fait ensuite évoluer la grappe en ajoutant des nœuds supplémentaires. La réduction d'échelle se produit lorsque l'utilisation passe en dessous de la valeur configurée scaleDownGPUUtilizationThreshold. Dans ce cas, le nœud est considéré comme devant être réduit.

Puis-je effectuer une mise à l'échelle automatique de plusieurs pools de noeuds worker en même temps ?

Oui, après avoir installé le programme de mise à l'échelle automatique de cluster, vous pouvez choisir les pools de noeuds worker du cluster sur lesquels doit porter la mise à l'échelle automatique dans la mappe de configuration (configmap). Vous ne pouvez exécuter qu'un seul programme de mise à l'échelle automatique par cluster. Créez et activez la mise à l'échelle automatique sur les pools de noeuds worker autre que le pools de noeuds worker par défaut, car ce dernier comprend des composants système qui peuvent empêcher la mise à l'échelle par réduction automatique.

Comment puis-je être certain que le programme de mise à l'échelle automatique de cluster répond aux besoins en ressources de mon application ?

L'outil d'ajustement automatique de la taille du cluster adapte la taille de votre cluster en fonction des demandes de ressources liées à votre charge de travail. À ce titre, précisez les demandes de ressources pour tous vos déploiements, car ce sont ces demandes que l'autoscaler du cluster utilise pour calculer le nombre de nœuds de travail nécessaires à l'exécution de la charge de travail. N'oubliez pas que la mise à l'échelle automatique est basée sur l'utilisation de calcul demandé par vos configurations de charge de travail, et ne tient pas compte d'autres facteurs comme le coût des machines.

Puis-je réduire un pool de noeuds worker à zéro (0) noeud ?

Oui. À partir de la version de l'add-on Cluster 2.0.0 Autoscaler, vous pouvez réduire certains pools de travailleurs à zéro nœud.

Pourquoi est-ce utile?

La mise à l'échelle vers zéro permet de réduire les coûts lorsqu'aucune charge de travail n'est en cours d'exécution. L'autoscaler rétablit automatiquement les nœuds lorsque cela est nécessaire.

Comment cela fonctionne-t-il ?

Lorsqu'il n'y a pas de pods à exécuter, l'autoscaler peut réduire le pool de travailleurs à 0 nœuds. Si de nouveaux pods ont besoin de ressources, l'autoscaler redimensionne automatiquement le pool.

Que devez-vous faire?

• Vérifiez la version de votre module complémentaire et assurez-vous que vous utilisez v2.0.0 ou une version ultérieure.

• Définissez minSize = 0 pour le pool de travailleurs dans votre configuration d'autoscaler. Si vous avez activé les ALB publics, définissez minSize = 2 par zone pour une haute disponibilité.

Quelle est l'exigence en matière de quorum du cluster?

Notez que l'ensemble du cluster ne peut pas être réduit à zéro. Un nombre minimum de nœuds doit rester actif pour assurer le bon fonctionnement du cluster et maintenir etcd le quorum. Si ce quorum est atteint, vous pouvez réduire à zéro les autres pools de travailleurs.

Puis-je optimiser mes déploiements pour la mise à l'échelle automatique ?

Oui, vous pouvez ajouter plusieurs fonctions Kubernetes à votre déploiement afin d'ajuster la façon dont le programme de mise à l'échelle automatique de cluster prend en compte vos demandes de mise à l'échelle pour vos ressources.

• Teintez votre pool de noeuds worker pour autoriser uniquement les déploiements ou les pods ayant la tolérance correspondante à être déployés sur votre pool de noeuds worker.
• Ajoutez un libellé au pool de noeuds worker autre que le pool de noeuds worker par défaut. Ce libellé est utilisé dans votre configuration de déploiement pour spécifier nodeAffinity ou nodeSelector, ce qui limite les charges de travail pouvant être déployées sur les noeuds worker dans le pool de noeuds worker avec ce libellé.
• Utilisez les budgets de perturbation des pods pour éviter toute replanification ou suppression soudaine de vos pods.
• Si vous utilisez la priorité des pods, vous pouvez modifier le seuil de priorité afin de définir quels types de priorité déclenchent une augmentation de capacité. Par défaut, la limite de priorité est zéro (0).

Puis-je utiliser des taches et des tolérances avec des pools de noeuds worker mis à l'échelle automatiquement ?

Oui, mais prenez soin d'appliquer des taches au niveau du pool de noeuds worker de sorte que tous les noeuds worker existants et futurs puissent recevoir la même tache. Vous devez ensuite inclure une tolérance correspondante dans la configuration de vos charges de travail afin que celles-ci soient planifiées sur votre pool de travailleurs à dimensionnement automatique portant la marque correspondante. N'oubliez pas que si vous déployez une charge de travail qui n'est pas tolérée par le pool de noeuds worker auquel une tache est appliquée, l'augmentation des noeuds worker n'est pas envisagée et d'autres noeuds worker peuvent être commandés même si le cluster dispose d'une capacité suffisante. Cependant, le pool de noeuds worker auquel une tache est appliquée reste identifié comme sous-utilisé si l'utilisation de ses ressources est inférieure au seuil défini (par défaut 50 %) et est donc pris en compte dans la diminution.