Mise à l'échelle automatique

Avec une flotte, vous pouvez tirer parti du parallélisme à grande échelle pour réaliser des tâches de calcul intensives. Code Engine adapte automatiquement les nœuds de travail de votre flotte pour répondre aux besoins en ressources de la manière la plus efficace possible. Vous pouvez laisser Code Engine déterminer les profils des travailleurs qui sont déployés, ou vous pouvez choisir un profil spécifique, tel qu'un type de GPU. Dans les deux cas, Code Engine adapte automatiquement le nombre de travailleurs pour obtenir le niveau d'efficacité le plus élevé.

Le nombre de travailleurs déployés est basé sur le nombre de tâches à accomplir, les ressources requises pour une instance de votre code et le nombre maximum d'instances simultanées que vous souhaitez exécuter à la fois. En ajustant ces paramètres, vous pouvez faire évoluer votre flotte pour qu'elle accomplisse aussi peu qu'une tâche ou plusieurs millions de tâches.

Par exemple, imaginez que vous ayez quatre tâches à accomplir. Chaque instance de code nécessaire à la réalisation d'une tâche requiert 1 vCPU and 2 GB memory, soit un besoin total de 4 vCPU and 8GB memory. Si vous fixez le nombre maximum d'instances simultanées à 2, Code Engine peut déployer un nœud de travailleur avec 2 vCPU and 4 GB memory pour exécuter 2 instances en même temps. Si vous fixez le nombre maximal d'instances simultanées à 4, Code Engine peut déployer deux nœuds de travail identiques pour exécuter les quatre instances en même temps sur les deux nœuds de travail. Dans le second scénario, la flotte se termine plus rapidement mais nécessite le déploiement d'un plus grand nombre de travailleurs. Gardez à l'esprit qu'il existe un nombre infini de combinaisons pour le déploiement automatique des nœuds de travail et que des nœuds de travail de différents profils peuvent être déployés.

La mise à l'échelle automatique n'est pas disponible pour les GPU. Pour déployer des GPU pour une flotte, vous devez spécifier le type de travailleur GPU à déployer.

Spécification des tâches et des instances

Lors du déploiement d'une flotte, les utilisateurs peuvent spécifier le nombre de tâches à accomplir, le nombre d'instances à exécuter en même temps, l'ordre dans lequel les tâches sont accomplies. Les flottes peuvent travailler sur de nombreuses tâches en parallèle en démarrant plusieurs instances simultanément. Toutes les instances sont créées avec la même quantité de vCPU et de mémoire que dans les spécifications de la flotte. En outre, les utilisateurs peuvent créer un fichier de spécification des tâches afin de fournir des commandes et des arguments spécifiques pour chaque tâche ou de créer des index de tâches personnalisés.

Stockage des tâches dans le COS

Vous pouvez utiliser un seau COS pour fournir les tâches de votre flotte en spécifiant un magasin de données persistant et un sous-chemin de seau lorsque vous créez la flotte. Chaque objet du seau COS représente une seule tâche.

Isolement

Contrairement aux travaux par lots, les flottes permettent d'isoler un seul locataire. Les travailleurs de votre flotte ne sont pas partagés avec d'autres utilisateurs.

Nombre de nouvelles tentatives

Chaque instance de la flotte se déroule jusqu'à son terme. Toutefois, en cas d'erreur, Code Engine redémarre l'instance. Vous pouvez limiter le nombre maximal de tentatives afin d'éviter de redémarrer les instances qui ont échoué.

Statut

Une flotte est à l'état Running lorsqu'au moins un nœud de travailleur est approvisionné. Lorsque la flotte ne fonctionne plus, elle se trouve dans l'état Succeeded si toutes les tâches se sont terminées avec succès, ou Failed si une ou plusieurs tâches ont échoué. Vous pouvez également annuler une flotte.

Pour plus d'informations, voir Comprendre l'état de votre flotte.

Profil du travailleur

Vous pouvez choisir le profil du Fleet Worker. Si vous ne spécifiez pas de profil, Code Engine choisira un profil pour vous.

Code Engine prennent en charge les familles de profils suivantes :

Certains profils peuvent ne pas être disponibles dans toutes les zones du réseau VPC. Vous pouvez utiliser la commande CLI suivante pour répertorier les profils de travailleurs pris en charge par Code Engine serverless fleets dans une région.

ibmcloud ce fleet worker profiles

• Si vous souhaitez connaître la disponibilité et la capacité zonale de certains profils, tels que H100 et L40s, ouvrez un dossier d'assistance et sélectionnez "Virtual Private Cloud (VPC)" comme sujet.
• Si vous avez besoin d'un certain profil VPC qui n'est pas pris en charge par les flottes aujourd'hui, ouvrez un dossier d'assistance et sélectionnez " Code Engine " comme sujet.