Scalatura automatica

Con un parco macchine, è possibile sfruttare il parallelismo su larga scala per completare attività di grandi dimensioni e ad alta intensità di calcolo. Code Engine ridimensiona automaticamente i nodi worker del parco macchine per soddisfare i requisiti di risorse nel modo più efficiente. Si può lasciare che sia Code Engine a determinare i profili dei lavoratori distribuiti, oppure si può scegliere un profilo specifico, ad esempio un tipo di GPU. In entrambi i casi, Code Engine scala automaticamente il numero di lavoratori per ottenere il massimo livello di efficienza.

Il numero di worker distribuiti si basa sul numero di attività da completare, sulle risorse necessarie per un'istanza del codice e sul numero massimo di istanze contemporanee che si desidera eseguire alla volta. Regolando queste impostazioni, è possibile scalare la flotta per completare un numero di attività pari a 1 o a diversi milioni.

Ad esempio, immaginate di avere 4 compiti da completare. Ogni istanza di codice per completare un compito richiede 1 vCPU and 2 GB memory, per un fabbisogno totale di 4 vCPU and 8GB memory. Se si imposta il numero massimo di istanze contemporanee a 2, Code Engine può distribuire 1 nodo worker con 2 vCPU and 4 GB memory per eseguire 2 istanze alla volta. Se si imposta il numero massimo di istanze contemporanee a 4, Code Engine può distribuire 2 degli stessi nodi worker per eseguire tutte e 4 le istanze contemporaneamente su entrambi i worker. Nel secondo scenario, la flotta termina più rapidamente, ma richiede l'impiego di un maggior numero di lavoratori. Si tenga presente che esiste un numero infinito di combinazioni per la distribuzione automatica dei nodi worker e che possono essere distribuiti nodi worker di vari profili.

Il ridimensionamento automatico non è disponibile per le GPU. Per distribuire le GPU per un parco macchine, è necessario specificare il tipo di GPU worker da distribuire.

Specifiche dei compiti e delle istanze

Quando si distribuisce un parco macchine, gli utenti possono specificare il numero di attività da completare, il numero di istanze da eseguire alla volta, l'ordine di completamento delle attività. Le flotte possono lavorare su molti compiti in parallelo avviando più istanze contemporaneamente. Tutte le istanze vengono create con la stessa quantità di vCPU e di memoria prevista dalle specifiche della flotta. Inoltre, gli utenti possono creare un file di specifica dei task per fornire comandi e argomenti specifici per ogni task o per creare indici personalizzati dei task.

Memorizzazione dei compiti in COS

È possibile utilizzare un bucket COS per fornire i task del proprio parco macchine, specificando un data store persistente e un sottopercorso del bucket quando si crea il parco macchine. Ogni oggetto del bucket COS rappresenta un singolo compito.

Isolamento

A differenza dei lavori batch, le flotte offrono l'isolamento di un singolo tenant. I lavoratori della flotta non vengono condivisi con altri utenti.

Tentativi

Ogni istanza della flotta viene eseguita fino al completamento. Tuttavia, in caso di errore, Code Engine riavvia l'istanza. È possibile limitare il numero massimo di tentativi per evitare di riavviare le istanze fallite.

Condizione

Una flotta si trova nello stato Running quando almeno un nodo lavoratore è stato fornito. Quando la flotta non è più in esecuzione, si trova nello stato Succeeded se tutte le attività sono state completate con successo, oppure Failed se una o più attività non sono andate a buon fine. È anche possibile annullare una flotta.

Per ulteriori informazioni, consultare la sezione Conoscere lo stato del proprio parco veicoli.

Profilo del lavoratore

È possibile scegliere facoltativamente il profilo del Fleet Worker. Se non si specifica un profilo, Code Engine lo sceglierà per voi.

Code Engine supporta le seguenti famiglie di profili:

Alcuni profili potrebbero non essere disponibili in tutte le zone della rete VPC. È possibile utilizzare il seguente comando CLI per elencare i profili dei lavoratori supportati dalle flotte serverless di Code Engine in una regione.

ibmcloud ce fleet worker profiles

• Se si desidera conoscere la disponibilità e la capacità zonale di determinati profili, come H100 e L40s, aprire un caso di assistenza e selezionare "Virtual Private Cloud (VPC)" come argomento.
• Se avete bisogno di un determinato profilo VPC che oggi non è supportato dalle flotte, aprite un caso di assistenza e selezionate " Code Engine " come argomento.