Informazioni sulle reti di cluster

Una rete cluster è una rete definita dal software all'interno di un Virtual Private Cloud (VPC) che collega più sistemi informatici, o nodi. Migliora la comunicazione tra questi sistemi, garantendo un trasferimento dati veloce e una bassa latenza. Questo servizio lo rende ideale per attività impegnative, come il calcolo ad alte prestazioni (HPC), l'elaborazione di dati su larga scala e l'addestramento di modelli di intelligenza artificiale (AI). Le reti cluster sono progettate per soddisfare standard di prestazioni elevate, rendendole particolarmente adatte ad ambienti che richiedono comunicazioni efficienti e ad alta velocità tra i sistemi.

Ogni rete cluster ha un profilo di rete cluster associato che definisce il tipo di componenti con cui può connettersi. All'interno della rete cluster è presente una serie di astrazioni di rete di base, quali istanze, interfacce e sottoreti, che offrono la flessibilità e il controllo necessari per configurare carichi di lavoro ad alte prestazioni.

Le funzioni principali includono:

Calcolo ad alte prestazioni
Adatto per applicazioni esigenti, come l'addestramento dell'intelligenza artificiale o simulazioni complesse, dove sono fondamentali un'elevata larghezza di banda e una bassa latenza.
Trasferimento diretto dei dati
Supporta tecnologie di rete avanzate, come Remote Direct Memory Access (RDMA), che consente il trasferimento diretto dei dati tra la memoria di nodi diversi senza coinvolgere la CPU, migliorando ulteriormente le prestazioni.
Isolamento e ottimizzazione
Fornisce una rete ad alta larghezza di banda e bassa latenza per gruppi di risorse di calcolo. Le reti cluster sono isolate in uno spazio di indirizzi separato dell' IPv4 e che non viene instradato esternamente.
Flessibilità e controllo
Funge da rete supplementare alla rete VPC esistente. Gli allegati di rete cluster rimangono separati dalle reti VPC, supportando l'integrazione di reti RDMA ad alta velocità insieme alle reti VPC.

IBM Cloud® supporta i seguenti profili di rete cluster

Offerte di reti cluster nell' IBM Cloud

NVIDIA Tramoggia 1

Il profilo di rete del cluster Hopper 1 è un cluster ad alte prestazioni IBM Cloud alimentato da NVIDIA H100 e H200 GPU, collegato con NVLink e rete da 400 Gbps RoCE v2. Hopper 1 è ottimizzato per l'implementazione cloud e progettato per l'addestramento e l'inferenza AI su larga scala con elevata larghezza di banda di memoria e comunicazione GPU a bassa latenza.

Come iniziare con le reti cluster

Una rete di cluster migliora l'efficienza e la velocità di trasferimento dei dati all'interno di un gruppo di sistemi collegati in rete, rendendola un componente essenziale per le attività di calcolo ad alte prestazioni.

Seguire questi passaggi generali per creare una semplice rete di cluster per l'addestramento dell'intelligenza artificiale:

  1. Esaminare le considerazioni relative alla pianificazione delle reti cluster ed essere consapevoli di eventuali problemi noti.

  2. Determinare le risorse totali necessarie per il cluster moltiplicando il numero di istanze che si intende creare per le risorse definite nel profilo di istanza corrispondente.

  3. Controllare le risorse totali calcolate necessarie per il cluster rispetto alle quote predefinite per determinare se è necessario un aumento delle quote.

  4. Creare una rete di cluster.

  5. Crea una sottorete di rete cluster se non l'hai già fatto durante la creazione della rete cluster.

  6. Creare istanze di server virtuali utilizzando uno dei seguenti metodi:

    • Crea un'istanza di server virtuale.

    • Creare un modello di istanza, quindi creare un'istanza. Assicurarsi di:

      • Selezionare il profilo dell'istanza richiesto. Per Hopper 1, i profili di istanza disponibili sono gx3d-160x1792x8h100 e gx3d-160x1792x8h200;
      • Abilitare il clustering.
      • Aggiungi allegati corrispondenti alle sottoreti del tuo cluster.

    Quando crei il tuo modello di istanza, puoi utilizzarlo per fornire singole istanze di server virtuali o più istanze contemporaneamente come parte di un gruppo di istanze.

Casi d'uso della rete cluster

Esamina il caso d'uso che corrisponde al profilo dell'istanza selezionato per guidarti attraverso la configurazione e le misure di sicurezza appropriate per l'implementazione della rete del cluster.

Caso d'uso 1: collegamento in rete di istanze di H100/H200 per utilizzare RDMA con la rete del cluster Hopper 1

Il diagramma seguente illustra come connettere le istanze di H100/H200 a una rete cluster Hopper 1 per abilitare RDMA su IBM Cloud.

Innanzitutto, assicurati di aver configurato una rete cluster con sottoreti cluster come mostrato. Quindi, connetti le istanze H100 o H200 sia alla rete del cluster che alle reti VPC. Le reti VPC collegano le risorse cloud e possono fornire routing esterno. Le reti cluster aggiungono interfacce all'interno dell'istanza per consentire la connettività diretta tra i nodi.

Collegamento in rete delle istanze H100 e H200 per utilizzare RDMA su IBM Cloud
Collegamento in rete delle istanze Hopper 1 abilitate per utilizzare RDMA su IBM Cloud

Caso d'uso 2: Protezione della rete del cluster dal resto dell'ecosistema IBM Cloud

La rete cluster opera all'interno di un dominio di rete separato dalla rete VPC. Questo isolamento garantisce la sicurezza senza richiedere controlli di accesso, come gruppi di sicurezza, ACL di rete o tabelle di routing. La comunicazione all'interno della rete cluster avviene solo tra dispositivi direttamente collegati alla rete cluster.

Le risorse collegate alla rete del cluster devono anche connettersi ad almeno una rete VPC. La rete VPC supporta tutte le risorse VPC standard, quali indirizzi IP flottanti, gateway pubblici, gateway di transito e altro ancora. Si consiglia di rivedere le politiche di sicurezza relative alle interfacce di rete virtuali (VNI) collegate alle risorse sulla rete del cluster.

Proteggere la rete del cluster dal resto dell'IBM Cloud
Proteggere la rete del cluster dal resto dell'IBM Cloud

Per mantenere un accesso minimo alla rete del cluster:

  • Limitare l'accesso solo alle istanze connesse alla rete del cluster.

  • Configurare un gruppo di sicurezza rigoroso per i VNI su ciascuna istanza con accesso alla rete del cluster.

    Sorvegliare attentamente le richieste di TCP in entrata e prendere in considerazione la possibilità di sorvegliare le richieste di TCP in uscita. Per ulteriori informazioni, vedere Impostazione di un gruppo di sicurezza per la risorsa.

  • Assicurarsi che le sottoreti collegate alle istanze abilitate alla rete cluster dispongano di ACL di rete adeguate.

  • Configurare le politiche IAM per le autorizzazioni di rete del cluster.