NVIDIA ホッパー1

Hopper 1クラスタ・ネットワーク・プロファイルは、 NVIDIA H100 および H200 GPUを搭載し、NVLinkおよび400 Gbps RoCE v2 ネットワーキングで接続された高性能 IBM Cloud クラスタである。 Hopper 1はクラウド展開向けに最適化され、高メモリ帯域幅と低遅延GPU通信を備えた大規模AIトレーニングおよび推論向けに設計されています。

ユースケース1: Hopper 1クラスターネットワークでRDMAを使用するための H100/H200 インスタンスのネットワーク接続

以下の図は、 H100/H200 インスタンスをHopper 1クラスターネットワークに接続し、 IBM Cloud でRDMAを有効にする方法を示しています。

まず、図に示すように クラスタネットワークサブネット を使用した クラスタネットワーク が設定されていることを確認してください。 次に、 H100 または H200 のインスタンスを、クラスターネットワークと VPC ネットワークの両方に接続します。 VPCネットワークはクラウドリソースを接続し、外部ルーティングを提供できます。 クラスターネットワークは、ノード間の直接接続を可能にするため、インスタンス内にインターフェイスを追加します。

使用例 2:IBM Cloudエコシステムの他の部分からクラスター・ネットワークを保護する

クラスターネットワークは、VPCネットワークとは別のネットワークドメイン内で動作します。 この分離により、セキュリティグループ、ネットワークACL、ルーティングテーブルなどのアクセス制御を必要とせずにセキュリティが確保されます。 クラスタネットワーク内での通信は、クラスタネットワークに直接接続されているデバイス間でのみ発生します。

クラスターネットワークに接続されているリソースは、少なくとも1つのVPCネットワークにも接続する必要があります。 VPCネットワークは、 フローティングIP アドレス、パブリックゲートウェイ、トランジットゲートウェイなど、すべての標準的なVPCリソースをサポートしています。 クラスタネットワーク上のリソースに接続されている仮想ネットワークインターフェイス（VNI）のセキュリティポリシーを見直すことを推奨します。

クラスタネットワークへのアクセスを最小限に抑えるために：

• クラスターネットワークに接続されているインスタンスのみにアクセスを制限する。

• クラスターネットワークへのアクセス権を持つ各インスタンスのVNIに対して、厳格なセキュリティグループを設定します。

  インバウンド TCP リクエストを注意深くガードし、アウトバウンド TCP リクエストをガードすることを検討する。 詳細は、リソースのセキュリティグループの設定 を参照してください。

• クラスターネットワーク対応インスタンスに接続されているサブネットには、適切なネットワークアクセス制御リスト（ACL）が設定されていることを確認してください。

• クラスタのネットワーク権限に関するIAMポリシーを設定します。