关于集群网络

集群网络是在虚拟私有云(VPC)内的一种软件定义网络,用于连接多个计算系统或节点。 它改善了这些系统之间的通信,提供了快速的数据传输和低延迟。 该服务使其成为高要求任务的理想选择,例如高性能计算(HPC)、大规模数据处理以及人工智能(AI)模型训练。 集群网络的构建旨在满足高性能标准,使其成为依赖系统间高效高速通信环境的理想选择。

每个集群网络都关联一个集群网络配置文件,该文件定义了其可连接的组件类型。 集群网络中包含一组基础网络抽象概念,例如实例、接口和子网,为您提供配置高性能工作负载所需的灵活性和控制力。

主要功能包括:

高性能计算
适用于要求苛刻的应用场景,例如人工智能训练或复杂模拟,这些场景对高带宽和低延迟有着关键性需求。
直接数据传输
支持先进的网络技术,例如远程直接内存访问(RDMA),该技术允许不同节点之间的内存直接进行数据传输,无需CPU参与,从而进一步提升性能。
隔离和优化
为计算资源组提供高带宽、低延迟的网络。 集群网络被隔离在独立的 IPv4 地址空间中,该地址空间不对外路由。
灵活性和控制
作为现有VPC网络的补充网络。 集群网络附件与VPC网络保持独立,支持在VPC网络旁集成高速RDMA网络。

IBM Cloud® 支持以下集群网络配置文件

IBM Cloud 中的集群网络服务

NVIDIA 霍珀1号

Hopper 1 集群网络配置文件是一个高性能的 IBM Cloud 集群,由 NVIDIA H100 和 H200 GPU 驱动,通过 NVLink 和 400 Gbps RoCE v2 网络连接。 Hopper 1 专为云端部署优化,采用高内存带宽与低延迟GPU通信架构,专为大规模AI训练与推理而设计。

开始使用集群网络

集群网络可提高联网系统组内数据传输的效率和速度,是高性能计算任务的重要组成部分。

请按照以下一般步骤创建用于人工智能训练的简单集群网络:

  1. 审查集群网络的 规划注意事项,并了解任何 已知问题

  2. 将打算创建的实例数乘以相应 实例配置文件 中定义的资源,即可确定群集所需的总资源。

  3. 根据 默认配额 检查计算出的群集所需资源总量,以确定是否需要增加配额。

  4. 创建集群网络

  5. 若在创建集群 网络 时尚未创建集群网络子网,请创建一个。

  6. 通过以下任一方法创建虚拟服务器实例:

    • 创建一个虚拟服务器实例

    • 创建实例模板,然后创建实例。 确保

      • 选择所需的实例配置文件。 对于Hopper 1,可用的实例配置文件为 gx3d-160x1792x8h100gx3d-160x1792x8h200;
      • 启用群集。
      • 添加与您的集群子网相对应的附件。

    创建实例模板时,您可以将其用于配置单个虚拟服务器实例,或同时配置多个实例作为实例组的一部分。

集群网络使用案例

请查阅与您所选实例配置相匹配的使用场景,该场景将引导您完成集群网络部署的适当配置和安全措施。

用例 1:将 H100/H200 实例联网,以在 Hopper 1 集群网络中使用 RDMA

下图展示了如何将 H100/H200 实例连接到Hopper 1集群网络,以在 IBM Cloud 上启用RDMA功能。

首先,请确保已按照所示方式设置 集群网络,并包含 集群网络子网。 然后,将 H100 或 H200 实例连接到集群网络和 VPC 网络。 VPC 网络可连接您的云资源,并能提供外部路由功能。 集群网络在实例内部添加接口,以实现节点间的直接连接。

将 H100 和 H200 实例联网以使用RDMA,详见:IBM Cloud
将启用Hopper 1的实例联网以使用RDMA,详见:IBM Cloud

使用案例 2:从IBM Cloud生态系统的其他部分确保群集网络的安全

集群网络在与VPC网络不同的独立网络域中运行。 这种隔离提供了安全性,而无需使用访问控制措施,例如安全组、网络访问控制列表或路由表。 集群网络内的通信仅发生在直接连接到集群网络的设备之间。

连接到集群网络的资源还必须连接至少一个VPC网络。 VPC网络支持所有标准VPC资源,例如浮动IP地址、公共网关、转发网关等。 建议您审查集群网络中资源所连接的虚拟网络接口(VNI)的安全策略。

确保您的集群网络安全,不受IBM Cloud生态系统其他部分的影响*
确保您的集群网络安全,不受IBM Cloud
其他部分的影响确保您的集群网络安全,不受生态系统其他部分的影响*

为保持对集群网络的最低访问权限:

  • 仅允许连接到集群网络的实例访问。

  • 为每个实例上的虚拟网络接口(VNIs)配置严格的安全组,允许其访问集群网络。

    谨慎保护入站 TCP 请求,并考虑保护出站 TCP 请求。 有关详细信息,请参阅 为资源设置安全组

  • 请确保附加到集群网络启用实例的子网具有适当的网络访问控制列表。

  • 配置集群网络权限的IAM策略。