關於叢集網路

叢集網路是在虛擬私有雲(VPC)內的一種軟體定義網路,用於連接多個運算系統或節點。 它改善了這些系統之間的通訊,提供快速的資料傳輸與低延遲。 此服務使其成為執行高要求任務的理想選擇,例如高效能運算(HPC)、大規模資料處理及人工智慧(AI)模型訓練。 叢集網路的建置旨在滿足高效能標準,使其成為依賴系統間高效、高速通訊環境的絕佳選擇。

每個叢集網路皆對應一個叢集網路設定檔,該設定檔定義了其可連接的元件類型。 叢集網路內含一組基礎網路抽象概念,例如執行個體、介面與子網路,為您提供所需的靈活性與控制權,以配置高效能工作負載。

主要特性包括:

高效能運算
適用於高要求應用場景,例如人工智慧訓練或複雜模擬,此類應用中高頻寬與低延遲至關重要。
直接數據傳輸
支援進階網路技術,例如遠端直接記憶體存取(RDMA),可讓不同節點的記憶體之間直接傳輸資料,無需透過CPU處理,從而進一步提升效能。
隔離與優化
為運算資源組提供高頻寬和低延遲網路。 叢集網路被隔離在獨立的 IPv4 位址空間中,該空間不對外路由。
靈活性和控制力
作為現有 VPC 網路的補充網路。 叢集網路附加裝置仍與 VPC 網路保持分離,支援在 VPC 網路旁整合高速 RDMA 網路。

IBM Cloud® 支援以下叢集網路配置檔

在 IBM Cloud 中提供叢集網路服務

NVIDIA 霍珀 1

Hopper 1 叢集網路配置文件是一個高效能 IBM Cloud 叢集,採用 NVIDIA H100 和 H200 GPU,透過 NVLink 和 400 Gbps RoCE v2 網路連接。 Hopper 1 專為雲端部署進行優化,採用高記憶體頻寬與低延遲的 GPU 通訊設計,適用於大規模人工智慧訓練與推論任務。

開始使用叢集網路

叢集網路提高了網路系統組內資料傳輸的效率和速度,使其成為高效能運算任務的重要組成部分。

請依照以下一般步驟建立用於 AI 訓練的簡單叢集網路:

  1. 檢視叢集網路的 規劃考量事項,並留意任何 已知問題

  2. 將您打算建立的實體數量乘以相應 實體設定檔 中定義的資源,即可確定群集所需的總資源。

  3. 根據 預設配額 檢查計算出的群集所需總資源,以確定是否需要增加配額。

  4. 建立集群網路

  5. 若您在建立叢集網路時尚未建立 叢集網路子網,請建立叢集網路子網。

  6. 請使用以下任一方法建立虛擬伺服器執行個體:

    • 建立虛擬伺服器實例

    • 建立實例模板,然後建立實例。 確保:

      • 選擇所需的執行個體設定檔。 對於 Hopper 1,可用的實例配置檔為 gx3d-160x1792x8h100gx3d-160x1792x8h200
      • 啟用叢集。
      • 請為您的叢集子網添加對應的附件。

    當您建立實例範本時,可將其用於配置單一虛擬伺服器實例,或同時配置多個實例作為實例群組的一部分。

叢集網路用例

請參閱與您所選實例配置相符的使用案例,該案例將引導您完成叢集網路部署所需的適當設定與安全措施。

使用案例 1:將 H100/H200 實例連網,以透過 Hopper 1 叢集網路使用 RDMA

下圖說明如何將 H100/H200 實例連接到Hopper 1叢集網路,以在 IBM Cloud 上啟用RDMA功能。

首先,請確保您已建立如圖所示的 叢集網路,並配置 叢集網路子網。 接著,將 H100 或 H200 實例同時連接到叢集網路和 VPC 網路。 VPC 網路可連接您的雲端資源,並能提供外部路由功能。 叢集網路會在您的執行個體內新增介面,以實現節點之間的直接連線。

將 H100 與 H200 實例連網以使用 RDMA,詳見 IBM Cloud
將啟用 Hopper 1 的實例連網以使用 RDMA,詳見 IBM Cloud

使用案例 2:保護叢集網路免受IBM Cloud生態系統其他部分的影響

叢集網路在與 VPC 網路分離的獨立網路網域中運作。 此隔離機制在無需使用存取控制(例如安全群組、網路存取控制清單或路由表)的情況下,仍能提供安全性保障。 叢集網路內的通訊僅發生於直接連接至叢集網路的裝置之間。

連接到叢集網路的資源也必須至少連接一個 VPC 網路。 VPC 網路支援所有標準 VPC 資源,例如浮動 IP 位址、公共閘道、轉接閘道等。 建議您檢視叢集網路中資源所連接之虛擬網路介面(VNI)的安全性政策。

保護您的叢集網路免受IBM Cloud
保護您的叢集網路免受IBM Cloud系統其他部分的影響

為維持對叢集網路的最低存取權限:

  • 僅限於連接到叢集網路的執行個體存取。

  • 為每個可存取叢集網路的執行個體上的虛擬網路介面配置嚴格的安全群組。

    小心防護入站( TCP )請求,並考慮防護出站( TCP )請求。 有關更多信息,請參閱 為您的資源設定安全群組

  • 請確保附加至叢集網路啟用型態執行個體的子網域具備適當的網路存取控制清單。

  • 設定 IAM 政策以管理叢集網路權限。