Sparkエンジンのキャパシティ管理

適用対象スパーク エンジン グルテン加速スパークエンジン

Sparkエンジンインスタンスの 「容量 」タブでは、CPUとメモリの全体的な使用状況を包括的に確認でき、リソース消費を効果的に監視するのに役立ちます。 デフォルトでは、サーバーレスエンジンの体験をお楽しみいただけます。これはワークロードの要求に基づいてリソースを自動的にスケーリングします。 さらに、大規模または高性能なワークロードについては、専用リソースを柔軟に割り当てることができ、最適なパフォーマンスと信頼性を確保できます。

主な機能

  • 各Sparkエンジンは、複数の予約プール(異なるフレーバーを持つノードプール)に接続できます。
  • 専用ワークロードと自動スケーリング:専用環境はユーザーに専用の予約済みコンピューティング容量を提供し、一貫したパフォーマンスと制御を保証します。 オートスケーリングと組み合わせることで、ユーザーは信頼性と効率性の両方のメリットを享受できます。
  • 専用容量とオンデマンド容量の両方に対して、クォータが適用されます。
  • 大規模または長時間ジョブを頻繁に実行するユーザーには、予測可能なパフォーマンスを確保するため、専用キャパシティの追加を推奨します。

サーバーレス Spark

  • 従量課金制: ワークロードの実行時に消費したコンピューティングリソースに対してのみ、お客様が料金を支払います。 これにより、使用が断続的または少ない場合に、遊休容量に対する支払いを回避できます。
  • 自動スケーリング:サーバーレスプラットフォームは需要に応じてリソースを自動的にスケールアップまたはスケールダウンするため、手動でのプロビジョニングやキャパシティプランニングが不要になります。
  • インフラ管理不要:プラットフォームがパッチ適用、スケーリング、メンテナンスを処理するため、運用オーバーヘッドを削減します。
  • 迅速な価値実現:顧客は事前の計画やインフラのサイジングなしに迅速に導入できます。

専用容量とオートスケーリングを組み合わせるメリット

  • 安定したベースライン性能:専用容量により、長時間実行または継続的な使用を伴うワークロードは、競合することなく保証されたコンピューティングリソースを確保できます。

  • ピーク需要への効率的なスケーリング:専用ベースラインの上に構築されたオートスケーリング層により、使用量が急増した際に自動的に容量を追加。予期せぬ急増時でもパフォーマンスを維持します。

  • 持続的なワークロード向けにコスト最適化:お客様は常に依存する専用リソースに対してのみ支払いを行い、オートスケーリングにより必要な時のみ追加容量を追加することで過剰プロビジョニングを防止します。

  • 運用上の柔軟性:チームは、継続的なワークロードのための最小専用容量と、支出を管理するためのオートスケーリングの上限値の両方を設定できます。

  • 信頼性の向上:スケーリングが自動的に実行されるため、ダウンタイムのリスクが低減され、サービスが変動するワークロードを手動介入なしに処理できるようになります。

開始前に

この機能を利用するには、バージョン 2.3 (およびそれ以降)のを使用する必要があります watsonx.data。

容量の詳細の表示と設定

容量タブを表示するには、次の手順を実行します:

  1. watsonx.data コンソールにログインします。

  2. インフラストラクチャ マネージャー に移動します。 スパークエンジンをクリックしてください。

  3. 容量タブをクリックしてください。 以下のセクションをご覧いただけます:

    • 全体的な使用状況メトリクス :合計 vCPUs 使用量と割り当てメモリ、およびリアルタイムのCPUとメモリ使用率(パーセンテージ)を表示します。
    • 専用: 大規模なワークロード向けの専用容量。 設定済みの容量プールの詳細を表示します。これ vCPU には、メモリ割り当て、使用率、およびプール管理オプション(追加、編集、一時停止、削除)が含まれます。
    • オンデマンド: Sparkエンジンが作成されると、自動的にオンデマンド容量が提供されます。これはワークロードの要件に基づいてリソースを動的にスケーリングする、デフォルトのサーバーレスオプションです。 アプリケーションのメモリ使用量を表示します。

オンデマンド Spark エンジン容量

オンデマンドキャパシティは、Sparkエンジン向けのデフォルトのサーバーレス実行モデルであり、事前リソース計画を必要とせずに柔軟性と簡便性を提供するように設計されています。 Sparkエンジンが作成されると、オンデマンド容量が自動的に含まれ、ワークロードの実行が可能になります。 リソースはワークロード要件に基づいて動的にプロビジョニングされ、指定されたSparkエンジン内でオンデマンド容量として利用可能な最大コア数まで自動的にスケールアップされます。

オンデマンド容量のクォータを更新するには、

[容量] タブから、 [オンデマンド] をクリックします。 クォータを編集をクリックしてください。 水平スライダーを使用すると、許可された範囲(0~100コア)内で希望の容量クォータ(コア数)を選択できます。 保存 をクリックします。

たとえば、クォータを40コアに設定すると、エンジンはワークロードの要求に応じて自動的にリソースをその上限までスケールアップします。 100コアを超えるスケールを実現するには、サポート IBM に連絡する必要があります。

ワークロード専用のキャパシティを作成する

専用容量は、Sparkワークロード向けにコンピューティングリソースを予約する手段を提供し、大規模または長時間実行されるジョブにおいて予測可能なパフォーマンスとコストの安定性を保証します。 オンデマンドキャパシティが動的にスケーリングするのとは異なり、専用キャパシティでは特定の構成を持つ予約プールをSparkエンジンにアタッチできます。

  • 各Sparkエンジンは、異なるフレーバーを持つ最大3つのキャパシティプールをアタッチでき、多様なワークロード要件に対応する柔軟性を実現します。
  • 専用容量はノードプールの最小値と最大値の設定をサポートし、リソース割り当てとスケーリングの境界を制御できます。
  • 専用容量がアタッチされている場合、ワークロードはデフォルトでその上で実行されます。 専用容量が利用できない場合、ワークロードは自動的にオンデマンド容量にフォールバックします。

Sparkワークロード用の専用キャパシティプールを追加するには:

[容量 ] タブから、 [専用] タブをクリックします。 ノードプールを追加+ をクリックします。「 編集 フレーバー(専用)」 ページが開きます。 以下の詳細を指定します。

  1. インスタンスタイプ名フィールドに構成の名前を入力してください。

  2. 必要なメモリ構成を 「Select flavour 」リストから選択してください。 以下の設定が可能です。

    メモリ構成
    フレーバータイプ 風味 コア メモリー (GB) 使用可能なコア 使用可能メモリ (GB) コアあたりのシャッフルストレージ (GB) 二次ストレージ(GB / 階層)
    汎用 bx2.16x64 16 64 14 60 50 900 GB / 10 IOPS クラス
    汎用 bx2.32x128 32 128 30 124 50 1600 GB / 10 IOPS クラス
    メモリ集約型 mx2.16x128 16 128 14 124 50 900 GB / 10 IOPS クラス
    メモリ集約型 mx2.32x256 32 256 30 252 50 1600 GB / 10 IOPS クラス
    ストレージ集約型 mx2.16x128 16 128 14 124 100 1600 GB / 10 IOPS クラス
    ストレージ集約型 mx2.32x256 32 256 30 252 100 3000 GB / 10 IOPS クラス
  3. スケーリングに必要な最小ノード数最大ノード数を指定してください。 専用容量はノードプールの最小値と最大値の設定をサポートし、リソース割り当てとスケーリングの境界を制御できます。

  4. デフォルト容量として設定 」を選択すると、この構成が選択したSparkエンジンのデフォルト容量として設定されます。

  5. 保存 をクリックします。