IBM Manta Data Lineageとの統合
Mantaを watsonx.dataと統合することで、Sparkと Prestoのジョブ、実行、データセットイベントをManta UIでキャプチャして公開し、データフローと変換を完全に可視化することができます。
開始前に
- データソース定義と OpenLineage 接続を作成します。
- プロジェクトで OpenLineage メタデータ・インポートを作成し、実行します。
詳細については、 IBM Manta Data Lineage 用のデータの準備 を参照してください。
手順
-
watsonx.data コンソールにログインする。
-
ナビゲーション・メニューから、 Configurations > IBM Manta Data Lineage に進みます。
-
以下の詳細情報を入力します。
IBM Manta Data Lineageの統合 フィールド 説明 リネージ・インジェスト・エンドポイント データ・リネージ・サービスが有効になっている IBM Cloud ホストのエンドポイント URLを入力します。 API キー APIキーを入力します。 APIキーの生成については、 APIキーの作成 を参照してください -
Saveをクリックして詳細を保存します。 Edit(編集) 」をクリックすると、保存した詳細を編集できます。
-
Manta Data Lineageを有効にするには、 Enable をクリックします。
データ・リネージは、有効にした後に開始される新しいジョブに対して有効になる。 以前のジョブおよび進行中のジョブには、データの系統は表示されません。 現在、 Manta Data Lineageの CREATE TABLE AS (CTAS) およびINSERT INTO SELECT操作のリネージの表示をサポートしています。
次のタスク
- 資産のデータ履歴を見ることができます。 詳細については、 データ・リネージ の表示を参照してください。
- リネージ・グラフを管理・調整することで、データ・パイプラインを包括的に可視化し、コントロールすることができる。 詳細については、 データ系統グラフの管理 を参照。