wx-data 指令與用法

wx-data 指令內部還有不同的指令,您可以使用這些指令執行 IBM® watsonx.data 特有的各種作業。 本主題列出命令,並簡要說明可執行的任務。

wx-data 指令在 watsonx.data 中執行擷取資料、管理引擎、儲存和資料來源等作業。

語法:

./cpdctl wx-data [command] [options]

wx-data 指令支援下列指令:

  • ingestion
  • engine
  • bucket
  • database
  • sparkjob
  • tablemaint
  • service
  • component
  • access-control

如何使用 wx-data 指令 --help (-h)

列出 wx-data 外掛程式中的所有指令:

./cpdctl wx-data --help

要取得 wx-data 外掛中特定指令的所有選項及其說明的詳細資訊:

./cpdctl wx-data [command] --help

例如:

./cpdctl wx-data ingestion -h
NAME:
   ingestion - Commands for Ingestion resource.

USAGE:
   cpdctl wx-data ingestion [action]

COMMANDS:
   list     List ingestion jobs.
   create   Create an ingestion job.
   get      Get ingestion job details.

GLOBAL OPTIONS:
      --cpd-config string   Configuration file path
      --cpdconfig string    [Deprecated] Use --cpd-config instead
  -h, --help                Show help
      --profile string      Name of the configuration profile to use
  -q, --quiet               Suppresses verbose messages.
      --raw-output          If set to true, single values in JSON output mode are not surrounded by quotes

Use "cpdctl wx-data ingestion service-command --help" for more information about a command.

要取得 wx-data 指令中所有可用選項和參數的詳細資訊,以執行操作:

./cpdctl wx-data [command] [options] --help

使用 wx-data 外掛程式執行操作:

./cpdctl wx-data [command] [options]

ingestion

ingestion 指令用於在 watsonx.data 中執行不同的攝取作業。

語法:

./cpdctl wx-data ingestion [options]

ingestion 指令進一步支援下列指令:

透過攝取支援的指令
指令 說明
./cpdctl wx-data ingestion list 列出 watsonx.data 範例中執行的擷取工作。
./cpdctl wx-data ingestion create 在 watsonx.data 實例中建立攝取工作。
./cpdctl wx-data ingestion get 取得 watsonx.data 範例中執行的擷取工作的詳細資訊。

引擎

engine 指令用於在 watsonx.data 中執行不同的引擎相關作業。

語法:

./cpdctl wx-data engine [options]

engine 指令進一步支援下列指令:

引擎支援的指令
指令 說明
./cpdctl wx-data engine list 列出 watsonx.data 範例中所有可用的引擎。
./cpdctl wx-data engine create 在 watsonx.data instance 中建立或註冊引擎。
./cpdctl wx-data engine delete 從 watsonx.data 範例中刪除引擎。
./cpdctl wx-data engine attach 將目錄關聯到 watsonx.data 實例中的 Presto 引擎。
./cpdctl wx-data engine detach 在 watsonx.data 實例中,解除與 Presto 引擎關聯的目錄的關聯。

儲存區

bucket 指令用於在 watsonx.data 中執行不同的儲存相關作業。

語法:

./cpdctl wx-data bucket [options]

bucket 指令進一步支援下列指令:

watsonx.data 自動啟用任何新建立的儲存空間,無需關聯目錄,從而免除手動啟用的需求。

按桶支援的指令
指令 說明
./cpdctl wx-data bucket list 列出 watsonx.data 範例中所有可用的儲存空間。
./cpdctl wx-data bucket create 在 watsonx.data 範例中註冊儲存。 使用 create 選項可啟用外部儲存庫 ( HashiCorp ) 的秘密。
./cpdctl wx-data bucket get 取得 watsonx.data 範例中註冊儲存的詳細資料。
./cpdctl wx-data bucket delete 從 watsonx.data 範例中刪除儲存。
./cpdctl wx-data bucket activate 僅在 IBM Cloud 範例中啟動 watsonx.data 中的儲存桶。
./cpdctl wx-data bucket deactivate 在 watsonx.data 中停用儲存桶,僅限於 IBM Cloud 實例。 watsonx.data 2.2.1 版本不支援此選項。
./cpdctl wx-data bucket list-objects 列出儲存桶中的所有物件。

限制:

  • 使用 指令 list-objects 時,若儲存桶內物件數量龐大,可能因 API 超時而無法列出所有物件。
  • 當使用 參數 --paginated 與 指令 list-objects 時,僅會列出頂層物件。 嵌套物件預設不會展開。
  • 目前,ADLS 和 GCS 儲存桶不支援 list-objects 使用 列出物件。

資料庫

database 指令用於在 watsonx.data 中執行不同的資料來源相關作業。

語法:

./cpdctl wx-data database [options]

database 指令進一步支援下列指令:

資料庫支援的指令
指令 說明
./cpdctl wx-data database list 列出 watsonx.data 範例中所有可用的資料來源。
./cpdctl wx-data database create 在 watsonx.data 實例中建立或新增資料來源。 使用 create 選項可啟用外部儲存庫 ( HashiCorp ) 的秘密。
./cpdctl wx-data database get 在 watsonx.data 範例中取得已註冊資料來源的詳細資料。
./cpdctl wx-data database delete 從 watsonx.data 範例中刪除資料來源。

火花工作

sparkjob 指令用於在 watsonx.data 版本 2.1.2 及以後的版本中執行不同的 Spark 相關操作。

語法:

./cpdctl wx-data sparkjob [options]

sparkjob 指令進一步支援下列指令:

sparkjob 支援的指令
指令 說明
./cpdctl wx-data sparkjob list 列出 Spark 引擎中所有可用的應用程式。
./cpdctl wx-data sparkjob create 提交 Spark 申請。
./cpdctl wx-data sparkjob get 取得 Spark 應用程式的狀態。

有關如何使用 IBM cpdctl 提交 Spark 應用程式的詳細資訊,請參閱 watsonx.data 上的 IBM Cloud,請參閱 使用 IBM cpdctl 提交 Spark 應用程式

表尾

tablemaint 命令用于在 watsonx.data 中执行不同的 Iceberg 表维护操作。

此項規定現僅適用於 Amazon S3 儲存。

語法:

./cpdctl wx-data tablemaint [options]

tablemaint 指令支援下列指令:

tablemaint 支援的指令
選項 說明
./cpdctl wx-data tablemaint rollback-to-snapshot 回滾,或將表還原為特定的快照 ID。
./cpdctl wx-data tablemaint rollback-to-timestamp 將表回滾至特定時間戳的快照。
./cpdctl wx-data tablemaint set-current-snapshot 設定資料表目前的快照 ID。
./cpdctl wx-data tablemaint cherrypick-snapshot 從快照中選取變更到目前的資料表狀態。 Cherry-picking 會從現有的快照建立新快照,而不會變更或移除原始快照。
./cpdctl wx-data tablemaint expire-snapshot 移除不再需要的舊快照及其檔案。
./cpdctl wx-data tablemaint remove-orphan 移除未在 Iceberg 表的任何 metadata 檔案中引用,因此可視為「孤兒」的檔案。
./cpdctl wx-data tablemaint rewrite-data 重寫資料檔案。
./cpdctl wx-data tablemaint rewrite-manifests 為表格重寫艙單,以最佳化掃描規劃。
./cpdctl wx-data tablemaint register-table 建立資料表。

執行每個資料表維護指令時,會列出下列旗標:

  • Force: 如果值設為 TRUE,則會列印要執行的 SQL 查詢。

  • Debug: 如果數值設定為 TRUE,Spark 應用程式檔案的副本會儲存在我們的電腦中。

有關使用 IBM cpdctl 執行 Iceberg 資料表維護作業的詳細資訊,請參考 watsonx.data 上的 IBM Cloud,請參閱 Spark 資料表維護

服務

service 指令用於在 watsonx.data 中執行不同的可維修性相關作業。

語法:

./cpdctl wx-data service [options]

service 指令進一步支援下列指令:

按服務支援的指令
指令 說明
./cpdctl wx-data service list-tables 列出 watsonx.data 範例中所有蜂巢或冰山連接器的表名稱。
./cpdctl wx-data service get-qhmm-config 取得 watsonx.data 範例中啟用 qhmm 的水桶名稱。
./cpdctl wx-data service monitor 在 watsonx.data 實例中執行統計和 qhmm 相關查詢。
./cpdctl wx-data service generate-engine-dump 產生特定於 Presto Worker 或 Coordinator watsonx.data 範例的堆或線程轉儲。

元件

component 指令用於在 watsonx.data 中執行不同的可維修性相關作業。

語法:

./cpdctl wx-data component [options]

component 指令進一步支援下列指令:

各元件支援的指令
指令 說明
./cpdctl wx-data component get-mds-status 在 watsonx.data 範例中取得 Metadata Service (MDS) 的設定。
./cpdctl wx-data component get-ces-status 在 watsonx.data 範例中取得 CES 狀態。
./cpdctl wx-data component get-cas-cpg-endpoint 在 watsonx.data 範例中取得 CPG 和 CAS 端點。
./cpdctl wx-data component get-hms-status 列出 watsonx.data 範例中的所有 HMS 元儲存。
./cpdctl wx-data component get-console-status 檢查 watsonx.data instance 的控制台狀態 watsonx.data instance。

存取控制

access-control 指令用於管理自 CPDCTL 版本 起 watsonx.data1.8.33,針對資源的存取政策。

語法:

./cpdctl wx-data access-control [options]

access-control 指令進一步支援下列指令:

存取控制支援的指令
指令 說明
./cpdctl wx-data access-control list-users-groups 取得可存取 watsonx.data 範例的使用者和群組。
./cpdctl wx-data access-control list-access 列出資源存取政策。
./cpdctl wx-data access-control update-access 更新資源存取政策。
./cpdctl wx-data access-control revoke-access 撤銷資源存取政策。