wx-data 指令與用法
wx-data 指令內部還有不同的指令,您可以使用這些指令執行 IBM® watsonx.data 特有的各種作業。 本主題列出命令,並簡要說明可執行的任務。
wx-data 指令在 watsonx.data 中執行擷取資料、管理引擎、儲存和資料來源等作業。
語法:
./cpdctl wx-data [command] [options]
wx-data 指令支援下列指令:
ingestionenginebucketdatabasesparkjobtablemaintservicecomponentaccess-control
如何使用 wx-data 指令 --help (-h)
列出 wx-data 外掛程式中的所有指令:
./cpdctl wx-data --help
要取得 wx-data 外掛中特定指令的所有選項及其說明的詳細資訊:
./cpdctl wx-data [command] --help
例如:
./cpdctl wx-data ingestion -h
NAME:
ingestion - Commands for Ingestion resource.
USAGE:
cpdctl wx-data ingestion [action]
COMMANDS:
list List ingestion jobs.
create Create an ingestion job.
get Get ingestion job details.
GLOBAL OPTIONS:
--cpd-config string Configuration file path
--cpdconfig string [Deprecated] Use --cpd-config instead
-h, --help Show help
--profile string Name of the configuration profile to use
-q, --quiet Suppresses verbose messages.
--raw-output If set to true, single values in JSON output mode are not surrounded by quotes
Use "cpdctl wx-data ingestion service-command --help" for more information about a command.
要取得 wx-data 指令中所有可用選項和參數的詳細資訊,以執行操作:
./cpdctl wx-data [command] [options] --help
使用 wx-data 外掛程式執行操作:
./cpdctl wx-data [command] [options]
ingestion
ingestion 指令用於在 watsonx.data 中執行不同的攝取作業。
語法:
./cpdctl wx-data ingestion [options]
ingestion 指令進一步支援下列指令:
| 指令 | 說明 |
|---|---|
./cpdctl wx-data ingestion list |
列出 watsonx.data 範例中執行的擷取工作。 |
./cpdctl wx-data ingestion create |
在 watsonx.data 實例中建立攝取工作。 |
./cpdctl wx-data ingestion get |
取得 watsonx.data 範例中執行的擷取工作的詳細資訊。 |
引擎
engine 指令用於在 watsonx.data 中執行不同的引擎相關作業。
語法:
./cpdctl wx-data engine [options]
engine 指令進一步支援下列指令:
| 指令 | 說明 |
|---|---|
./cpdctl wx-data engine list |
列出 watsonx.data 範例中所有可用的引擎。 |
./cpdctl wx-data engine create |
在 watsonx.data instance 中建立或註冊引擎。 |
./cpdctl wx-data engine delete |
從 watsonx.data 範例中刪除引擎。 |
./cpdctl wx-data engine attach |
將目錄關聯到 watsonx.data 實例中的 Presto 引擎。 |
./cpdctl wx-data engine detach |
在 watsonx.data 實例中,解除與 Presto 引擎關聯的目錄的關聯。 |
儲存區
bucket 指令用於在 watsonx.data 中執行不同的儲存相關作業。
語法:
./cpdctl wx-data bucket [options]
bucket 指令進一步支援下列指令:
watsonx.data 自動啟用任何新建立的儲存空間,無需關聯目錄,從而免除手動啟用的需求。
| 指令 | 說明 |
|---|---|
./cpdctl wx-data bucket list |
列出 watsonx.data 範例中所有可用的儲存空間。 |
./cpdctl wx-data bucket create |
在 watsonx.data 範例中註冊儲存。 使用 create 選項可啟用外部儲存庫 ( HashiCorp ) 的秘密。 |
./cpdctl wx-data bucket get |
取得 watsonx.data 範例中註冊儲存的詳細資料。 |
./cpdctl wx-data bucket delete |
從 watsonx.data 範例中刪除儲存。 |
./cpdctl wx-data bucket activate |
僅在 IBM Cloud 範例中啟動 watsonx.data 中的儲存桶。 |
./cpdctl wx-data bucket deactivate |
在 watsonx.data 中停用儲存桶,僅限於 IBM Cloud 實例。 watsonx.data 2.2.1 版本不支援此選項。 |
./cpdctl wx-data bucket list-objects |
列出儲存桶中的所有物件。 |
限制:
- 使用 指令
list-objects時,若儲存桶內物件數量龐大,可能因 API 超時而無法列出所有物件。 - 當使用 參數
--paginated與 指令list-objects時,僅會列出頂層物件。 嵌套物件預設不會展開。 - 目前,ADLS 和 GCS 儲存桶不支援
list-objects使用 列出物件。
資料庫
database 指令用於在 watsonx.data 中執行不同的資料來源相關作業。
語法:
./cpdctl wx-data database [options]
database 指令進一步支援下列指令:
| 指令 | 說明 |
|---|---|
./cpdctl wx-data database list |
列出 watsonx.data 範例中所有可用的資料來源。 |
./cpdctl wx-data database create |
在 watsonx.data 實例中建立或新增資料來源。 使用 create 選項可啟用外部儲存庫 ( HashiCorp ) 的秘密。 |
./cpdctl wx-data database get |
在 watsonx.data 範例中取得已註冊資料來源的詳細資料。 |
./cpdctl wx-data database delete |
從 watsonx.data 範例中刪除資料來源。 |
火花工作
sparkjob 指令用於在 watsonx.data 版本 2.1.2 及以後的版本中執行不同的 Spark 相關操作。
語法:
./cpdctl wx-data sparkjob [options]
sparkjob 指令進一步支援下列指令:
| 指令 | 說明 |
|---|---|
./cpdctl wx-data sparkjob list |
列出 Spark 引擎中所有可用的應用程式。 |
./cpdctl wx-data sparkjob create |
提交 Spark 申請。 |
./cpdctl wx-data sparkjob get |
取得 Spark 應用程式的狀態。 |
有關如何使用 IBM cpdctl 提交 Spark 應用程式的詳細資訊,請參閱 watsonx.data 上的 IBM Cloud,請參閱 使用 IBM cpdctl 提交 Spark 應用程式。
表尾
tablemaint 命令用于在 watsonx.data 中执行不同的 Iceberg 表维护操作。
此項規定現僅適用於 Amazon S3 儲存。
語法:
./cpdctl wx-data tablemaint [options]
tablemaint 指令支援下列指令:
| 選項 | 說明 |
|---|---|
./cpdctl wx-data tablemaint rollback-to-snapshot |
回滾,或將表還原為特定的快照 ID。 |
./cpdctl wx-data tablemaint rollback-to-timestamp |
將表回滾至特定時間戳的快照。 |
./cpdctl wx-data tablemaint set-current-snapshot |
設定資料表目前的快照 ID。 |
./cpdctl wx-data tablemaint cherrypick-snapshot |
從快照中選取變更到目前的資料表狀態。 Cherry-picking 會從現有的快照建立新快照,而不會變更或移除原始快照。 |
./cpdctl wx-data tablemaint expire-snapshot |
移除不再需要的舊快照及其檔案。 |
./cpdctl wx-data tablemaint remove-orphan |
移除未在 Iceberg 表的任何 metadata 檔案中引用,因此可視為「孤兒」的檔案。 |
./cpdctl wx-data tablemaint rewrite-data |
重寫資料檔案。 |
./cpdctl wx-data tablemaint rewrite-manifests |
為表格重寫艙單,以最佳化掃描規劃。 |
./cpdctl wx-data tablemaint register-table |
建立資料表。 |
執行每個資料表維護指令時,會列出下列旗標:
-
Force: 如果值設為 TRUE,則會列印要執行的 SQL 查詢。
-
Debug: 如果數值設定為 TRUE,Spark 應用程式檔案的副本會儲存在我們的電腦中。
有關使用 IBM cpdctl 執行 Iceberg 資料表維護作業的詳細資訊,請參考 watsonx.data 上的 IBM Cloud,請參閱 Spark 資料表維護。
服務
service 指令用於在 watsonx.data 中執行不同的可維修性相關作業。
語法:
./cpdctl wx-data service [options]
service 指令進一步支援下列指令:
| 指令 | 說明 |
|---|---|
./cpdctl wx-data service list-tables |
列出 watsonx.data 範例中所有蜂巢或冰山連接器的表名稱。 |
./cpdctl wx-data service get-qhmm-config |
取得 watsonx.data 範例中啟用 qhmm 的水桶名稱。 |
./cpdctl wx-data service monitor |
在 watsonx.data 實例中執行統計和 qhmm 相關查詢。 |
./cpdctl wx-data service generate-engine-dump |
產生特定於 Presto Worker 或 Coordinator watsonx.data 範例的堆或線程轉儲。 |
元件
component 指令用於在 watsonx.data 中執行不同的可維修性相關作業。
語法:
./cpdctl wx-data component [options]
component 指令進一步支援下列指令:
| 指令 | 說明 |
|---|---|
./cpdctl wx-data component get-mds-status |
在 watsonx.data 範例中取得 Metadata Service (MDS) 的設定。 |
./cpdctl wx-data component get-ces-status |
在 watsonx.data 範例中取得 CES 狀態。 |
./cpdctl wx-data component get-cas-cpg-endpoint |
在 watsonx.data 範例中取得 CPG 和 CAS 端點。 |
./cpdctl wx-data component get-hms-status |
列出 watsonx.data 範例中的所有 HMS 元儲存。 |
./cpdctl wx-data component get-console-status |
檢查 watsonx.data instance 的控制台狀態 watsonx.data instance。 |
存取控制
此 access-control 指令用於管理自 CPDCTL 版本 起 watsonx.data1.8.33,針對資源的存取政策。
語法:
./cpdctl wx-data access-control [options]
access-control 指令進一步支援下列指令:
| 指令 | 說明 |
|---|---|
./cpdctl wx-data access-control list-users-groups |
取得可存取 watsonx.data 範例的使用者和群組。 |
./cpdctl wx-data access-control list-access |
列出資源存取政策。 |
./cpdctl wx-data access-control update-access |
更新資源存取政策。 |
./cpdctl wx-data access-control revoke-access |
撤銷資源存取政策。 |