wx-data 命令和使用方法

wx-data 命令中还包含不同的命令,您可以使用这些命令执行 IBM® watsonx.data 特有的各种操作。 本主题列出了命令,并简要说明了可以执行的任务。

wx-data 命令在 watsonx.data 中执行摄取数据、管理引擎、存储和数据源等操作。

语法:

./cpdctl wx-data [command] [options]

wx-data 命令支持以下命令:

  • ingestion
  • engine
  • bucket
  • database
  • sparkjob
  • tablemaint
  • service
  • component
  • access-control

如何使用 wx-data 命令 --help (-h)

列出 wx-data 插件中的所有命令:

./cpdctl wx-data --help

要获取 wx-data 插件中特定命令的所有选项及其说明的详细信息,请点击此处:

./cpdctl wx-data [command] --help

例如:

./cpdctl wx-data ingestion -h
NAME:
   ingestion - Commands for Ingestion resource.

USAGE:
   cpdctl wx-data ingestion [action]

COMMANDS:
   list     List ingestion jobs.
   create   Create an ingestion job.
   get      Get ingestion job details.

GLOBAL OPTIONS:
      --cpd-config string   Configuration file path
      --cpdconfig string    [Deprecated] Use --cpd-config instead
  -h, --help                Show help
      --profile string      Name of the configuration profile to use
  -q, --quiet               Suppresses verbose messages.
      --raw-output          If set to true, single values in JSON output mode are not surrounded by quotes

Use "cpdctl wx-data ingestion service-command --help" for more information about a command.

获取 wx-data 命令中所有可用选项和参数的详细信息,以执行操作:

./cpdctl wx-data [command] [options] --help

使用 wx-data 插件执行操作:

./cpdctl wx-data [command] [options]

摄入

ingestion 命令用于在 watsonx.data 中执行不同的摄取操作。

语法:

./cpdctl wx-data ingestion [options]

ingestion 命令还支持以下命令:

摄取支持的命令
命令 描述
./cpdctl wx-data ingestion list 列出 watsonx.data 实例中执行的摄取任务。
./cpdctl wx-data ingestion create 在 watsonx.data 实例中创建摄取任务。
./cpdctl wx-data ingestion get 获取 watsonx.data 实例中执行的摄取任务的详细信息。

引擎

engine 命令用于在 watsonx.data 中执行不同的引擎相关操作。

语法:

./cpdctl wx-data engine [options]

engine 命令还支持以下命令:

各引擎支持的命令
命令 描述
./cpdctl wx-data engine list 列出 watsonx.data 实例中可用的所有引擎。
./cpdctl wx-data engine create 在 watsonx.data 实例中创建或注册引擎。
./cpdctl wx-data engine delete 从 watsonx.data 实例中删除引擎。
./cpdctl wx-data engine attach 在 watsonx.data 实例中将目录与 Presto 引擎关联。
./cpdctl wx-data engine detach 在 watsonx.data 实例中解除与 Presto 引擎相关联的目录的关联。

bucket

bucket 命令用于在 watsonx.data 中执行不同的存储相关操作。

语法:

./cpdctl wx-data bucket [options]

bucket 命令还支持以下命令:

watsonx.data 自动激活任何新创建的存储,无需关联目录,从而免去手动激活的步骤。

水桶支持的命令
命令 描述
./cpdctl wx-data bucket list 列出 watsonx.data 实例中可用的所有存储空间。
./cpdctl wx-data bucket create 在 watsonx.data 实例中注册存储。 使用 create 选项可启用使用外部保险库 ( HashiCorp ) 中的机密。
./cpdctl wx-data bucket get 获取 watsonx.data 实例中已注册存储的详细信息。
./cpdctl wx-data bucket delete 从 watsonx.data 实例中删除存储。
./cpdctl wx-data bucket activate 仅在 IBM Cloud 实例上激活 watsonx.data 中的存储桶。
./cpdctl wx-data bucket deactivate 仅在 IBM Cloud 实例上停用 watsonx.data 中的存储桶。 watsonx.data 2.2.1 版本不支持该选项。
./cpdctl wx-data bucket list-objects 列出存储桶中的所有对象。

限制:

  • 使用 命令 list-objects 时,由于 API 超时,包含大量对象的存储桶可能无法列出所有对象。
  • 使用 --paginated 命令 list-objects 时,仅列出顶级对象。 嵌套对象默认不会展开。
  • 目前,ADLS 和 GCS 存储桶不支持 list-objects 使用 列出对象。

数据库

database 命令用于在 watsonx.data 中执行不同的数据源相关操作。

语法:

./cpdctl wx-data database [options]

database 命令还支持以下命令:

数据库支持的命令
命令 描述
./cpdctl wx-data database list 列出 watsonx.data 实例中可用的所有数据源。
./cpdctl wx-data database create 在 watsonx.data 实例中创建或添加数据源。 使用 create 选项可启用使用外部保险库 ( HashiCorp ) 中的机密。
./cpdctl wx-data database get 获取 watsonx.data 实例中已注册数据源的详细信息。
./cpdctl wx-data database delete 从 watsonx.data 实例中删除数据源。

火花工作

sparkjob 命令用于在 watsonx.data 2.1.2 及更高版本中执行不同的 Spark 相关操作。

语法:

./cpdctl wx-data sparkjob [options]

sparkjob 命令还支持以下命令:

sparkjob 支持的命令
命令 描述
./cpdctl wx-data sparkjob list 列出 Spark 发动机的所有应用。
./cpdctl wx-data sparkjob create 提交星火申请。
./cpdctl wx-data sparkjob get 获取 Spark 应用程序的状态。

有关如何在 watsonx.data 上使用 IBM cpdctl 提交 Spark 应用程序的更多信息,请参见 IBM Cloud,请参见 使用 IBM cpdctl 提交 Spark 应用程序

桌尾

tablemaint 命令用于在 watsonx.data 中执行不同的冰山表格维护操作。

此项现仅适用于 Amazon S3 存储。

语法:

./cpdctl wx-data tablemaint [options]

tablemaint 命令支持以下命令:

tablemaint 支持的命令
选项 描述
./cpdctl wx-data tablemaint rollback-to-snapshot 回滚或将表还原为特定快照 ID。
./cpdctl wx-data tablemaint rollback-to-timestamp 将表回滚到特定时间戳的快照。
./cpdctl wx-data tablemaint set-current-snapshot 设置表的当前快照 ID。
./cpdctl wx-data tablemaint cherrypick-snapshot 将快照中的更改筛选到当前表状态中。 Cherry-picking 是在现有快照的基础上创建新快照,而不更改或删除原始快照。
./cpdctl wx-data tablemaint expire-snapshot 删除不再需要的旧快照及其文件。
./cpdctl wx-data tablemaint remove-orphan 删除在冰山表的任何元数据文件中都未引用的文件,因此可视为“孤儿”文件。
./cpdctl wx-data tablemaint rewrite-data 重写数据文件。
./cpdctl wx-data tablemaint rewrite-manifests 为表格重写清单,优化扫描规划。
./cpdctl wx-data tablemaint register-table 创建表格。

运行每条表维护命令时都会列出以下标记:

  • 强制:如果值设置为 "true",将打印将要运行的 SQL 查询。

  • 调试:如果该值设置为 "true",Spark 应用程序文件的副本将存储到我们的计算机中。

有关使用 IBM cpdctl 执行 Iceberg 表维护操作的更多信息,请访问 watsonx.data 上的 IBM Cloud,参见 Spark 表维护

服务

service 命令用于在 watsonx.data 中执行不同的可维护性相关操作。

语法:

./cpdctl wx-data service [options]

service 命令还支持以下命令:

各服务支持的命令
命令 描述
./cpdctl wx-data service list-tables 列出 watsonx.data 实例中蜂巢或冰山连接器的所有表名。
./cpdctl wx-data service get-qhmm-config 获取 watsonx.data 实例中已启用 qhmm 的水桶名称。
./cpdctl wx-data service monitor 在 watsonx.data 实例中运行统计和 qhmm 相关查询。
./cpdctl wx-data service generate-engine-dump 生成针对 Presto Worker 或协调器 watsonx.data 实例的堆或线程转储。

组件

component 命令用于在 watsonx.data 中执行不同的可维护性相关操作。

语法:

./cpdctl wx-data component [options]

component 命令还支持以下命令:

各组件支持的命令
命令 描述
./cpdctl wx-data component get-mds-status 获取 watsonx.data 实例中元数据服务 (MDS) 的配置。
./cpdctl wx-data component get-ces-status 在 watsonx.data 实例中获取 CES 状态。
./cpdctl wx-data component get-cas-cpg-endpoint 获取 watsonx.data 实例中的 CPG 和 CAS 端点。
./cpdctl wx-data component get-hms-status 列出 watsonx.data 实例中的所有 HMS 元存储。
./cpdctl wx-data component get-console-status 检查 watsonx.data 实例的控制台状态 watsonx.data 实例。

访问控制

access-control 命令用于管理 watsonx.data CPDCTL版本中的资源访问 1.8.33 策略。

语法:

./cpdctl wx-data access-control [options]

access-control 命令还支持以下命令:

访问控制支持的命令
命令 描述
./cpdctl wx-data access-control list-users-groups 获取可访问 watsonx.data 实例的用户和组。
./cpdctl wx-data access-control list-access 列出资源访问策略。
./cpdctl wx-data access-control update-access 更新资源访问政策。
./cpdctl wx-data access-control revoke-access 撤销资源访问策略。