wx-data 命令和使用方法
wx-data 命令中还包含不同的命令,您可以使用这些命令执行 IBM® watsonx.data 特有的各种操作。 本主题列出了命令,并简要说明了可以执行的任务。
wx-data 命令在 watsonx.data 中执行摄取数据、管理引擎、存储和数据源等操作。
语法:
./cpdctl wx-data [command] [options]
wx-data 命令支持以下命令:
ingestionenginebucketdatabasesparkjobtablemaintservicecomponentaccess-control
如何使用 wx-data 命令 --help (-h)
列出 wx-data 插件中的所有命令:
./cpdctl wx-data --help
要获取 wx-data 插件中特定命令的所有选项及其说明的详细信息,请点击此处:
./cpdctl wx-data [command] --help
例如:
./cpdctl wx-data ingestion -h
NAME:
ingestion - Commands for Ingestion resource.
USAGE:
cpdctl wx-data ingestion [action]
COMMANDS:
list List ingestion jobs.
create Create an ingestion job.
get Get ingestion job details.
GLOBAL OPTIONS:
--cpd-config string Configuration file path
--cpdconfig string [Deprecated] Use --cpd-config instead
-h, --help Show help
--profile string Name of the configuration profile to use
-q, --quiet Suppresses verbose messages.
--raw-output If set to true, single values in JSON output mode are not surrounded by quotes
Use "cpdctl wx-data ingestion service-command --help" for more information about a command.
获取 wx-data 命令中所有可用选项和参数的详细信息,以执行操作:
./cpdctl wx-data [command] [options] --help
使用 wx-data 插件执行操作:
./cpdctl wx-data [command] [options]
摄入
ingestion 命令用于在 watsonx.data 中执行不同的摄取操作。
语法:
./cpdctl wx-data ingestion [options]
ingestion 命令还支持以下命令:
| 命令 | 描述 |
|---|---|
./cpdctl wx-data ingestion list |
列出 watsonx.data 实例中执行的摄取任务。 |
./cpdctl wx-data ingestion create |
在 watsonx.data 实例中创建摄取任务。 |
./cpdctl wx-data ingestion get |
获取 watsonx.data 实例中执行的摄取任务的详细信息。 |
引擎
engine 命令用于在 watsonx.data 中执行不同的引擎相关操作。
语法:
./cpdctl wx-data engine [options]
engine 命令还支持以下命令:
| 命令 | 描述 |
|---|---|
./cpdctl wx-data engine list |
列出 watsonx.data 实例中可用的所有引擎。 |
./cpdctl wx-data engine create |
在 watsonx.data 实例中创建或注册引擎。 |
./cpdctl wx-data engine delete |
从 watsonx.data 实例中删除引擎。 |
./cpdctl wx-data engine attach |
在 watsonx.data 实例中将目录与 Presto 引擎关联。 |
./cpdctl wx-data engine detach |
在 watsonx.data 实例中解除与 Presto 引擎相关联的目录的关联。 |
bucket
bucket 命令用于在 watsonx.data 中执行不同的存储相关操作。
语法:
./cpdctl wx-data bucket [options]
bucket 命令还支持以下命令:
watsonx.data 自动激活任何新创建的存储,无需关联目录,从而免去手动激活的步骤。
| 命令 | 描述 |
|---|---|
./cpdctl wx-data bucket list |
列出 watsonx.data 实例中可用的所有存储空间。 |
./cpdctl wx-data bucket create |
在 watsonx.data 实例中注册存储。 使用 create 选项可启用使用外部保险库 ( HashiCorp ) 中的机密。 |
./cpdctl wx-data bucket get |
获取 watsonx.data 实例中已注册存储的详细信息。 |
./cpdctl wx-data bucket delete |
从 watsonx.data 实例中删除存储。 |
./cpdctl wx-data bucket activate |
仅在 IBM Cloud 实例上激活 watsonx.data 中的存储桶。 |
./cpdctl wx-data bucket deactivate |
仅在 IBM Cloud 实例上停用 watsonx.data 中的存储桶。 watsonx.data 2.2.1 版本不支持该选项。 |
./cpdctl wx-data bucket list-objects |
列出存储桶中的所有对象。 |
限制:
- 使用 命令
list-objects时,由于 API 超时,包含大量对象的存储桶可能无法列出所有对象。 - 使用
--paginated命令list-objects时,仅列出顶级对象。 嵌套对象默认不会展开。 - 目前,ADLS 和 GCS 存储桶不支持
list-objects使用 列出对象。
数据库
database 命令用于在 watsonx.data 中执行不同的数据源相关操作。
语法:
./cpdctl wx-data database [options]
database 命令还支持以下命令:
| 命令 | 描述 |
|---|---|
./cpdctl wx-data database list |
列出 watsonx.data 实例中可用的所有数据源。 |
./cpdctl wx-data database create |
在 watsonx.data 实例中创建或添加数据源。 使用 create 选项可启用使用外部保险库 ( HashiCorp ) 中的机密。 |
./cpdctl wx-data database get |
获取 watsonx.data 实例中已注册数据源的详细信息。 |
./cpdctl wx-data database delete |
从 watsonx.data 实例中删除数据源。 |
火花工作
sparkjob 命令用于在 watsonx.data 2.1.2 及更高版本中执行不同的 Spark 相关操作。
语法:
./cpdctl wx-data sparkjob [options]
sparkjob 命令还支持以下命令:
| 命令 | 描述 |
|---|---|
./cpdctl wx-data sparkjob list |
列出 Spark 发动机的所有应用。 |
./cpdctl wx-data sparkjob create |
提交星火申请。 |
./cpdctl wx-data sparkjob get |
获取 Spark 应用程序的状态。 |
有关如何在 watsonx.data 上使用 IBM cpdctl 提交 Spark 应用程序的更多信息,请参见 IBM Cloud,请参见 使用 IBM cpdctl 提交 Spark 应用程序。
桌尾
tablemaint 命令用于在 watsonx.data 中执行不同的冰山表格维护操作。
此项现仅适用于 Amazon S3 存储。
语法:
./cpdctl wx-data tablemaint [options]
tablemaint 命令支持以下命令:
| 选项 | 描述 |
|---|---|
./cpdctl wx-data tablemaint rollback-to-snapshot |
回滚或将表还原为特定快照 ID。 |
./cpdctl wx-data tablemaint rollback-to-timestamp |
将表回滚到特定时间戳的快照。 |
./cpdctl wx-data tablemaint set-current-snapshot |
设置表的当前快照 ID。 |
./cpdctl wx-data tablemaint cherrypick-snapshot |
将快照中的更改筛选到当前表状态中。 Cherry-picking 是在现有快照的基础上创建新快照,而不更改或删除原始快照。 |
./cpdctl wx-data tablemaint expire-snapshot |
删除不再需要的旧快照及其文件。 |
./cpdctl wx-data tablemaint remove-orphan |
删除在冰山表的任何元数据文件中都未引用的文件,因此可视为“孤儿”文件。 |
./cpdctl wx-data tablemaint rewrite-data |
重写数据文件。 |
./cpdctl wx-data tablemaint rewrite-manifests |
为表格重写清单,优化扫描规划。 |
./cpdctl wx-data tablemaint register-table |
创建表格。 |
运行每条表维护命令时都会列出以下标记:
-
强制:如果值设置为 "true",将打印将要运行的 SQL 查询。
-
调试:如果该值设置为 "true",Spark 应用程序文件的副本将存储到我们的计算机中。
有关使用 IBM cpdctl 执行 Iceberg 表维护操作的更多信息,请访问 watsonx.data 上的 IBM Cloud,参见 Spark 表维护。
服务
service 命令用于在 watsonx.data 中执行不同的可维护性相关操作。
语法:
./cpdctl wx-data service [options]
service 命令还支持以下命令:
| 命令 | 描述 |
|---|---|
./cpdctl wx-data service list-tables |
列出 watsonx.data 实例中蜂巢或冰山连接器的所有表名。 |
./cpdctl wx-data service get-qhmm-config |
获取 watsonx.data 实例中已启用 qhmm 的水桶名称。 |
./cpdctl wx-data service monitor |
在 watsonx.data 实例中运行统计和 qhmm 相关查询。 |
./cpdctl wx-data service generate-engine-dump |
生成针对 Presto Worker 或协调器 watsonx.data 实例的堆或线程转储。 |
组件
component 命令用于在 watsonx.data 中执行不同的可维护性相关操作。
语法:
./cpdctl wx-data component [options]
component 命令还支持以下命令:
| 命令 | 描述 |
|---|---|
./cpdctl wx-data component get-mds-status |
获取 watsonx.data 实例中元数据服务 (MDS) 的配置。 |
./cpdctl wx-data component get-ces-status |
在 watsonx.data 实例中获取 CES 状态。 |
./cpdctl wx-data component get-cas-cpg-endpoint |
获取 watsonx.data 实例中的 CPG 和 CAS 端点。 |
./cpdctl wx-data component get-hms-status |
列出 watsonx.data 实例中的所有 HMS 元存储。 |
./cpdctl wx-data component get-console-status |
检查 watsonx.data 实例的控制台状态 watsonx.data 实例。 |
访问控制
该 access-control 命令用于管理 watsonx.data CPDCTL版本中的资源访问 1.8.33 策略。
语法:
./cpdctl wx-data access-control [options]
access-control 命令还支持以下命令:
| 命令 | 描述 |
|---|---|
./cpdctl wx-data access-control list-users-groups |
获取可访问 watsonx.data 实例的用户和组。 |
./cpdctl wx-data access-control list-access |
列出资源访问策略。 |
./cpdctl wx-data access-control update-access |
更新资源访问政策。 |
./cpdctl wx-data access-control revoke-access |
撤销资源访问策略。 |