将日志转发到实例主目录

除非用户指定,否则缺省情况下会将平台日志转发到实例主目录。 您可以从 <instance_id>/logs/<app_id> 目录查看特定应用程序的日志。 您还可以禁用此功能。

下载日志

要从实例主目录下载日志,请使用 AWS CLI 运行以下命令。 有关使用 CLI 的更多信息,请参阅 配置 CLI 以连接到 Object Storage

aws --endpoint-url <bucket_endpoint> s3 cp s3://<bucket_name>/<instance_id>/logs/<app_id>/ ./ --recursive

示例:

aws --endpoint-url https://s3.us-south.cloud-object-storage.appdomain.cloud/ s3 cp s3://do-not-delete-ae-bucket-a0048029-c78a-439a-a864-14fdd3b2d95b/a0048029-c78a-439a-a864-14fdd3b2d95b/logs/2cd9036a-9e4a-4b79-81ec-2d8ae96d674c/ ./ --recursive

更改 Spark 日志级别

您可以编辑 spark log level configuration 以针对转发到实例主目录的驱动程序和执行程序日志设置不同的日志级别,例如 INFO 和 DEBUG。

通过指定以下驱动程序和 (或) 执行程序日志级别来完全禁用日志记录功能。

ae.spark.driver.log.level = OFF
ae.spark.executor.log.level = OFF

有关配置日志级别信息的更多信息,请参阅 配置 Spark 日志级别信息

缺省情况下,驱动程序日志级别为 WARN,执行程序日志级别为 OFF。 如果未指定 Spark 日志级别配置,那么只能在实例主目录中查看驱动程序日志。 要包含执行程序日志,请将日志级别更改为与 OFF 不同的值。 有关更多信息,请参阅 配置 Spark 日志级别信息

此外,您还可以选择将日志转发到 IBM Log Analysis 服务。 有关更多信息,请参阅 将日志转发到 IBM Log Analysis。 如果驱动程序或执行程序日志级别信息配置为 "OFF",那么即使通过日志记录 API 启用了日志,也不会将日志转发到 IBM Log Analysis 服务。