支援儀表板
PrestoIBM® watsonx.data ( Java ) 透過一套強大的儀表板提供全面的可觀察性,讓您能清晰掌握效能指標,從而快速診斷問題並優化資源分配。
以下為支援的儀表板:
- 系統性能狀態
- 查詢效能健康狀態
- 資料與元資料健康狀況
- 工作負載健康狀況
- 查詢延遲健康狀況
- 查詢生命週期健康狀態
- 異常與趨勢洞察
- 日誌與錯誤健康狀態
該 Grafana 工具僅支援以下四個儀表板:系統健康狀態、查詢效能健康狀態、資料與元資料健康狀態,以及工作負載健康狀態;而 Instana 工具則支援全部八個儀表板。
以下清單代表預設的 ( Java ) Presto 計量組。 使用者可根據需要新增其他指標來擴展此功能。 完整的可用指標清單及其定義可參閱 Presto 公開的 JMX 指標。
系統性能狀態
監控基礎架構至關重要 Presto。 著重於基礎架構,監控核心資源如CPU、記憶體與I/O,以偵測瓶頸並確保穩定運作。
Presto ( Java ) 引擎:
-
CPU 使用率- 監控跨 Presto 實例的 CPU 使用率。
process_cpu_seconds_total
-
記憶體使用量- 追蹤已使用與可用記憶體的總量
watsonx_data_presto_cluster_memory_manager_cluster_memory_byteswatsonx_data_presto_cluster_memory_manager_leaked_byteswatsonx_data_presto_memory_heap_memory_usage_committed_byteswatsonx_data_presto_memory_heap_memory_usage_max_byteswatsonx_data_presto_memory_non_heap_memory_usage_committed_byteswatsonx_data_presto_memory_non_heap_memory_usage_max_byteswatsonx_data_presto_cluster_memory_manager_cluster_user_memory_reservationwatsonx_data_presto_cluster_memory_manager_cluster_total_memory_reservationwatsonx_data_presto_cluster_memory_manager_queries_killed_due_to_out_of_memoryjvm_memory_bytes_committed
-
Presto 記憶體池- 追蹤. 程式中保留記憶體池與通用記憶體池內的記憶體消耗狀況 Presto。
watsonx_data_presto_memory_pool_general_max_byteswatsonx_data_presto_cluster_memory_pool_general_nodeswatsonx_data_presto_memory_pool_general_free_byteswatsonx_data_presto_memory_pool_general_reserved_byteswatsonx_data_presto_cluster_memory_pool_general_free_distributed_byteswatsonx_data_presto_cluster_memory_pool_general_total_distributed_byteswatsonx_data_presto_cluster_memory_pool_general_reserved_distributed_byteswatsonx_data_presto_cluster_memory_pool_general_reserved_revocable_distributed_bytes
-
Alluxio 快取- 追蹤查詢過程中 Alluxio 中快取資料的效率與使用狀況。
watsonx_data_presto_alluxio_cache_bytes_read_cache_countwatsonx_data_presto_alluxio_cache_bytes_requested_external_countwatsonx_data_presto_alluxio_cache_written_cache_external_countwatsonx_data_presto_alluxio_cache_get_errors_countwatsonx_data_presto_alluxio_cache_put_errors_countwatsonx_data_presto_alluxio_cache_pages_countwatsonx_data_presto_alluxio_cache_pages_evicted_countwatsonx_data_presto_alluxio_cache_space_available_valuewatsonx_data_presto_alluxio_cache_space_used_value
要產生 Alluxio 快取指標,必須啟用 Alluxio 快取功能。 如需更多資訊,請參閱《 透過快取提升查詢效能》
此外,請確保以下設定已包含在 檔案 jvm.config 中:
-Dalluxio.metrics.key.including.unique.id.enabled=true
-Dalluxio.user.app.id=presto
- 片段快取- 追蹤快取查詢片段的使用情況及其命中率與未命中率。Presto
watsonx_data_presto_fragment_cache_stats_cache_entrieswatsonx_data_presto_fragment_cache_stats_cache_hitwatsonx_data_presto_fragment_cache_stats_cache_removalwatsonx_data_presto_fragment_cache_stats_cache_size_in_byteswatsonx_data_presto_fragment_cache_stats_inflight_bytes
查詢效能
理解查詢行為對查詢引擎至關重要。 查詢效能指標包括:
Presto ( Java ) 引擎:
-
目前執行中的查詢- 監控查詢請求速率。
watsonx_data_presto_query_manager_running_queries
-
查詢執行時間- 追蹤查詢延遲。
watsonx_data_presto_query_manager_execution_time_five_minutes_p99
-
處理中的資料- 測量查詢執行期間的資料傳輸速率。
watsonx_data_presto_task_manager_input_data_size_five_minute_countwatsonx_data_presto_task_manager_output_data_size_five_minute_count
-
錯誤率- 表示系統承受壓力時,發生錯誤的查詢所佔的百分比。
watsonx_data_presto_query_manager_user_error_failures_five_minute_countwatsonx_data_presto_query_manager_abandoned_queries_five_minute_countwatsonx_data_presto_query_manager_canceled_queries_five_minute_count
-
成功與失敗請求- 追蹤成功與失敗請求的計數。
watsonx_data_presto_query_manager_completed_queries_five_minute_countwatsonx_data_presto_query_manager_failed_queries_five_minute_countwatsonx_data_presto_query_manager_internal_failures_five_minute_countwatsonx_data_presto_task_manager_failed_tasks_five_minute_count
資料與元資料健康狀況
對於處理海量資料的系統而言,資料攝取與元資料管理的健全性至關重要。
Presto ( Java ) 引擎:
-
資料攝取 - 查詢管理器- 監控系統攝取資料的量與速率。
watsonx_data_presto_query_manager_consumed_input_bytes_five_minute_countwatsonx_data_presto_query_manager_consumed_input_rows_five_minute_countwatsonx_data_presto_query_manager_wall_input_bytes_rate_five_minutes_p90
-
S3 物件儲存錯誤- 追蹤從物件儲存層讀取資料 S3 時的失敗指標。
watsonx_data_presto_hive_s3_presto_s3_file_system_get_metadata_errors_total_countwatsonx_data_presto_hive_s3_presto_s3_file_system_failed_uploads_total_countwatsonx_data_presto_hive_s3_presto_s3_file_system_other_read_errors_total_count
-
佇列指標- 測量內部資料處理佇列的大小與處理速率。
watsonx_data_presto_dispatch_manager_queued_querieswatsonx_data_presto_split_scheduler_stats_mixed_split_queues_full_and_waiting_for_source_five_minute_countwatsonx_data_presto_task_executor_processor_executor_queued_task_countwatsonx_data_presto_task_executor_split_queued_time_all_time_maxwatsonx_data_presto_task_executor_split_queued_time_all_time_avg
-
檔案元資料快取指標- 監測檔案存取時元資料快取的命中率/未命中率及效能。
watsonx_data_presto_hive_cache_stats_mbean_parquet_metadata_hit_ratewatsonx_data_presto_hive_cache_stats_mbean_parquet_metadata_sizewatsonx_data_presto_hive_cache_stats_mbean_orc_file_tail_sizewatsonx_data_presto_hive_cache_stats_mbean_orc_file_tail_hit_ratewatsonx_data_presto_hive_cache_stats_mbean_stripe_footer_sizewatsonx_data_presto_hive_cache_stats_mbean_stripe_stream_size
工作負載健康狀況
理解不同工作負載如何與系統互動,是資源優化的關鍵。
Presto ( Java ) 引擎:
-
工作負載計數- 顯示當前正在執行的查詢數量。
watsonx_data_presto_query_manager_running_queries
-
狀態- 表示工作負載處於活動、閒置或失敗狀態。
watsonx_data_presto_query_manager_completed_queries_five_minute_countwatsonx_data_presto_query_manager_abandoned_queries_five_minute_countwatsonx_data_presto_query_manager_canceled_queries_five_minute_countwatsonx_data_presto_query_manager_failed_queries_five_minute_count
-
錯誤率- 錯誤率
watsonx_data_presto_query_manager_user_error_failures_five_minute_countwatsonx_data_presto_query_manager_failed_queries_five_minute_countwatsonx_data_presto_query_manager_external_failures_five_minute_countwatsonx_data_presto_query_manager_internal_failures_five_minute_countwatsonx_data_presto_query_manager_insufficient_resources_failures_five_minute_count
-
資源利用率- 追蹤每個工作負載相關的 CPU、記憶體及磁碟使用情況。
watsonx_data_presto_query_manager_consumed_cpu_time_seconds_five_minute_countwatsonx_data_presto_query_manager_cpu_input_byte_rate_five_minutes_p25watsonx_data_presto_query_manager_cpu_input_byte_rate_five_minutes_p50watsonx_data_presto_query_manager_cpu_input_byte_rate_five_minutes_p75watsonx_data_presto_query_manager_cpu_input_byte_rate_five_minutes_p90
-
請求計數- 特定時間段內接收的工作負載執行請求總數。
watsonx_data_presto_query_manager_running_querieswatsonx_data_presto_dispatch_manager_queued_queries
查詢生命週期健康狀態
它能深入剖析查詢從提交到執行的每個階段,協助識別佇列處理、任務執行及完成過程中的瓶頸。
Presto ( Java ) 引擎:
-
各階段錯誤- 透過識別管道中任務失敗的問題區域,追蹤執行 Presto 階段在不同階段的查詢執行失敗情況。
watsonx_data_presto_task_manager_failed_tasks_five_minute_count
-
每查詢資源利用率- 記錄每項查詢的系統資源使用情況,包含執行緒、分割數,以及排隊或正在執行的查詢。
watsonx_data_presto_task_executor_running_tasks_level0watsonx_data_presto_task_executor_running_splitswatsonx_data_presto_query_manager_submitted_queries_five_minute_countwatsonx_data_presto_query_manager_queued_querieswatsonx_data_presto_dispatch_manager_queued_querieswatsonx_data_presto_task_executor_blocked_splits
-
執行者池健康狀態- 監控用於執行 Presto 任務的內部執行緒池。
watsonx_data_presto_task_executor_processor_executor_pool_sizewatsonx_data_presto_task_executor_processor_executor_active_countwatsonx_data_presto_task_executor_processor_executor_completed_task_countwatsonx_data_presto_task_executor_processor_executor_queued_task_count
-
分割 CPU 時間- 追蹤葉節點與中間節點分割所消耗的 CPU 時間。
watsonx_data_presto_task_executor_intermediate_split_cpu_time_countwatsonx_data_presto_query_manager_consumed_cpu_time_seconds_five_minute_countwatsonx_data_presto_task_executor_leaf_split_cpu_time_p99
查詢延遲健康狀況
專注於查詢的執行階段,識別延遲來源並評估查詢複雜度的影響。
Presto ( Java ) 引擎:
-
延遲 (毫秒)- 測量跨不同階段的執行時間。
watsonx_data_presto_query_manager_execution_time_five_minutes_p99watsonx_data_presto_task_executor_split_wall_time_one_minute_maxwatsonx_data_presto_task_executor_split_wall_time_fifteen_minutes_maxwatsonx_data_presto_task_executor_split_wall_time_all_time_p99watsonx_data_presto_task_executor_leaf_split_wall_time_p99
-
請求量- 追蹤任務、分割與排程活動。
watsonx_data_presto_task_executor_split_queued_time_five_minutes_countwatsonx_data_presto_split_scheduler_stats_get_split_time_five_minutes_p99watsonx_data_presto_task_executor_split_wall_time_five_minutes_count
日誌與錯誤健康狀態
監控查詢執行管道中的錯誤與故障,突顯系統穩定性與故障模式。
Presto ( Java ) 引擎:
-
查詢失敗率- 追蹤執行失敗與瓶頸狀況。
watsonx_data_presto_query_manager_failed_queries_five_minute_countwatsonx_data_presto_query_manager_internal_failures_five_minute_countwatsonx_data_presto_query_manager_user_error_failures_five_minute_countwatsonx_data_presto_task_executor_split_skipped_due_to_memory_pressure_five_minute_count
-
受影響的服務/元件 - HiveS3 / FileSystem- 識別故障 Presto 元件。
watsonx_data_presto_hive_s3_presto_s3_file_system_failed_uploads_total_countwatsonx_data_presto_hive_s3_presto_s3_file_system_aws_retry_count_fifteen_minute_countwatsonx_data_presto_hive_s3_presto_s3_file_system_get_metadata_errors_total_countwatsonx_data_presto_hive_s3_presto_s3_file_system_socket_timeout_exceptions_total_count
-
受影響的服務/元件 - 任務執行器- 識別故障 Presto 元件。
watsonx_data_presto_task_executor_split_wall_time_all_time_max_errorwatsonx_data_presto_task_executor_blocked_quanta_wall_time_all_time_max_errorwatsonx_data_presto_task_executor_leaf_split_cpu_time_max_errorwatsonx_data_presto_task_executor_intermediate_split_wall_time_max_errorwatsonx_data_presto_task_executor_unblocked_quanta_wall_time_one_minute_max_errorwatsonx_data_presto_task_executor_split_queued_time_one_minute_max_errorwatsonx_data_presto_hive_s3_presto_s3_file_system_failed_uploads_total_countwatsonx_data_presto_hive_s3_presto_s3_file_system_aws_retry_count_fifteen_minute_countwatsonx_data_presto_hive_s3_presto_s3_file_system_get_metadata_errors_total_countwatsonx_data_presto_hive_s3_presto_s3_file_system_socket_timeout_exceptions_total_count
-
嚴重程度等級- 根據影響嚴重程度對指標進行分類。
-
嚴重(危急)
watsonx_data_presto_query_manager_internal_failures_five_minute_countwatsonx_data_presto_task_executor_split_wall_time_all_time_max_errorwatsonx_data_presto_task_executor_blocked_quanta_wall_time_all_time_max_errorwatsonx_data_presto_hive_s3_presto_s3_file_system_failed_uploads_total_countwatsonx_data_presto_cache_stats_quota_exceeded
-
中等(警告)
watsonx_data_presto_query_manager_user_error_failures_five_minute_countwatsonx_data_presto_hive_s3_presto_s3_file_system_aws_retry_count_fifteen_minute_ratewatsonx_data_presto_hive_s3_presto_s3_file_system_get_object_errors_fifteen_minute_ratewatsonx_data_presto_hive_s3_presto_s3_file_system_read_retries_fifteen_minute_rate
-
低 (資訊)
watsonx_data_presto_hive_s3_presto_s3_file_system_get_metadata_retries_five_minute_countwatsonx_data_presto_task_executor_split_skipped_due_to_memory_pressure_total_countwatsonx_data_presto_task_executor_processor_executor_shutdown
-
異常與趨勢洞察
突顯查詢行為中的意外模式或偏差,協助偵測效能衰退或提升。
Presto ( Java ) 引擎:
-
延遲漂移- 追蹤演變中的查詢延遲。
watsonx_data_presto_task_executor_split_wall_time_fifteen_minutes_avgwatsonx_data_presto_task_executor_leaf_split_wait_time_avgwatsonx_data_presto_task_executor_intermediate_split_wall_time_avg
-
錯誤率與基準值比較- 將近期執行指標與歷史基準值進行對比。
watsonx_data_presto_task_executor_split_wall_time_fifteen_minutes_avgwatsonx_data_presto_task_executor_leaf_split_wait_time_avgwatsonx_data_presto_task_executor_intermediate_split_wall_time_avg
-
吞吐量下降偵測器- 偵測資料處理速率的驟降。
watsonx_data_presto_task_executor_global_scheduled_time_micros_five_minute_ratewatsonx_data_presto_hive_s3_presto_s3_file_system_successful_uploads_five_minute_rate
-
查詢持續時間- 測量每個任務或分割的平均執行時間。
watsonx_data_presto_task_executor_leaf_split_cpu_time_avgwatsonx_data_presto_task_executor_intermediate_split_cpu_time_avg
-
記憶體趨勢- 追蹤記憶體使用狀況與潛在記憶體洩漏。
jvm_memory_bytes_usedwatsonx_data_presto_memory_heap_memory_usage_used_bytes
-
工作量趨勢比較- 比較不同時間區間的資源使用情況。
watsonx_data_presto_task_executor_global_cpu_time_micros_total_countwatsonx_data_presto_cluster_memory_manager_cluster_total_memory_reservationwatsonx_data_presto_task_executor_blocked_quanta_wall_time_fifteen_minutes_avg