關於計費的常見問題 Red Hat AI Inference

關於 Red Hat AI Inference 帳單的常見問題,可能包含有關費用或儲存空間定價的疑問。 如欲查閱 IBM Cloud® 的所有常見問題,請參閱我們的 常見問題庫

計費機制是怎樣的?

您使用 Red Hat AI 推論 會產生費用。 若您使用模型對齊功能,還需為 IBM Cloud® Object Storage,該功能將作為儲存位置使用。

若您將模型部署至其他服務,則需支付該服務所產生的額外費用。

在 Red Hat AI 推論 中,成本是如何計算的?

Red Hat AI 推論 的使用費用是根據以代幣為單位計算的指標來決定的。 每個代幣對應於處理任務所需的特定運算能力。 消耗的代幣總數會直接影響資料生成、模型微調或推論的規模。 此指標是我們計費系統的基礎,讓使用者能夠根據所使用的運算資源來監控及控制成本。

合成數據生成(SDG)
輸出代幣(SYN-DATA-TOKEN )是根據該服務從整個輸入分類法所產生的數據量來計算的。 本文字是透過 Hugging Face 提供的分詞器函式庫, 並採用 Mistral 教師模型的分詞資訊進行分詞的。
模型對齊訓練
輸入標記(MODEL-TRAIN-TOKEN )是根據輸入系統用於模型對齊訓練的數據量,以及用於在不造成知識損失的情況下提高準確度的 Granite 基礎知識來計算的。 由於運用了基礎知識,因此成本較低。
利用模型進行推論
推論成本會針對每個模型,分別針對輸入和輸出標記進行計算。 輸入代號代表您傳送給模型的提示或查詢,而輸出代號則代表模型所生成的回應。 每種模型皆根據其規模與運算需求,採用各自的定價結構。

在訓練模型時,該如何查找和追蹤成本資訊?

  1. 在 Red Hat AI 推論 中執行任何操作之前,您可以使用 成本估算工具 來預估可能的成本。

  2. 上傳您的分類法

  3. 設定 資料生成 相關細節時,請在開始執行工作之前,先檢視預估成本。

  4. 資料生成後,您還可以在該資料生成的詳細資訊中查看預估的「輸出代幣」數量。

  5. 設定 訓練 工作詳情時,請在開始執行該工作之前,先檢視預估成本。

  6. 當工作完成後,您可以在「計費與用量」中查看實際成本。 您可以查看「Red Hat AI 推論」以及 IBM Cloud® Object Storage 該服務(用作儲存位置)的相關費用。

失敗的操作會被計費嗎?

操作失敗的情況將不予收費。 成功執行的操作及使用者取消的操作均會計費,但使用者取消的操作會根據已完成的部分按比例計費。