關於計費的常見問題 Red Hat AI Inference
關於 Red Hat AI Inference 帳單的常見問題,可能包含有關費用或儲存空間定價的疑問。 如欲查閱 IBM Cloud® 的所有常見問題,請參閱我們的 常見問題庫。
計費機制是怎樣的?
您使用 Red Hat AI 推論 會產生費用。 若您使用模型對齊功能,還需為 IBM Cloud® Object Storage,該功能將作為儲存位置使用。
若您將模型部署至其他服務,則需支付該服務所產生的額外費用。
在 Red Hat AI 推論 中,成本是如何計算的?
Red Hat AI 推論 的使用費用是根據以代幣為單位計算的指標來決定的。 每個代幣對應於處理任務所需的特定運算能力。 消耗的代幣總數會直接影響資料生成、模型微調或推論的規模。 此指標是我們計費系統的基礎,讓使用者能夠根據所使用的運算資源來監控及控制成本。
- 合成數據生成(SDG)
- 輸出代幣(
SYN-DATA-TOKEN)是根據該服務從整個輸入分類法所產生的數據量來計算的。 本文字是透過 Hugging Face 提供的分詞器函式庫, 並採用 Mistral 教師模型的分詞資訊進行分詞的。 - 模型對齊訓練
- 輸入標記(
MODEL-TRAIN-TOKEN)是根據輸入系統用於模型對齊訓練的數據量,以及用於在不造成知識損失的情況下提高準確度的 Granite 基礎知識來計算的。 由於運用了基礎知識,因此成本較低。 - 利用模型進行推論
- 推論成本會針對每個模型,分別針對輸入和輸出標記進行計算。 輸入代號代表您傳送給模型的提示或查詢,而輸出代號則代表模型所生成的回應。 每種模型皆根據其規模與運算需求,採用各自的定價結構。
在訓練模型時,該如何查找和追蹤成本資訊?
失敗的操作會被計費嗎?
操作失敗的情況將不予收費。 成功執行的操作及使用者取消的操作均會計費,但使用者取消的操作會根據已完成的部分按比例計費。