請求処理はどのように行われますか?

Red Hat AI Inference をご利用になるには、費用が発生します。 モデルアラインメントを使用する場合、 IBM Cloud® Object Storage、これは保存先として使用されます。

モデルを別のサービスにデプロイする場合、そのサービスから追加料金が発生します。

Red Hat AI Inference では、コストはどのように計算されるのですか？

Red Hat AI Inference の利用にかかる費用は、トークン単位で測定される指標に基づいています。 各トークンは、処理タスクに必要な特定の計算能力に対応しています。 消費されるトークンの総数は、データ生成、モデルの微調整、あるいは推論の規模に直接影響を与えます。 この指標は、当社の課金システムの基礎となっており、ユーザーは使用した計算リソースに応じてコストを監視・管理することができます。

合成データ生成（SDG）

出力トークン（SYN-DATA-TOKEN ）は、入力されたタクソノミー全体からサービスによって生成されたデータの量に基づいて算出されます。 テキストは、 Hugging Face のトークナイザーライブラリと、 Mistralのティーチャーモデル用のトークナイゼーション情報を用いてトークナイズされます。

モデルアラインメントの学習

入力トークン（MODEL-TRAIN-TOKEN ）は、モデルのアラインメント学習のためにシステムに投入されたデータ量、および知識の損失なく精度を高めるために使用される Granite の基礎知識に基づいて計算されます。 基礎となる知識が活用されるため、コストは最小限に抑えられます。

モデルを用いた推論

推論コストは、モデルごとに、入力トークンと出力トークンについて個別に計算されます。 入力トークンは、モデルに送信されたプロンプトやクエリを表し、出力トークンはモデルが生成した応答を表します。 各モデルには、その規模や計算要件に基づいた独自の価格体系が設けられています。

モデルの学習中に、コスト情報をどのように確認・追跡すればよいですか？

1. Red Hat AI Inference で何かを実行する前に、 コスト見積もりツール を使用して、おおよそのコストを見積もることができます。

2. タクソノミーをアップロードしてください

3. データ生成 の設定を行う際は、ジョブを開始する前に見積もり費用を確認してください。

4. データが生成された後、そのデータ生成の詳細画面で、推定される出力トークンの数を確認することもできます。

5. トレーニング ジョブの詳細を設定する際は、ジョブを開始する前に、見積もりコストを確認してください。

6. ジョブが完了したら、「 請求と利用状況 」で実際の費用を確認できます。 Red Hat AI Inference と、 IBM Cloud® Object Storage ストレージ先として使用されるサービスの費用を確認できます。

失敗した操作は課金されますか？

失敗した操作については課金されません。 正常に実行された操作およびユーザーによってキャンセルされた操作については課金されますが、ユーザーによってキャンセルされた操作については、完了した処理分に応じて日割り計算されます。