モデルのリスト

プロジェクトで利用可能な基盤モデルを特定し、その機能を把握することで、特定のユースケースに最適なモデルを選択し、応答品質、速度、コストなどの要素に合わせて最適化することができます。

開始前に

  • IBM Cloud の従量課金型またはサブスクリプション型のアカウントを作成します。 体験版アカウントご利用いただけません。 詳細情報やアカウントのアップグレードについては、 アカウントの種類 をご覧ください。

  • Red Hat AI Inference プロジェクト を作成します。

  • Red Hat AI Inference サービスにおいて、「Writer」ロール以上の権限を持っていることを確認してください。 詳細については、「 IAM アクセスの管理 」を参照してください。

開始前に

  • IBM Cloud の従量課金型またはサブスクリプション型のアカウントを作成します。 体験版アカウントご利用いただけません。 詳細情報やアカウントのアップグレードについては、 アカウントの種類 をご覧ください。

  • Red Hat AI Inference プロジェクト を作成します。

  • Red Hat AI Inference サービスにおいて、「Writer」ロール以上の権限を持っていることを確認してください。 詳細については、「 IAM アクセスの管理 」を参照してください。

  • API への認証を行います。

  • APIエンドポイントを取得してください。 すべての API リクエストは、以下の基本形式「 URL 」を使用します：

    https://us-east.rhai.ibm.com/v1/projects/<project_id>/inference

    <project_id> を、ご自身のプロジェクト ID に置き換えてください。 それを見つけるには、 Red Hat AI Inference projects にアクセスし、自分のプロジェクトを開いてください。

コンソールを使用してモデルを一覧表示する

このコンソールは、さまざまなモデルを試したり、プロンプトをテストしたり、AIとのやり取りを調整したりできるインタラクティブな実験環境を提供しており、それらをアプリケーションに組み込む前に検証を行うことができます。

このプレイグラウンドでは埋め込み機能はサポートされていません。 API を使用して エンベディングを作成します。

  1. コンソールで、「 Red Hat AI Inference 」サービスを開きます。
  2. 「 モデルカタログ 」をクリックして、利用可能なモデルをご覧ください。

API を使用してモデルを一覧表示する

以下の例は、モデルを一覧表示する方法を示しています。 利用可能なパラメータの完全な一覧については、「 OpenAI List Models 」を参照してください。

curl -L 'https://us-east.rhai.ibm.com/v1/projects/<project_id>/inference/models' \
-H 'Accept: application/json' -H "Authorization: Bearer <bearer_token>"

from openai import OpenAI
client = OpenAI(
  api_key="<bearer_token>",
  base_url="https://us-east.rhai.ibm.com/v1/projects/<project_id>/inference",
)
models = client.models.list()
print(models)

モデルの応答において、 supports_embeddings が true である場合、そのモデルを使用して埋め込みを作成することができます。

API を使用して ID からモデルを取得する

特定のモデルに関する詳細情報を取得することで、アプリケーションで使用する前に、その特性、機能、および制限事項を理解することができます。

次の例は、ID を使ってモデルを取得する方法を示しています。 利用可能なパラメータの完全な一覧については、「 モデルの取得 」を参照してください。

curl -L 'https://us-east.rhai.ibm.com/v1/projects/<project_id>/inference/models/<model>' \
-H 'Accept: application/json' -H "Authorization: Bearer <bearer_token>"

from openai import OpenAI
client = OpenAI(
  api_key="<bearer_token>",
  base_url="https://us-east.rhai.ibm.com/v1/projects/<project_id>/inference",
)
model = client.models.retrieve("<model>")  # for example, "granite-4-0-h-small"
print(model)

モデルの応答において、 supports_embeddings が true である場合、そのモデルを使用して埋め込みを作成することができます。