Affichage de la liste des modèles

Découvrez quels modèles de base sont disponibles dans votre projet et familiarisez-vous avec leurs capacités, afin de pouvoir utiliser le modèle le mieux adapté à votre cas d'utilisation spécifique et d'optimiser des facteurs tels que la qualité de la réponse, la vitesse ou le coût.

Avant de commencer

  • Créez un compte Pay-As-You-Go ou Abonnement sur IBM Cloud. Les comptes d'essai ne sont pas pris en charge. Pour plus d'informations ou pour mettre à niveau votre compte, consultez la section Types de comptes.

  • Créer un projet Red Hat AI Inference.

  • Assurez-vous de disposer du rôle Writer ou d'un rôle supérieur sur le service Red Hat AI Inference. Pour plus d'informations, consultez la section Gestion des accès IAM.

Avant de commencer

  • Créez un compte Pay-As-You-Go ou Abonnement sur IBM Cloud. Les comptes d'essai ne sont pas pris en charge. Pour plus d'informations ou pour mettre à niveau votre compte, consultez la section Types de comptes.

  • Créer un projet Red Hat AI Inference.

  • Assurez-vous de disposer du rôle Writer ou d'un rôle supérieur sur le service Red Hat AI Inference. Pour plus d'informations, consultez la section Gestion des accès IAM.

  • Authentifiez-vous auprès de l'API.

  • Obtenez votre point de terminaison API. Toutes les requêtes API utilisent le format de base suivant : URL:

    https://us-east.rhai.ibm.com/v1/projects/<project_id>/inference

    Remplacez par <project_id> l'identifiant de votre projet. Pour y accéder, rendez-vous sur Red Hat AI Inference projects et ouvrez votre projet.

Répertorier les modèles à l'aide de la console

La console offre un environnement interactif où vous pouvez tester différents modèles, essayer des invites et affiner vos interactions avec l'IA avant de les intégrer à vos applications.

L'environnement de test ne prend pas en charge les intégrations. Utilisez l'API pour créer des intégrations.

  1. Dans la console, ouvrez le service Red Hat AI Inference.
  2. Cliquez sur Catalogue des modèles pour découvrir les modèles disponibles.

Répertorier les modèles à l'aide de l'API

L'exemple suivant montre comment répertorier les modèles. Pour obtenir la liste complète des paramètres disponibles, consultez la section Modèles de liste à l'adresse OpenAI.

curl -L 'https://us-east.rhai.ibm.com/v1/projects/<project_id>/inference/models' \
-H 'Accept: application/json' -H "Authorization: Bearer <bearer_token>"

from openai import OpenAI
client = OpenAI(
  api_key="<bearer_token>",
  base_url="https://us-east.rhai.ibm.com/v1/projects/<project_id>/inference",
)
models = client.models.list()
print(models)

Si supports_embeddings figure dans true la réponse du modèle, celui-ci peut être utilisé pour créer des représentations vectorielles.

Récupérer un modèle par ID à l'aide de l'API

Consulter les informations détaillées sur un modèle spécifique vous aide à comprendre ses caractéristiques, ses capacités et ses limites avant de l'utiliser dans votre application.

L'exemple suivant montre comment récupérer un modèle par ID. Pour obtenir la liste complète des paramètres disponibles, consultez la section Récupérer le modèle.

curl -L 'https://us-east.rhai.ibm.com/v1/projects/<project_id>/inference/models/<model>' \
-H 'Accept: application/json' -H "Authorization: Bearer <bearer_token>"

from openai import OpenAI
client = OpenAI(
  api_key="<bearer_token>",
  base_url="https://us-east.rhai.ibm.com/v1/projects/<project_id>/inference",
)
model = client.models.retrieve("<model>")  # for example, "granite-4-0-h-small"
print(model)

Si supports_embeddings figure dans true la réponse du modèle, celui-ci peut être utilisé pour créer des représentations vectorielles.