Initiation à Red Hat AI Inference on IBM Cloud

Prêt à utiliser l'intelligence artificielle (IA) dans vos applications? Dans ce tutoriel, vous apprendrez à effectuer des inférences à l'aide de modèles de base et à générer des réponses basées sur l'IA. En seulement 15 minutes, vous pourrez discuter avec un modèle linguistique de grande envergure et intégrer l'IA conversationnelle à vos flux de travail.

Red Hat® AI Inference on IBM Cloud® Il s'agit d'une solution d'IA générative prête à l'emploi, privée et sécurisée, optimisée par l'IA d' Red Hat OpenShift. Ce tutoriel a pour objectif de vous initier à l'inférence pour interagir avec des modèles de base, ce qui constitue le moyen le plus rapide de commencer à utiliser l'IA.

Ce que vous allez faire

Dans ce tutoriel, vous allez effectuer les tâches suivantes :

  • Configurez votre compte et votre projet IBM Cloud.
  • Authentifiez-vous auprès de l'API d'inférence.
  • Générez votre première réponse de chat à l'aide d'un modèle de base.
  • Découvrez les prochaines étapes pour personnaliser les modèles avec vos propres données.

Avant de commencer

Assurez-vous de disposer des éléments suivants :

  • Un compte IBM Cloud en paiement à l'utilisation ou par abonnement. Les comptes d'essai ne sont pas pris en charge. Pour plus d'informations ou pour passer à un compte supérieur, consultez la section Types de comptes.

  • Un projet d' Red Hat AI Inference.

  • Rôle Writer ou supérieur sur le service Red Hat AI Inference. Pour plus d'informations, consultez la section Gestion des accès IAM.

Obtenez votre identifiant de projet et votre point de terminaison API

Votre identifiant de projet est obligatoire pour toutes les requêtes API.

  1. Accéder aux projets Red Hat AI Inference.

  2. Ouvrez votre projet.

  3. Copiez l'identifiant de votre projet et conservez-le pour les étapes suivantes.

Noeud final d'API

Toutes les requêtes API utilisent le format de base suivant : URL:

https://us-east.rhai.ibm.com/v1/projects/<project_id>/inference

Remplacez <project_id> par l'identifiant de votre projet.

S'authentifier auprès de l'API

Avant de pouvoir interagir avec les modèles de base, vous devez authentifier vos requêtes API. Vous pouvez utiliser soit un jeton bearer, soit une clé API IBM Cloud. Ce tutoriel explique comment utiliser un identifiant de service avec une clé API pour un accès programmatique. Pour plus d'informations sur l'utilisation d'un jeton bearer, consultez la section Authentification à l'aide d'un jeton bearer.

Création d'un identifiant de service et d'une clé API

Un identifiant de service gère l'accès aux applications et aux flux de travail automatisés. Lorsque vous créez un identifiant de service directement au sein de votre projet, le rôle d'accès Writer vous est automatiquement attribué afin que vous puissiez créer des suggestions de chat.

  1. Accédez à la page des projets Red Hat AI Inference, puis sélectionnez votre projet.
  2. Dans la section Utilisation de l'API, cliquez sur Créer une clé API.
  3. Cliquez sur Suivant, puis sélectionnez Ce projet uniquement pour limiter l'accès au projet en cours.
  4. Cliquez sur Créer.
  5. Copiez la clé API et conservez-la en lieu sûr. La valeur de la clé API ne peut plus être affichée une fois la boîte de dialogue fermée.

Vous pouvez désormais utiliser cette clé API pour authentifier vos requêtes. À l'étape suivante, vous utiliserez cette clé dans l'en-tête Authorization: Bearer de vos appels API.

Découvrez les modèles disponibles

Chaque modèle de base présente des atouts différents; il est donc important de passer en revue les modèles disponibles dans le cadre de votre projet.

Effectuez l'appel d'API suivant pour répertorier tous les modèles disponibles. Remplacez <project_id> par votre identifiant de projet et <api_key> par votre clé API d'identifiant de service :

curl -L 'https://us-east.rhai.ibm.com/v1/projects/<project_id>/inference/models' \
  -H 'Accept: application/json' \
  -H "Authorization: Bearer <api_key>"

from openai import OpenAI
client = OpenAI(
  api_key="<api_key>",
  base_url="https://us-east.rhai.ibm.com/v1/projects/<project_id>/inference",
)
models = client.models.list()
print(models)

La réponse vous présente tous les modèles que vous pouvez utiliser, ainsi que des informations sur leurs fonctionnalités. Vous pouvez tester différents modèles afin de trouver celui qui correspond le mieux à votre cas d'utilisation.

Générez votre première suggestion de conversation

Envoyez maintenant un message au modèle et recevez une réponse générée par l'IA.

Effectuez l'appel d'API suivant, en remplaçant <project_id> par l'ID de votre projet et <api_key> par votre clé API de service :

curl https://us-east.rhai.ibm.com/v1/projects/<project_id>/inference/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer <api_key>" \
  -d '{
    "model": "granite-4-0-h-small",
    "messages": [
      {
        "role": "developer",
        "content": "You are a helpful assistant"
      },
      {
        "role": "user",
        "content": "Hello! Tell me about yourself"
      }
    ]
  }'

from openai import OpenAI
client = OpenAI(
  api_key="<api_key>",
  base_url="https://us-east.rhai.ibm.com/v1/projects/<project_id>/inference",
)
completion = client.chat.completions.create(
  model="granite-4-0-h-small",
  messages=[
    {"role": "developer", "content": "You are a helpful assistant."},
    {"role": "user", "content": "Hello! Tell me about yourself"}
  ]
)
print(completion.choices[0].message)

Vous devriez recevoir une réponse du modèle se présentant lui-même.

Comprendre la demande

Analysons ce que vous venez de faire :

modèle
Vous avez spécifié granite-4-0-h-small, l'un des modèles de base disponibles. Les différents modèles présentent des capacités et des caractéristiques de performance variées.
messages
Vous avez fourni deux messages. L'un d'entre eux était un message destiné aux développeurs qui définissait l'invite du système et indiquait au modèle comment se comporter. Le message de l'utilisateur contenait votre question exacte à laquelle le modèle devait répondre.
Noeud final d'API
La requête a été transmise au point de terminaison d'inférence de votre projet, qui se charge de l'acheminer vers le modèle approprié.

Vous pouvez personnaliser le comportement du modèle en modifiant l'invite du système, en ajoutant des messages supplémentaires ou en utilisant différents modèles selon les cas d'utilisation.

Etapes suivantes

Maintenant que vous avez réussi à vous lancer dans l'utilisation de l'inférence, voici ce que vous pouvez faire ensuite :

Poursuivre avec l'inférence