Modèles de formation pour l' Inférence d'IA Red Hat

Entraînez votre modèle sur des données générées, puis testez-le pour vérifier les résultats. En savoir plus sur ce qu'est la formation.

Les informations ou fichiers de configuration ne peuvent pas être transmis au modèle à des fins de réglage fin.

Red Hat AI Inference Les fonctionnalités d'alignement de modèles, de génération de données synthétiques et de gestion de la taxonomie sont obsolètes et seront supprimées le 25 septembre 2026. Pour poursuivre les workflows de personnalisation et d'alignement des modèles, migrez vers Red Hat® OpenShift® AI On OpenShift. En savoir plus sur l'IA d' Red Hat® OpenShift®.

Prérequis

Préparez votre taxonomie
Ajoutez la taxonomie tar.gz à votre compartiment Object Storage. Vous pouvez utiliser l'interface de ligne de commande (CLI) ou l'interface utilisateur (UI).
Générez des données à partir de votre taxonomie.

Alignement des modèles à l'aide de la console

Depuis la page Projets d' Red Hat AI Inference, cliquez sur votre projet > Modèles alignés > Aligner.
Saisissez un nom alphanumérique pour le modèle et sélectionnez les données d'entraînement à utiliser.
Facultatif : vérifiez le coût estimé qui vous est fourni avant de lancer le processus d'alignement.
Cliquez sur Aligner. L'état est queued, puis running. Attendez que l'état soit completed. Ce processus peut prendre quelques minutes ou plusieurs heures. Une fois l'alignement terminé, dans le compartiment Object Storage, un répertoire trained_models est créé et contient les journaux nécessaires au dépannage.

Modèles de formation à l'aide de l'interface de ligne de commande (CLI)

Récupérez l'identifiant des données à utiliser.
```
ibmcloud ilab data list
```
Exécutez la commande pour lancer l'entraînement du modèle à l'aide des données générées. Notez l'identifiant.
```
ibmcloud ilab model train --name testmodel --data-id DATA_ID
```
Vérifiez les détails relatifs à la génération de vos données. Indiquez l'identifiant du modèle. L'état est queued, puis running. Attendez que l'état soit completed. Ce processus peut prendre quelques minutes ou plusieurs heures. Lorsque l'état est completed, dans le compartiment Object Storage, un répertoire trained_models est créé contenant les journaux destinés au dépannage.
```
ibmcloud ilab model get --id MODEL_ID
```

Facultatif : lorsque l'état est completed, vous pouvez consulter des indicateurs, tels que les estimations de jetons, afin de calculer le coût estimé.

Exemple de commande model get avec l'option --output json.

ibmcloud ilab model get --id daef9836-631f-4686-ad18-e0e6a0910f5d --output json

Exemple de sortie JSON

{
  "base_model": "granite-3.1-8b-starter-v2.1",
  "created_at": "2026-08-04T16:06:05.000Z",
  "data_id": "8b1433c0-e375-4b00-b36d-2ad00697014e",
  "id": "daef9836-631f-4686-ad18-e0e6a0910f5d",
  "last_signal_at": "2026-08-04T17:20:32.000Z",
  "model_metrics": {
    "mmlu": {
      "overall_average": 0.51,
      "scores": {
        "mmlu_abstract_algebra": 0.3,
        "mmlu_anatomy": 0.43,
        "mmlu_astronomy": 0.49
      }
    },
    "mt_bench": {
      "error_rate": 0.01,
      "overall_average": 6.86,
      "scores": {
        "turn_one": 7.25,
        "turn_two": 6.47
      }
    },
    "mt_bench_branch": {
      "error_rate": 0.01,
      "improvements": {
        "compositional_skills/STEM/math/time_series/qna.yaml": 8.67,
        "compositional_skills/extraction/invoice/csv/qna.yaml": 8.4
      },
      "no_change": {
        "compositional_skills/roleplay/explain_like_i_am/primary_schooler/qna.yaml": 0,
        "compositional_skills/writing/freeform/technical/proposal/qna.yaml": 0
      },
      "regressions": {
        "compositional_skills/extraction/inference/qualitative/sentiment/qna.yaml": -9,
        "compositional_skills/extraction/information/named_entities/places/qna.yaml": -9
      }
    },
    "tokens": {
      "training_phases": {}
    }
  },
  "name": "test",
  "state": "completed",
  "status": "completed",
  "taxonomy_id": "e62ccea5-97e6-4568-86bf-2f359987b115"
}

Modèles de formation à l'aide de l'API

Récupérez l'identifiant des données à utiliser.

Exemple de commande.

curl -X 'GET' \
  'https://us-east.instructlab.ibm.com/v1/data' \
  -H 'accept: application/json'

Exemple de sortie.

{
  "data": [
    {
      "id": "add785e6-a8c3-4f5f-ab89-c506a3f115da",
      "name": "example-data-1",
      "state": "",
      "status": "queued",
      "created_at": "2024-10-23T02:58:50.000Z",
      "taxonomy_id": "202a03c4-dcf1-432a-82b7-abecb2e019f7",
      "last_signal_at": "2026-08-04T17:20:32.000Z"
    }
  ]
}

Exécutez la commande pour lancer l'entraînement du modèle à l'aide des données générées. Notez l'identifiant.

Exemple de commande.

curl -X 'POST' \
  'https://us-east.instructlab.ibm.com/v1/models' \
  -H 'accept: application/json' \
  -H 'Content-Type: application/json' \
  -d '{
  "name": "example-model-1",
  "data_id": "add785e6-a8c3-4f5f-ab89-c506a3f115da"
}'

Exemple de sortie.

{
  "id": "baa8cfb5-e306-4e15-869d-735b74b1919d",
  "name": "example-model-1",
  "state": "",
  "status": "queued",
  "created_at": "2024-10-23T02:58:50.000Z",
  "last_signal_at": "2026-08-04T17:20:32.000Z",
  "data_id": "add785e6-a8c3-4f5f-ab89-c506a3f115da",
  "base_model": "granite-7b",
  "taxonomy_id": "202a03c4-dcf1-432a-82b7-abecb2e019f7",
  "model_metrics": {
    "mmlu": {
      "overall_average": 0.3,
      "scores": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      }
    },
    "mmlu_branch": {
      "error_rate": 0.4,
      "improvements": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      },
      "regressions": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      },
      "no_change": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      }
    },
    "mt_bench": {
      "overall_average": 0.8,
      "error_rate": 0.6,
      "scores": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      }
    },
    "mt_bench_branch": {
      "error_rate": 0.4,
      "improvements": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      },
      "regressions": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      },
      "no_change": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      }
    }
  }
}

Vérifiez les détails relatifs à la génération de vos données. Indiquez l'identifiant du modèle. L'état est queued, puis running. Attendez que l'état soit completed. Ce processus peut prendre quelques minutes ou plusieurs heures.

Exemple de commande.

curl -X 'GET' \
  'https://us-east.instructlab.ibm.com/v1/models/baa8cfb5-e306-4e15-869d-735b74b1919d' \
  -H 'accept: application/json'

Exemple de sortie.

{
  "id": "baa8cfb5-e306-4e15-869d-735b74b1919d",
  "name": "example-model-1",
  "state": "",
  "status": "queued",
  "created_at": "2024-10-23T02:58:50.000Z",
  "last_signal_at": "2026-08-04T17:20:32.000Z",
  "data_id": "add785e6-a8c3-4f5f-ab89-c506a3f115da",
  "base_model": "granite-7b",
  "taxonomy_id": "202a03c4-dcf1-432a-82b7-abecb2e019f7",
  "model_metrics": {
    "mmlu": {
      "overall_average": 0.3,
      "scores": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      }
    },
    "mmlu_branch": {
      "error_rate": 0.4,
      "improvements": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      },
      "regressions": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      },
      "no_change": {
        "additionalProp1": 1,
        "additionalProp3": 3,
        "additionalProp2": 2
      }
    },
    "mt_bench": {
      "overall_average": 0.8,
      "error_rate": 0.6,
      "scores": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      }
    },
    "mt_bench_branch": {
      "error_rate": 0.4,
      "improvements": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      },
      "regressions": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      },
      "no_change": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      }
    }
  }
}

Lorsque l'état est completed, dans le compartiment Object Storage, un répertoire trained_models est créé et contient les journaux nécessaires au dépannage.

Que contient mon compartiment Object Storage après la formation?

Une fois le modèle entraîné, votre compartiment Object Storage contient un répertoire trained models comprenant les fichiers suivants.

Artifacts: Ces fichiers contiennent les données des points de contrôle des phases 1 et 2, ainsi que le modèle pour chaque époque.
Eval: Ces fichiers contiennent les indicateurs d'évaluation pour les benchmarks mt_bench_branch mmlu, mmlu_branch, et mt_bench.
Logs: Ces fichiers contiennent les journaux d'exécution d' Red Hat AI Inference ainsi que des informations sur le système.
Model: Ces fichiers contiennent le modèle final généré au format safetensors. Le contenu de ce répertoire est utilisé par le modèle.

Étape suivante ?

Facultatif : vous pouvez déployer le modèle.