用于……的训练模型 Red Hat AI 推理

使用生成的数据对模型进行训练，然后对模型进行测试以验证结果。进一步了解什么是培训。

无法将配置信息或文件传递给模型以进行微调。

Red Hat AI Inference 模型对齐、合成数据生成和分类管理功能已弃用，并将于 2026 年 9 月 25 日被移除。若要继续进行模型定制和对齐工作流，请迁移至 Red Hat® OpenShift® AI On OpenShift。了解有关 Red Hat® OpenShift® AI的更多信息。

先决条件

准备您的分类体系
将分类法 tar.gz 添加到您的 Object Storage 存储桶中。您可以使用命令行界面（ CLI ）或用户界面（ UI ）。
根据您的分类法生成数据。

使用控制台对齐模型

在“Red Hat AI Inference”的“项目 ”页面中，点击您的项目 > “对齐的模型” > “对齐”。
为模型输入一个字母数字名称，并选择要使用的训练数据。
可选：在开始对齐流程之前，请查看提供的预估费用。
单击 “对齐”。状态为 queued，然后是 running。等待状态变为 completed。此过程可能需要几分钟或几小时。对齐完成后，在 Object Storage 存储桶中会创建一个名为 trained_models 的目录，其中包含用于故障排除的日志。

使用命令行界面（CLI）训练模型

获取要使用的数据的 ID。
```
ibmcloud ilab data list
```
运行该命令，使用生成的数据开始训练模型。请记下该ID。
```
ibmcloud ilab model train --name testmodel --data-id DATA_ID
```
请检查您的数据生成详情。请包含该模型的ID。状态为 queued，然后是 running。等待状态变为 completed。此过程可能需要几分钟或几小时。当状态为“completed”时，会在 Object Storage 存储桶中创建一个 trained_models 目录，其中包含用于故障排除的日志。
```
ibmcloud ilab model get --id MODEL_ID
```

可选：当状态为 completed 时，您可以查看相关指标，例如代币估算值，用于计算预计成本。

model get 命令的示例，其中使用了 --output json 选项。

ibmcloud ilab model get --id daef9836-631f-4686-ad18-e0e6a0910f5d --output json

JSON 输出示例

{
  "base_model": "granite-3.1-8b-starter-v2.1",
  "created_at": "2026-08-04T16:06:05.000Z",
  "data_id": "8b1433c0-e375-4b00-b36d-2ad00697014e",
  "id": "daef9836-631f-4686-ad18-e0e6a0910f5d",
  "last_signal_at": "2026-08-04T17:20:32.000Z",
  "model_metrics": {
    "mmlu": {
      "overall_average": 0.51,
      "scores": {
        "mmlu_abstract_algebra": 0.3,
        "mmlu_anatomy": 0.43,
        "mmlu_astronomy": 0.49
      }
    },
    "mt_bench": {
      "error_rate": 0.01,
      "overall_average": 6.86,
      "scores": {
        "turn_one": 7.25,
        "turn_two": 6.47
      }
    },
    "mt_bench_branch": {
      "error_rate": 0.01,
      "improvements": {
        "compositional_skills/STEM/math/time_series/qna.yaml": 8.67,
        "compositional_skills/extraction/invoice/csv/qna.yaml": 8.4
      },
      "no_change": {
        "compositional_skills/roleplay/explain_like_i_am/primary_schooler/qna.yaml": 0,
        "compositional_skills/writing/freeform/technical/proposal/qna.yaml": 0
      },
      "regressions": {
        "compositional_skills/extraction/inference/qualitative/sentiment/qna.yaml": -9,
        "compositional_skills/extraction/information/named_entities/places/qna.yaml": -9
      }
    },
    "tokens": {
      "training_phases": {}
    }
  },
  "name": "test",
  "state": "completed",
  "status": "completed",
  "taxonomy_id": "e62ccea5-97e6-4568-86bf-2f359987b115"
}

使用 API 训练模型

获取要使用的数据的 ID。

示例命令。

curl -X 'GET' \
  'https://us-east.instructlab.ibm.com/v1/data' \
  -H 'accept: application/json'

示例输出。

{
  "data": [
    {
      "id": "add785e6-a8c3-4f5f-ab89-c506a3f115da",
      "name": "example-data-1",
      "state": "",
      "status": "queued",
      "created_at": "2024-10-23T02:58:50.000Z",
      "taxonomy_id": "202a03c4-dcf1-432a-82b7-abecb2e019f7",
      "last_signal_at": "2026-08-04T17:20:32.000Z"
    }
  ]
}

运行该命令，使用生成的数据开始训练模型。请记下该ID。

示例命令。

curl -X 'POST' \
  'https://us-east.instructlab.ibm.com/v1/models' \
  -H 'accept: application/json' \
  -H 'Content-Type: application/json' \
  -d '{
  "name": "example-model-1",
  "data_id": "add785e6-a8c3-4f5f-ab89-c506a3f115da"
}'

示例输出。

{
  "id": "baa8cfb5-e306-4e15-869d-735b74b1919d",
  "name": "example-model-1",
  "state": "",
  "status": "queued",
  "created_at": "2024-10-23T02:58:50.000Z",
  "last_signal_at": "2026-08-04T17:20:32.000Z",
  "data_id": "add785e6-a8c3-4f5f-ab89-c506a3f115da",
  "base_model": "granite-7b",
  "taxonomy_id": "202a03c4-dcf1-432a-82b7-abecb2e019f7",
  "model_metrics": {
    "mmlu": {
      "overall_average": 0.3,
      "scores": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      }
    },
    "mmlu_branch": {
      "error_rate": 0.4,
      "improvements": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      },
      "regressions": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      },
      "no_change": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      }
    },
    "mt_bench": {
      "overall_average": 0.8,
      "error_rate": 0.6,
      "scores": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      }
    },
    "mt_bench_branch": {
      "error_rate": 0.4,
      "improvements": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      },
      "regressions": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      },
      "no_change": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      }
    }
  }
}

请检查您的数据生成详情。请包含该模型的ID。状态为 queued，然后是 running。等待状态变为 completed。此过程可能需要几分钟或几小时。

示例命令。

curl -X 'GET' \
  'https://us-east.instructlab.ibm.com/v1/models/baa8cfb5-e306-4e15-869d-735b74b1919d' \
  -H 'accept: application/json'

示例输出。

{
  "id": "baa8cfb5-e306-4e15-869d-735b74b1919d",
  "name": "example-model-1",
  "state": "",
  "status": "queued",
  "created_at": "2024-10-23T02:58:50.000Z",
  "last_signal_at": "2026-08-04T17:20:32.000Z",
  "data_id": "add785e6-a8c3-4f5f-ab89-c506a3f115da",
  "base_model": "granite-7b",
  "taxonomy_id": "202a03c4-dcf1-432a-82b7-abecb2e019f7",
  "model_metrics": {
    "mmlu": {
      "overall_average": 0.3,
      "scores": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      }
    },
    "mmlu_branch": {
      "error_rate": 0.4,
      "improvements": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      },
      "regressions": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      },
      "no_change": {
        "additionalProp1": 1,
        "additionalProp3": 3,
        "additionalProp2": 2
      }
    },
    "mt_bench": {
      "overall_average": 0.8,
      "error_rate": 0.6,
      "scores": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      }
    },
    "mt_bench_branch": {
      "error_rate": 0.4,
      "improvements": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      },
      "regressions": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      },
      "no_change": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      }
    }
  }
}

当状态为“completed”时，会在 Object Storage 文件夹中创建一个名为 trained_models 的目录，其中包含用于故障排除的日志。

训练结束后，我的 Object Storage 桶里有什么？

训练模型后，您的 Object Storage 存储桶中将包含一个名为 trained models 的目录，其中包含以下文件。

Artifacts: 这些文件包含第一阶段和第二阶段的检查点数据，以及每个 epoch 的模型。
Eval: 这些文件包含 mmlu、mmlu_branch、mt_bench 和 mt_bench_branch 基准测试的评估指标。
Logs: 这些文件包含 Red Hat AI Inference 的执行日志和系统详细信息。
Model: 这些文件包含以 safetensors 格式生成的最终模型。该目录中的内容将由模型使用。

后续步骤？

可选：您可以部署该模型。