Modelos de formación para Inferencia de IA de Red Hat

Entrena tu modelo con datos generados y, a continuación, pruébalo para verificar los resultados. Más información sobre en qué consiste la formación.

No es posible pasar información de configuración ni archivos al modelo para su ajuste fino.

Red Hat AI Inference Las funciones de alineación de modelos, generación de datos sintéticos y gestión de taxonomías han quedado obsoletas y se eliminarán el 25 de septiembre de 2026. Para continuar con los flujos de trabajo de personalización y alineación de modelos, migra a Red Hat® OpenShift® AI On OpenShift. Más información sobre la IA de Red Hat® OpenShift®.

Requisitos previos

Prepara tu taxonomía
Añade la taxonomía tar.gz a tu depósito de Object Storage. Puede utilizar la CLI o la interfaz de usuario.
Genera datos a partir de tu taxonomía.

Alineación de modelos mediante la consola

En la página Proyectos de Red Hat AI Inference, haz clic en tu proyecto > Modelos alineados > Alinear.
Introduce un nombre alfanumérico para el modelo y selecciona los datos de entrenamiento que se van a utilizar.
Opcional: Revisa el coste estimado que se te facilita antes de iniciar el proceso de alineación.
Haz clic en Alinear. El estado es queued, y luego running. Espera a que el estado sea completed. Este proceso puede tardar unos minutos o unas horas. Cuando se completa la alineación, en el depósito Object Storage se crea un directorio trained_models con los registros para la resolución de problemas.

Modelos de formación mediante la CLI

Obtén el identificador de los datos que vas a utilizar.
```
ibmcloud ilab data list
```
Ejecuta el comando para iniciar el entrenamiento del modelo con los datos generados. Anota el ID.
```
ibmcloud ilab model train --name testmodel --data-id DATA_ID
```
Comprueba los detalles de la generación de tus datos. Incluye el ID del modelo. El estado es queued, y luego running. Espera a que el estado sea completed. Este proceso puede tardar unos minutos o unas horas. Cuando el estado es completed, en el depósito Object Storage se crea un directorio trained_models con los registros para la resolución de problemas.
```
ibmcloud ilab model get --id MODEL_ID
```

Opcional: Cuando el estado es completed, puede consultar métricas, como las estimaciones de tokens, para calcular el coste estimado.

Ejemplo de comando model get con la opción --output json.

ibmcloud ilab model get --id daef9836-631f-4686-ad18-e0e6a0910f5d --output json

Ejemplo de salida en formato JSON

{
  "base_model": "granite-3.1-8b-starter-v2.1",
  "created_at": "2026-08-04T16:06:05.000Z",
  "data_id": "8b1433c0-e375-4b00-b36d-2ad00697014e",
  "id": "daef9836-631f-4686-ad18-e0e6a0910f5d",
  "last_signal_at": "2026-08-04T17:20:32.000Z",
  "model_metrics": {
    "mmlu": {
      "overall_average": 0.51,
      "scores": {
        "mmlu_abstract_algebra": 0.3,
        "mmlu_anatomy": 0.43,
        "mmlu_astronomy": 0.49
      }
    },
    "mt_bench": {
      "error_rate": 0.01,
      "overall_average": 6.86,
      "scores": {
        "turn_one": 7.25,
        "turn_two": 6.47
      }
    },
    "mt_bench_branch": {
      "error_rate": 0.01,
      "improvements": {
        "compositional_skills/STEM/math/time_series/qna.yaml": 8.67,
        "compositional_skills/extraction/invoice/csv/qna.yaml": 8.4
      },
      "no_change": {
        "compositional_skills/roleplay/explain_like_i_am/primary_schooler/qna.yaml": 0,
        "compositional_skills/writing/freeform/technical/proposal/qna.yaml": 0
      },
      "regressions": {
        "compositional_skills/extraction/inference/qualitative/sentiment/qna.yaml": -9,
        "compositional_skills/extraction/information/named_entities/places/qna.yaml": -9
      }
    },
    "tokens": {
      "training_phases": {}
    }
  },
  "name": "test",
  "state": "completed",
  "status": "completed",
  "taxonomy_id": "e62ccea5-97e6-4568-86bf-2f359987b115"
}

Modelos de formación mediante el uso de la API

Obtén el identificador de los datos que vas a utilizar.

Ejemplo de comando.

curl -X 'GET' \
  'https://us-east.instructlab.ibm.com/v1/data' \
  -H 'accept: application/json'

Ejemplo de resultado.

{
  "data": [
    {
      "id": "add785e6-a8c3-4f5f-ab89-c506a3f115da",
      "name": "example-data-1",
      "state": "",
      "status": "queued",
      "created_at": "2024-10-23T02:58:50.000Z",
      "taxonomy_id": "202a03c4-dcf1-432a-82b7-abecb2e019f7",
      "last_signal_at": "2026-08-04T17:20:32.000Z"
    }
  ]
}

Ejecuta el comando para iniciar el entrenamiento del modelo con los datos generados. Anota el ID.

Ejemplo de comando.

curl -X 'POST' \
  'https://us-east.instructlab.ibm.com/v1/models' \
  -H 'accept: application/json' \
  -H 'Content-Type: application/json' \
  -d '{
  "name": "example-model-1",
  "data_id": "add785e6-a8c3-4f5f-ab89-c506a3f115da"
}'

Ejemplo de resultado.

{
  "id": "baa8cfb5-e306-4e15-869d-735b74b1919d",
  "name": "example-model-1",
  "state": "",
  "status": "queued",
  "created_at": "2024-10-23T02:58:50.000Z",
  "last_signal_at": "2026-08-04T17:20:32.000Z",
  "data_id": "add785e6-a8c3-4f5f-ab89-c506a3f115da",
  "base_model": "granite-7b",
  "taxonomy_id": "202a03c4-dcf1-432a-82b7-abecb2e019f7",
  "model_metrics": {
    "mmlu": {
      "overall_average": 0.3,
      "scores": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      }
    },
    "mmlu_branch": {
      "error_rate": 0.4,
      "improvements": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      },
      "regressions": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      },
      "no_change": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      }
    },
    "mt_bench": {
      "overall_average": 0.8,
      "error_rate": 0.6,
      "scores": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      }
    },
    "mt_bench_branch": {
      "error_rate": 0.4,
      "improvements": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      },
      "regressions": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      },
      "no_change": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      }
    }
  }
}

Comprueba los detalles de la generación de tus datos. Incluye el ID del modelo. El estado es queued, y luego running. Espera a que el estado sea completed. Este proceso puede tardar unos minutos o unas horas.

Ejemplo de comando.

curl -X 'GET' \
  'https://us-east.instructlab.ibm.com/v1/models/baa8cfb5-e306-4e15-869d-735b74b1919d' \
  -H 'accept: application/json'

Ejemplo de resultado.

{
  "id": "baa8cfb5-e306-4e15-869d-735b74b1919d",
  "name": "example-model-1",
  "state": "",
  "status": "queued",
  "created_at": "2024-10-23T02:58:50.000Z",
  "last_signal_at": "2026-08-04T17:20:32.000Z",
  "data_id": "add785e6-a8c3-4f5f-ab89-c506a3f115da",
  "base_model": "granite-7b",
  "taxonomy_id": "202a03c4-dcf1-432a-82b7-abecb2e019f7",
  "model_metrics": {
    "mmlu": {
      "overall_average": 0.3,
      "scores": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      }
    },
    "mmlu_branch": {
      "error_rate": 0.4,
      "improvements": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      },
      "regressions": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      },
      "no_change": {
        "additionalProp1": 1,
        "additionalProp3": 3,
        "additionalProp2": 2
      }
    },
    "mt_bench": {
      "overall_average": 0.8,
      "error_rate": 0.6,
      "scores": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      }
    },
    "mt_bench_branch": {
      "error_rate": 0.4,
      "improvements": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      },
      "regressions": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      },
      "no_change": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      }
    }
  }
}

Cuando el estado es completed, en el depósito Object Storage se crea un directorio trained_models con los registros para la resolución de problemas.

¿Qué hay en mi depósito de Object Storage tras la formación?

Una vez entrenado el modelo, su depósito de Object Storage contiene un directorio trained models con los siguientes archivos.

Artifacts: Estos archivos contienen los datos de los puntos de control de la Fase 1 y la Fase 2, así como el modelo correspondiente a cada época.
Eval: Estos archivos contienen los parámetros de evaluación para las pruebas de rendimiento mt_bench_branch mmlu, mmlu_branch, mt_bench y.
Logs: Estos archivos contienen los registros de ejecución de Red Hat AI Inference y los detalles del sistema.
Model: Estos archivos contienen el modelo final generado en formato safetensors. El modelo utiliza el contenido de este directorio.

¿Qué hacer a continuación?

Opcional: Puede implementar el modelo.