Modelli di addestramento per Inferenza AI di Red Hat

Addestra il tuo modello sui dati generati, quindi testalo per verificare i risultati. Scopri di più su cosa sia la formazione.

Non è possibile trasmettere al modello informazioni o file di configurazione ai fini della messa a punto.

Red Hat AI Inference Le funzionalità di allineamento dei modelli, generazione di dati sintetici e gestione della tassonomia sono obsolete e saranno rimosse il 25 settembre 2026. Per proseguire con i flussi di lavoro di personalizzazione e allineamento dei modelli, esegui la migrazione a Red Hat® OpenShift® AI On OpenShift. Scopri di più sull'intelligenza artificiale di Red Hat® OpenShift®.

Prerequisiti

Prepara la tua tassonomia
Aggiungi la tassonomia tar.gz al tuo bucket Object Storage. È possibile utilizzare la CLI o l'interfaccia utente.
Genera dati dalla tua tassonomia.

Allineamento dei modelli tramite la console

Dalla pagina "Progetti" di Red Hat AI Inference, fare clic sul proprio progetto > Modelli allineati > Allinea.
Inserisci un nome alfanumerico per il modello e seleziona i dati di addestramento da utilizzare.
Facoltativo: verificare il costo stimato indicato prima di avviare la procedura di allineamento.
Fare clic su " Allinea ". Lo stato è queued, quindi running. Attendere che lo stato diventi “ completed ”. Questo processo potrebbe richiedere da pochi minuti a diverse ore. Una volta completato l'allineamento, nel bucket Object Storage viene creata una directory denominata " trained_models " contenente i log utili per la risoluzione dei problemi.

Addestramento dei modelli tramite l'interfaccia a riga di comando (CLI)

Recupera l'ID dei dati da utilizzare.
```
ibmcloud ilab data list
```
Esegui il comando per avviare l'addestramento del modello con i dati generati. Prendi nota dell'ID.
```
ibmcloud ilab model train --name testmodel --data-id DATA_ID
```
Controlla i dettagli relativi alla generazione dei tuoi dati. Inserisci l'ID del modello. Lo stato è queued, quindi running. Attendere che lo stato diventi “ completed ”. Questo processo potrebbe richiedere da pochi minuti a diverse ore. Quando lo stato è " completed" nel bucket " Object Storage ", viene creata una directory " trained_models " contenente i log utili per la risoluzione dei problemi.
```
ibmcloud ilab model get --id MODEL_ID
```

Opzionale: quando lo stato è “ completed ”, è possibile consultare alcune metriche, come le stime relative ai token, per calcolare il costo stimato.

Esempio di comando model get con l'opzione --output json .

ibmcloud ilab model get --id daef9836-631f-4686-ad18-e0e6a0910f5d --output json

Esempio di output JSON

{
  "base_model": "granite-3.1-8b-starter-v2.1",
  "created_at": "2026-08-04T16:06:05.000Z",
  "data_id": "8b1433c0-e375-4b00-b36d-2ad00697014e",
  "id": "daef9836-631f-4686-ad18-e0e6a0910f5d",
  "last_signal_at": "2026-08-04T17:20:32.000Z",
  "model_metrics": {
    "mmlu": {
      "overall_average": 0.51,
      "scores": {
        "mmlu_abstract_algebra": 0.3,
        "mmlu_anatomy": 0.43,
        "mmlu_astronomy": 0.49
      }
    },
    "mt_bench": {
      "error_rate": 0.01,
      "overall_average": 6.86,
      "scores": {
        "turn_one": 7.25,
        "turn_two": 6.47
      }
    },
    "mt_bench_branch": {
      "error_rate": 0.01,
      "improvements": {
        "compositional_skills/STEM/math/time_series/qna.yaml": 8.67,
        "compositional_skills/extraction/invoice/csv/qna.yaml": 8.4
      },
      "no_change": {
        "compositional_skills/roleplay/explain_like_i_am/primary_schooler/qna.yaml": 0,
        "compositional_skills/writing/freeform/technical/proposal/qna.yaml": 0
      },
      "regressions": {
        "compositional_skills/extraction/inference/qualitative/sentiment/qna.yaml": -9,
        "compositional_skills/extraction/information/named_entities/places/qna.yaml": -9
      }
    },
    "tokens": {
      "training_phases": {}
    }
  },
  "name": "test",
  "state": "completed",
  "status": "completed",
  "taxonomy_id": "e62ccea5-97e6-4568-86bf-2f359987b115"
}

Addestramento dei modelli tramite l'API

Recupera l'ID dei dati da utilizzare.

Comando di esempio.

curl -X 'GET' \
  'https://us-east.instructlab.ibm.com/v1/data' \
  -H 'accept: application/json'

Output di esempio.

{
  "data": [
    {
      "id": "add785e6-a8c3-4f5f-ab89-c506a3f115da",
      "name": "example-data-1",
      "state": "",
      "status": "queued",
      "created_at": "2024-10-23T02:58:50.000Z",
      "taxonomy_id": "202a03c4-dcf1-432a-82b7-abecb2e019f7",
      "last_signal_at": "2026-08-04T17:20:32.000Z"
    }
  ]
}

Esegui il comando per avviare l'addestramento del modello con i dati generati. Prendi nota dell'ID.

Comando di esempio.

curl -X 'POST' \
  'https://us-east.instructlab.ibm.com/v1/models' \
  -H 'accept: application/json' \
  -H 'Content-Type: application/json' \
  -d '{
  "name": "example-model-1",
  "data_id": "add785e6-a8c3-4f5f-ab89-c506a3f115da"
}'

Output di esempio.

{
  "id": "baa8cfb5-e306-4e15-869d-735b74b1919d",
  "name": "example-model-1",
  "state": "",
  "status": "queued",
  "created_at": "2024-10-23T02:58:50.000Z",
  "last_signal_at": "2026-08-04T17:20:32.000Z",
  "data_id": "add785e6-a8c3-4f5f-ab89-c506a3f115da",
  "base_model": "granite-7b",
  "taxonomy_id": "202a03c4-dcf1-432a-82b7-abecb2e019f7",
  "model_metrics": {
    "mmlu": {
      "overall_average": 0.3,
      "scores": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      }
    },
    "mmlu_branch": {
      "error_rate": 0.4,
      "improvements": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      },
      "regressions": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      },
      "no_change": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      }
    },
    "mt_bench": {
      "overall_average": 0.8,
      "error_rate": 0.6,
      "scores": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      }
    },
    "mt_bench_branch": {
      "error_rate": 0.4,
      "improvements": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      },
      "regressions": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      },
      "no_change": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      }
    }
  }
}

Controlla i dettagli relativi alla generazione dei tuoi dati. Inserisci l'ID del modello. Lo stato è queued, quindi running. Attendere che lo stato diventi “ completed ”. Questo processo potrebbe richiedere da pochi minuti a diverse ore.

Comando di esempio.

curl -X 'GET' \
  'https://us-east.instructlab.ibm.com/v1/models/baa8cfb5-e306-4e15-869d-735b74b1919d' \
  -H 'accept: application/json'

Output di esempio.

{
  "id": "baa8cfb5-e306-4e15-869d-735b74b1919d",
  "name": "example-model-1",
  "state": "",
  "status": "queued",
  "created_at": "2024-10-23T02:58:50.000Z",
  "last_signal_at": "2026-08-04T17:20:32.000Z",
  "data_id": "add785e6-a8c3-4f5f-ab89-c506a3f115da",
  "base_model": "granite-7b",
  "taxonomy_id": "202a03c4-dcf1-432a-82b7-abecb2e019f7",
  "model_metrics": {
    "mmlu": {
      "overall_average": 0.3,
      "scores": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      }
    },
    "mmlu_branch": {
      "error_rate": 0.4,
      "improvements": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      },
      "regressions": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      },
      "no_change": {
        "additionalProp1": 1,
        "additionalProp3": 3,
        "additionalProp2": 2
      }
    },
    "mt_bench": {
      "overall_average": 0.8,
      "error_rate": 0.6,
      "scores": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      }
    },
    "mt_bench_branch": {
      "error_rate": 0.4,
      "improvements": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      },
      "regressions": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      },
      "no_change": {
        "additionalProp1": 1,
        "additionalProp2": 2,
        "additionalProp3": 3
      }
    }
  }
}

Quando lo stato è " completed" nel bucket " Object Storage ", viene creata una directory " trained_models " contenente i log utili per la risoluzione dei problemi.

Cosa c'è nel mio cestino " Object Storage " dopo l'allenamento?

Una volta addestrato il modello, il bucket Object Storage conterrà una directory denominata trained models contenente i seguenti file.

Artifacts: Questi file contengono i dati dei checkpoint della Fase 1 e della Fase 2, nonché il modello relativo a ciascuna epoca.
Eval: Questi file contengono i parametri di valutazione relativi ai benchmark mmlu, mmlu_branch, mt_bench e mt_bench_branch.
Logs: Questi file contengono i log di esecuzione di Red Hat AI Inference e i dettagli di sistema.
Model: Questi file contengono il modello finale generato in formato " safetensors ". I contenuti di questa directory vengono utilizzati dal modello.

Operazioni successive

Facoltativo: è possibile implementare il modello.