您將達成的目標

在本教學中，您將執行以下任務：

• 設定您的 IBM Cloud 帳戶和專案。
• 向推論 API 進行驗證。
• 利用基礎模型生成您的第一個聊天對話完成內容。
• 瞭解如何使用您自己的資料來客製化模型的下一步驟。

開始之前

請確認您已備妥以下項目：

• 「隨用隨付」或「訂閱制」的 IBM Cloud 帳戶。 不支援試用帳號。 如需更多資訊或欲升級您的帳戶，請參閱「帳戶類型」。

• Red Hat AI Inference 專案。

• 在「Red Hat AI Inference」服務中，具備「Writer」角色或更高權限。 如需更多資訊，請參閱《 管理 IAM 存取權限 》。

取得您的專案 ID 和 API 端點

所有 API 請求均需提供您的專案 ID。

1. 前往 Red Hat AI Inference 專案頁面。

2. 開啟您的專案。

3. 請複製您的專案 ID，並將其保存起來，以便進行後續步驟。

https://us-east.rhai.ibm.com/v1/projects/<project_id>/inference

對 API 進行驗證

在與基礎模型進行互動之前，您需要對 API 請求進行身份驗證。 您可以使用持有人憑證或 IBM Cloud API 金鑰。 本教學將說明如何搭配服務 ID 與 API 金鑰，以程式化方式進行存取。 有關使用 Bearer 憑證的更多資訊，請參閱「使用 Bearer 憑證進行驗證」。

探索可選機型

不同的基礎模型各有其優勢，因此仔細檢視專案中可用的模型至關重要。

請執行以下 API 呼叫，以列出所有可用的模型。 請將 <project_id> 替換為您的專案 ID，並將 <api_key> 替換為您的服務 ID API 金鑰：

curl -L 'https://us-east.rhai.ibm.com/v1/projects/<project_id>/inference/models' \
  -H 'Accept: application/json' \
  -H "Authorization: Bearer <api_key>"

from openai import OpenAI
client = OpenAI(
  api_key="<api_key>",
  base_url="https://us-east.rhai.ibm.com/v1/projects/<project_id>/inference",
)
models = client.models.list()
print(models)

此回應會列出所有可供使用的模型，並附上其功能相關的資訊。 您可以嘗試不同的模型，以找出最符合您使用情境的那一個。

生成您的第一個聊天完成內容

現在，請向模型發送訊息，並接收由 AI 生成的回覆。

請執行以下 API 呼叫，並將 <project_id> 替換為您的專案 ID，將 <api_key> 替換為您的服務 ID API 金鑰：

curl https://us-east.rhai.ibm.com/v1/projects/<project_id>/inference/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer <api_key>" \
  -d '{
    "model": "granite-4-0-h-small",
    "messages": [
      {
        "role": "developer",
        "content": "You are a helpful assistant"
      },
      {
        "role": "user",
        "content": "Hello! Tell me about yourself"
      }
    ]
  }'

from openai import OpenAI
client = OpenAI(
  api_key="<api_key>",
  base_url="https://us-east.rhai.ibm.com/v1/projects/<project_id>/inference",
)
completion = client.chat.completions.create(
  model="granite-4-0-h-small",
  messages=[
    {"role": "developer", "content": "You are a helpful assistant."},
    {"role": "user", "content": "Hello! Tell me about yourself"}
  ]
)
print(completion.choices[0].message)

您應該會收到模型發來的自我介紹訊息。

下一步

既然您已成功開始使用推論功能，接下來您可以進行以下操作：