為檢索服務配置人工智慧模型

檢索服務 watsonx.data 允許管理員設定基礎模型，用於驅動基於檢索的任務，例如文字轉SQL、問答系統及問答增強（RAG）。 在執行個體層級，您可以根據授權與工作負載需求，在花崗岩（預設）、羊駝與GPT模型之間進行選擇。

程序

  1. 登入 watsonx.data 控制台。

  2. 從導覽選單中，選擇「設定」並點擊「檢索服務模型」磁磚。

  3. 在檢索服務區段中，請選擇下列可用的AI模型之一：

    • granite-3-8b-instruct
    • llama-3-3-70b-instruct
    • gpt-oss-120b


    若要 gpt-oss-120b 使用檢索服務，您必須先將模型部署於多倫多區域。 詳細說明請參閱 《按需部署基礎模型（快速路徑）》。

  4. 出現一個確認對話框，請點擊「選取」。

  5. 在「文字轉SQL」下，請選擇以下可用的AI模型之一：

    • granite-3-8b-instruct
    • llama-3-3-70b-instruct

  6. 出現一個確認對話框，請點擊「選取」。