ベースLLMの設定

watsonx Assistant テキスト、画像、その他の種類のコンテンツを生成するために使用できる、さまざまな事前構築されたAIモデルとアルゴリズムを含んでいます。これらのモデルは、さまざまな方法でカスタマイズおよび組み合わせることができ、より洗練された強力な生成型AIアプリケーションを作成することができます。

生成AIページの ベース大規模言語モデル（LLM）セクションでは、アシスタント用の大規模言語モデルの設定をサポートします。 LLMにより、カスタムメイドの会話ステップを一切必要とせずに、お客様の顧客はアシスタントとシームレスにやりとりすることができます。アシスタントの既存のアクションにベースLLM機能を有効にすることで、会話能力を向上させることができます。

Base LLM 構成では、以下の操作が可能です

アシスタントに大規模言語モデルを選択する

貴社の企業生態系に適したLLMを選択するには、以下の手順に従ってください

ホーム > Generative AI.
ベースの大型言語モデル（LLM）セクションで 、「モデルを選択」ドロップダウンから大型言語モデルを選択します。

LLMの説明表

次の表は、 watsonx Assistant がサポートするLLMの一覧です。

アシスタントの法学修士号
LLMモデル	説明
`ibm/granite-13b-chat-v2` 引っ込み思案	Granite 13 Billion チャット V2 (`granite-13b-chat-v2`) モデルは、事前学習済みの Granite Base 13 Billion Base V2 (`granite-13b-base-v2`) モデルから初期化された、チャットに特化したモデルです。 `granite-13b-base-v2` は、 2.5T 以上のトークンを使用して学習されています。 IBM 生成型AI 大規模言語基盤モデルは、大量のデータを対象に、徹底した事前処理と綿密な分析を行った上でトレーニングされた、エンタープライズレベルの英語モデルです。
`ibm/granite-13b-instruct-v2`	Granite 13 Billion Instruct V2 (`granite.13b.instruct.v2`) モデルは、事前学習済みの Granite Base 13 Billion Base V2 (`granite.13b.base.v2`) モデルから初期化された、命令調整型のバリエーションです。 `granite.13b.base.v2` は、 2.5T トークン以上を使用して学習されています。 IBM 生成型AI 大規模言語基盤モデルは、大量のデータを対象に、徹底した事前処理と綿密な分析を行った上でトレーニングされた、エンタープライズレベルの英語モデルです。
`ibm/granite-3-8b-instruct`	Granite-3.0-8B-Instruct 8B パラメータモデルは、寛容なライセンスのオープンソース命令データセットと社内収集の合成データセットを組み合わせ、から微調整したものです。 Granite-3.0-8B-Base このモデルは一般的な指示に対応するように設計されており、ビジネスアプリケーションを含む複数のドメインのエージェントを構築するために使用することができます。
`ibm/granite-3-2b-instruct`	Granite-3.0-2B-Instruct 2B パラメータモデルは、オープンソースとプロプライエタリな命令データの組み合わせに寛容なライセンスを適用したを微調整した、軽量でオープンソースのものです。 Granite-3.0-2B-Base このモデルは一般的な指示に対応するように設計されており、ビジネスアプリケーションを含む複数のドメインのエージェントを構築するのに使用できます。

迅速な指示を追加する

アシスタントに即座に指示を追加することで、より洗練された応答を行うようLLMに指示することができます。 LLMの迅速な指示により、会話が明確かつ具体的に導かれ、行動の最終目標を達成することができます。以下の手順に従って、プロンプト指示を追加してください

ホーム > Generative AI.
プロンプトの指示を追加するセクションで、 [プロンプトの指示を追加] をクリックして、 [プロンプトの指示] フィールドを表示します。
プロンプト指示の欄に、プロンプト指示を入力してください。

プロンプトの指示フィールドに入力できる文字数は最大1,000文字です。

アシスタントの応答動作を選択する

アシスタントの応答動作を設定し、事前に読み込んだ内容に基づく応答を行うようにすることができます。設定可能な応答動作は次のとおりです

会話型検索 (Conversational search)

会話型検索を使用するには、検索統合を設定し、会話型検索を有効にする。

オフに切り替える ：会話型検索は、ルーティング優先パスでそれを呼び出したプロセスを無効にする。検索機能そのものを無効にしているわけではない。

会話型検索に対応しているのは、PlusプランまたはEnterpriseプランのみです。 2024年6月1日より、プラスまたはエンタープライズプランに加えて会話型検索機能を使用する場合は、追加料金が発生します。料金プランの詳細については、料金プランをご覧ください。用語の詳細については、「用語」を参照してください。

会話型検索では、LLMは検索統合時にあらかじめ読み込まれたコンテンツを使用して、顧客の問い合わせに対応します。

会話型検索でサポートされている言語

英語以外の言語（フランス語、スペイン語、ドイツ語、ブラジルポルトガル語など）でも、会話型検索をご利用いただけます。自分の言語で妥当な結果が得られていることを確認するためにテストを行うことができます。