copyright: 年份: 2025 最后更新"2025-06-09"
子集:沃森助手
配置基础 LLM
watsonx Assistant 包括一系列预置的人工智能模型和算法,可用于生成文本、图像和其他类型的内容。 这些模型可以定制,并以各种方式进行组合,以创建更复杂、更强大的生成式人工智能应用程序。
生成式人工智能页面中的基础大型语言模型(LLM)部分可帮助您为您的助手配置大型语言模型。 LLMs使您的客户能够与助手无缝交互,无需任何定制的对话步骤。 您可以为助手中的现有操作启用Base LLM功能,从而提高其对话能力。
在Base LLM配置中,您可以执行以下操作:
为您的助手选择大型语言模型
要选择适合您企业生态系统的法学硕士,请执行以下步骤:
-
转到主页 > 生成人工智能。
-
在大型语言模型(LLM)部分,从 “选择模型”下拉菜单中选择大型语言模型。
法学硕士描述表
下表列出了 watsonx Assistant 支持的有限元模型(LLMs)列表。
法学硕士模型 | 描述 |
---|---|
ibm/granite-13b-chat-v2 撤回 |
Granite 13 Billion chat V2 (granite-13b-chat-v2 ) 模型是以预先训练好的 Granite Base 13 Billion Base V2 (granite-13b-base-v2 ) 模型为基础,以聊天为重点的变体。granite-13b-base-v2 使用了超过 2.5T 个标记进行训练。 IBM 生成式人工智能 大型语言基础模型是经过大量数据训练的企业级英语模型,这些数据经过密集的预处理和仔细的分析。 |
ibm/granite-13b-instruct-v2 |
Granite 13 Billion Instruct V2 (granite.13b.instruct.v2 ) 模型是从预先训练的 Granite Base 13 Billion Base V2 (granite.13b.base.v2 ) 模型初始化的指令调整变体。granite.13b.base.v2 使用超过 2.5T 个标记训练。 IBM 生成式人工智能 大型语言基础模型是经过大量数据训练的企业级英语模型,这些数据经过密集的预处理和仔细的分析。 |
ibm/granite-3-8b-instruct |
Granite-3.0-8B-Instruct 是一个 参数模型,它使用开源指令数据集与宽松许可和内部收集的合成数据集的组合,对 进行了微调。8B Granite-3.0-8B-Base 该模型旨在响应一般指令,可用于构建包括商业应用在内的多个领域的助手。 |
ibm/granite-3-2b-instruct |
Granite-3.0-2B-Instruct 是一个轻量级开源 参数模型,在开源和专有指令数据组合的基础上,通过宽松的许可协议对 进行了微调。2B Granite-3.0-2B-Base 该模型旨在响应一般指令,可用于构建包括商业应用在内的多个领域的助手。 |
添加即时说明
您可以通过添加即时指令来指导您的助手做出更得体的回应。 即时指令帮助LLM引导对话,使其清晰、具体,从而实现行动的最终目标。 请按照以下步骤添加提示说明:
-
转到主页 > 生成人工智能。
-
在 “添加提示说明”部分,点击 “添加说明” 查看 “提示说明”字段。
-
在提示说明栏中输入提示说明。
在提示说明字段中,您最多可以输入1000个字符。
选择助理的应答行为
您可以配置助手的应答行为,使其根据预加载的内容提供回复。 您可以配置的应答行为包括:
- 会话式搜索
切换为关闭:对话式搜索会禁用在路由优先级路径中调用它的进程。 您并没有禁用搜索功能本身。
只有Plus或Enterprise计划支持对话式搜索。 从2024年6月1日起,除Plus或Enterprise计划外,使用对话式搜索功能还需支付附加费用。 欲了解定价计划的更多信息,请参阅 定价计划。 有关条款的更多信息,请参阅 条款。
在对话式搜索中,LLM使用在 搜索整合 期间预加载的内容来响应客户的查询。
支持对话搜索的语言
您可以使用英语以外的其它语言进行对话式搜索,包括法语、西班牙语、德语和巴西葡萄牙语。 您可以测试一下,看看您的语言是否得到了合理的结果。