工行专利:基于问题和要素,拼接生成提示词引导大模型回答
木子剑移动支付网2024/9/26 11:44:26

7月5日,工商银行申请的一项名为“提示词生成方法、装置、设备、介质和程序产品”的专利公布。其申请于2024年3月21日,涉及人工智能领域。

方法包括:响应于用户输入的问题,确定问题所属的任务类型,并提取问题中的N个关键词;基于任务类型和N个关键词,得到M个提示词要素,N、M皆为大于或等于1的整数;基于问题和M个提示词要素,拼接生成待输入至大语言模型的提示词,其中,大语言模型被配置为响应于提示词回答问题。

以下是对上述方法中一些步骤的进一步分解:

确定问题所属的任务类型,具体包括:将问题输入预先训练的意图识别模型,得到意图识别结果;基于意图识别结果确定任务类型。

提取问题中的N个关键词,具体包括:获取为任务类型预先配置的槽位信息,槽位信息指示了待提取的关键词类型;基于槽位信息,提取匹配关键词类型的N个关键词。

M个提示词要素包括角色要素。基于任务类型和N个关键词,得到M个提示词要素包括:获取为任务类型预先配置的角色信息,其中,角色信息包括对特定人物角色的自然语言描述内容;基于对特定人物角色的自然语言描述内容得到角色要素。

M个提示词要素包括背景知识要素。基于任务类型和N个关键词,得到M个提示词要素还包括:确定任务类型对应的业务,其中,预先配置有任务类型与业务之间的对应关系,不同任务类型对应不同的业务;基于任务类型对应的业务和N个关键词,从第一知识库中得到候选问答信息,其中,第一知识库基于任务类型对应业务的历史数据预先构建得到;基于候选问答信息得到背景知识要素。

关键词类型包括专有类型,M个提示词要素包括先验知识要素。基于任务类型和N个关键词,得到M个提示词要素还包括:从N个关键词确定属于专有类型的至少一个专有关键词,其中,专有类型与任务类型对应业务相匹配,专有关键词包括任务类型对应业务的专有名词;获取每个专有关键词的定义;基于每个专有关键词的定义得到先验知识要素。

M个提示词要素包括扩增要素。基于任务类型和N个关键词,得到M个提示词要素还包括:对专有类型之外的至少一个关键词进行扩增,得到扩增内容,其中,扩增包括同义扩增和/或近义扩增;基于扩增内容得到扩增要素。

M个提示词要素包括要求要素。基于任务类型和N个关键词,得到M个提示词要素还包括:获取为任务类型预先配置的至少一条要求条目,要求条目包括对大语言模型所输出问题答案的约束条件;基于至少一条要求条目得到要求要素。

说明书提到该发明的背景为,依托大语言模型的理解生成能力,可在垂直领域内赋能,帮助更快地查找办理业务所需的知识,也能更加规范地处理日常业务。提示词的质量决定大语言模型输出答案是否符合要求。根据业界实践经验,好的提示词对模型问答效果的提升是十分显著的。

但是,相关人员由于缺少技术背景,以及对提示词效果并没有实践的经验,难以输入合理的提示词,导致无法快速准确地令大语言模型输出期望的答案。

该发明则旨在解决上述问题。说明书还提到,拼接生成的提示词把问题本身和相关线索全面地反馈给大语言模型,以此引导模型产生回答。

本文为作者授权发布,不代表移动支付网立场,转载请注明作者及来源,未按照规范转载者,移动支付网保留追究相应责任的权利。

展开全文
相关阅读
资讯查询取消