[发明专利]对用户问题进行意图识别的方法及装置在审
申请号: | 201910553116.0 | 申请日: | 2019-06-25 |
公开(公告)号: | CN110413746A | 公开(公告)日: | 2019-11-05 |
发明(设计)人: | 蒋亮;温祖杰;梁忠平;张家兴 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
主分类号: | G06F16/332 | 分类号: | G06F16/332;G06F16/33;G06F16/35;G06F17/27 |
代理公司: | 北京亿腾知识产权代理事务所(普通合伙) 11309 | 代理人: | 陈霁;周良玉 |
地址: | 英属开曼群岛大开*** | 国省代码: | 开曼群岛;KY |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用户问题 关联信息 意图识别 预测模型 特征提取 准确度 语料 拼接 文本 方法和装置 拼接处理 输出结果 用户信息 预测 客服 情景 通用 优化 | ||
本说明书实施例提供一种对用户问题进行意图识别的方法和装置,根据该方法的一个实施方式,获取用户问题,同时获取用户问题的关联信息,关联信息包括与用户提出问题的情景相关的信息,然后对用户问题和关联信息进行拼接处理,得到拼接文本,再将拼接文本输入预先训练的预测模型,以根据预测模型的输出结果确定用户问题对应的意图类别,其中,预测模型中的至少一个特征提取层,预先在第一模型中依次通过通用语料、客服语料,按照预定预测任务进行预训练,第一模型包括至少一个特征提取层和至少一个预测层。由于利用更多的用户信息,并对模型的准确度进行优化,从而可以提高对用户问题中包含的意图识别的准确度。
技术领域
本说明书一个或多个实施例涉及计算机技术领域,尤其涉及通过计算机对用户问题的意图进行识别的方法和装置。
背景技术
随着人工智能的发展,智能问答系统的应用越来越普遍。例如,在智能客服领域,当用户提出问题时,通过智能问答系统,可以自动对用户问题进行语义分析,为用户提供答案。常规技术中,往往基于传统方法或者一些简单模型对用户问题进行分类,分类效果不理想。另外,用户个人认知水平及表达方式各不相同,单一地分析当前语句,或者用户问题较模糊,难以进行准确度的分类。
发明内容
本说明书一个或多个实施例描述了一种对用户问题进行意图识别的方法和装置,可以解决背景技术中提到的至少一个问题。
根据第一方面,提供了一种对用户问题进行意图识别的方法,包括:获取所述用户问题,以及所述用户问题的关联信息,所述关联信息包括与用户提出问题的情景相关的信息;对所述用户问题和所述关联信息进行拼接处理,得到拼接文本;将所述拼接文本输入预先训练的预测模型,以根据所述预测模型的输出结果确定所述用户问题对应的意图类别,其中,所述预测模型包括至少一个特征提取层和一个分类器,所述至少一个特征提取层预先在第一模型中依次通过通用语料、客服语料,按照预定预测任务进行预训练,所述第一模型包括所述至少一个特征提取层和至少一个预测层。
在一个实施例中,所述关联信息包括场景信息、上文信息,所述将所述用户问题和所述关联信息进行拼接,得到拼接文本包括,将所述场景信息、所述上文信息、所述用户问题依次拼接。
在一个实施例中,所述第一模型是包括预测语料中随机覆盖的字符及两个语句的上下文关系的多任务模型,所述第一模型预先通过以下方式训练:获取通用语料对应的多个第一训练样本,训练所述第一模型,其中,各个第一训练样本分别对应从通用语料中抽取的两个语句组成的语句对,各个语句对中被随机覆盖掉的预定百分比的字符,并对应有根据抽取位置确定的是否上下文关系的标签;获取客服语料对应的各个第二训练样本,进一步对经过通用语料训练后的第一模型进行训练,其中,各个第二训练样本分别对应从客服语料中抽取的两个语句组成的语句对。
在进一步的实施例中,所述预测模型通过以下方式训练:获取经过客服语料训练后的所述第一模型中的至少一个特征提取层,并将所获取的至少一个特征提取层和预先确定的分类器组合,形成预测模型;获取多个用户问题分别对应的各个第三训练样本,其中,各个第三训练样本对应有相应的用户问题及其关联信息的拼接文本,以及预先标注的意图类别标签;依次将各个第三训练样本对应的拼接文本输入预测模型,并将预测模型的输出结果和对应的意图类别标签的对比调整模型参数,从而对预测模型进行训练。
在一个实施例中,所述方法还包括:根据所述意图类别从预先存储的答案库中为所述用户问题匹配对应的答案;将匹配到的答案反馈给用户。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910553116.0/2.html,转载请声明来源钻瓜专利网。