[发明专利]意图识别方法、装置、设备及存储介质在审
申请号: | 201910285223.X | 申请日: | 2019-04-10 |
公开(公告)号: | CN109992671A | 公开(公告)日: | 2019-07-09 |
发明(设计)人: | 孟振南 | 申请(专利权)人: | 出门问问信息科技有限公司 |
主分类号: | G06F16/36 | 分类号: | G06F16/36;G06F16/35;G06F17/27 |
代理公司: | 北京鼎承知识产权代理有限公司 11551 | 代理人: | 李伟波;韩德凯 |
地址: | 100094 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 输入序列 向量表示 神经网络 序列标注 意图识别 计算机可读存储介质 意图识别装置 存储介质 电子设备 图谱层 图谱 | ||
本公开提供了一种意图识别方法,包括:将输入序列输入知识图谱层,并基于所述知识图谱中的特征,生成所述输入序列的第一向量表示;将所述第一向量表示输入经预训练的第一神经网络层,以生成所述输入序列的第二向量表示;将所述第二向量表示输入第二神经网络层得到所述输入序列的第三向量表示,并且基于所述第三向量表示生成所述输入序列的序列标注结果;基于所述序列标注结果,获得与所述输入序列相关的一个或多个意图。本公开还提供了一种意图识别装置、电子设备及计算机可读存储介质。
技术领域
本公开涉及一种意图识别方法、意图识别方法装置、电子设备及计算机可读存储介质。
背景技术
现有的大多数模型都是使用语法分析树来分析句子依存关系,这个方法的好处是,可以快速解决常见的固定用户命令的解析,开始阶段的语法树创建比较容易。但是这个方法不足的地方在于,这种语法分析树构建起来非常复杂,需要大量人工介入,而且随着语法分析树越来越复杂的,人工已经不可能去维护了,只有语法树中规定的才可以解决,不在语法树中定义的命令,无法解析好,没有很好的泛化能力。
发明内容
为了解决上述技术问题中的至少一个,本公开提供了一种意图识别方法、意图识别装置、电子设备及可读存储介质。
根据本公开的一个方面,一种意图识别方法,包括如下步骤:将输入序列输入知识图谱层,并基于所述知识图谱中的特征,生成所述输入序列的第一向量表示;将所述第一向量表示输入经预训练的第一神经网络层,以生成所述输入序列的第二向量表示;将所述第二向量表示输入第二神经网络层得到所述输入序列的第三向量表示,并且基于所述第三向量表示生成所述输入序列的序列标注结果;以及,基于所述序列标注的结果获得与所述输入序列相关的一个或多个意图。
根据本公开的至少一个实施方式,所述方法还包括将所述第二向量表示输入第二神经网络得到所述输入序列的第三向量表示之后,将所述第三向量表示输入第三神经网络层,得到所述输入序列的序列标注结果。
根据本公开的至少一个实施方式,所述方法还包括在将所述输入序列输入知识图谱层之前,对输入序列进行编码,并将编码后的输入序列输入知识图谱层。
根据本公开的至少一个实施方式,所述第一神经网络层是采用双向语言模型进行预训练的,并包括针对序列标注任务的微调操作。
根据本公开的至少一个实施方式,所述方法还包括获取包括至少一个标签的标签集合,并且,所述序列标注结果包括将所述输入序列中的每个词标注上所述标签集合中的标签之一。
根据本公开的至少一个实施方式,所述第二神经网络层为双向长短期记忆网络,所述第二向量表示包括将所述输入序列中的每个词标注上所述标签列表中的标签之一的概率值。
根据本公开的至少一个实施方式,所述第三神经网络层为条件随机场。
根据本公开的另一方面,一种意图识别装置,包括:第一处理模块,将输入序列输入知识图谱层,并基于所述知识图谱中的特征,生成所述输入序列的第一向量表示;第二处理模块,将所述第一向量表示输入经预训练的第一神经网络层,以生成所述输入序列的第二向量表示;以及第三处理模块,将所述第二向量表示输入第二神经网络层得到所述输入序列的第三向量表示,并且基于所述第三向量表示生成所述输入序列的序列标注结果;以及,第四处理模块,用于基于所述序列标注结果获得与所述输入序列相关的一个或多个意图。
根据本公开的再一方面,一种电子设备,包括:存储器,存储器存储可执行指令;以及处理器,处理器执行存储器存储的可执行指令,使得处理器执行上述的方法。
根据本公开的又一方面,一种可读存储介质,可读存储介质中存储有可执行指令,可执行指令被处理器执行时用于实现上述的方法。
附图说明
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于出门问问信息科技有限公司,未经出门问问信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910285223.X/2.html,转载请声明来源钻瓜专利网。