[发明专利]意图识别方法、装置、设备及存储介质在审

专利信息
申请号: 201910285223.X 申请日: 2019-04-10
公开(公告)号: CN109992671A 公开(公告)日: 2019-07-09
发明(设计)人: 孟振南 申请(专利权)人: 出门问问信息科技有限公司
主分类号: G06F16/36 分类号: G06F16/36;G06F16/35;G06F17/27
代理公司: 北京鼎承知识产权代理有限公司 11551 代理人: 李伟波;韩德凯
地址: 100094 北京市海淀区*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 输入序列 向量表示 神经网络 序列标注 意图识别 计算机可读存储介质 意图识别装置 存储介质 电子设备 图谱层 图谱
【说明书】:

本公开提供了一种意图识别方法,包括:将输入序列输入知识图谱层,并基于所述知识图谱中的特征,生成所述输入序列的第一向量表示;将所述第一向量表示输入经预训练的第一神经网络层,以生成所述输入序列的第二向量表示;将所述第二向量表示输入第二神经网络层得到所述输入序列的第三向量表示,并且基于所述第三向量表示生成所述输入序列的序列标注结果;基于所述序列标注结果,获得与所述输入序列相关的一个或多个意图。本公开还提供了一种意图识别装置、电子设备及计算机可读存储介质。

技术领域

本公开涉及一种意图识别方法、意图识别方法装置、电子设备及计算机可读存储介质。

背景技术

现有的大多数模型都是使用语法分析树来分析句子依存关系,这个方法的好处是,可以快速解决常见的固定用户命令的解析,开始阶段的语法树创建比较容易。但是这个方法不足的地方在于,这种语法分析树构建起来非常复杂,需要大量人工介入,而且随着语法分析树越来越复杂的,人工已经不可能去维护了,只有语法树中规定的才可以解决,不在语法树中定义的命令,无法解析好,没有很好的泛化能力。

发明内容

为了解决上述技术问题中的至少一个,本公开提供了一种意图识别方法、意图识别装置、电子设备及可读存储介质。

根据本公开的一个方面,一种意图识别方法,包括如下步骤:将输入序列输入知识图谱层,并基于所述知识图谱中的特征,生成所述输入序列的第一向量表示;将所述第一向量表示输入经预训练的第一神经网络层,以生成所述输入序列的第二向量表示;将所述第二向量表示输入第二神经网络层得到所述输入序列的第三向量表示,并且基于所述第三向量表示生成所述输入序列的序列标注结果;以及,基于所述序列标注的结果获得与所述输入序列相关的一个或多个意图。

根据本公开的至少一个实施方式,所述方法还包括将所述第二向量表示输入第二神经网络得到所述输入序列的第三向量表示之后,将所述第三向量表示输入第三神经网络层,得到所述输入序列的序列标注结果。

根据本公开的至少一个实施方式,所述方法还包括在将所述输入序列输入知识图谱层之前,对输入序列进行编码,并将编码后的输入序列输入知识图谱层。

根据本公开的至少一个实施方式,所述第一神经网络层是采用双向语言模型进行预训练的,并包括针对序列标注任务的微调操作。

根据本公开的至少一个实施方式,所述方法还包括获取包括至少一个标签的标签集合,并且,所述序列标注结果包括将所述输入序列中的每个词标注上所述标签集合中的标签之一。

根据本公开的至少一个实施方式,所述第二神经网络层为双向长短期记忆网络,所述第二向量表示包括将所述输入序列中的每个词标注上所述标签列表中的标签之一的概率值。

根据本公开的至少一个实施方式,所述第三神经网络层为条件随机场。

根据本公开的另一方面,一种意图识别装置,包括:第一处理模块,将输入序列输入知识图谱层,并基于所述知识图谱中的特征,生成所述输入序列的第一向量表示;第二处理模块,将所述第一向量表示输入经预训练的第一神经网络层,以生成所述输入序列的第二向量表示;以及第三处理模块,将所述第二向量表示输入第二神经网络层得到所述输入序列的第三向量表示,并且基于所述第三向量表示生成所述输入序列的序列标注结果;以及,第四处理模块,用于基于所述序列标注结果获得与所述输入序列相关的一个或多个意图。

根据本公开的再一方面,一种电子设备,包括:存储器,存储器存储可执行指令;以及处理器,处理器执行存储器存储的可执行指令,使得处理器执行上述的方法。

根据本公开的又一方面,一种可读存储介质,可读存储介质中存储有可执行指令,可执行指令被处理器执行时用于实现上述的方法。

附图说明

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于出门问问信息科技有限公司,未经出门问问信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201910285223.X/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top