[发明专利]一种意图识别方法和意图识别装置在审
申请号: | 201911244722.0 | 申请日: | 2019-12-06 |
公开(公告)号: | CN111222343A | 公开(公告)日: | 2020-06-02 |
发明(设计)人: | 黄日星;熊友军 | 申请(专利权)人: | 深圳市优必选科技股份有限公司 |
主分类号: | G06F40/30 | 分类号: | G06F40/30;G06N3/04 |
代理公司: | 深圳众鼎专利商标代理事务所(普通合伙) 44325 | 代理人: | 黄章辉 |
地址: | 518000 广东省深圳市南山区*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 意图 识别 方法 装置 | ||
1.一种意图识别方法,其特征在于,包括:
获取待识别句子;
通过嵌入层将所述待识别句子转化得到第一向量、第二向量和第三向量;
分别对所述第一向量和第二向量进行线性映射,得到第一映射向量和第二映射向量;
根据所述第一映射向量获取第一注意力向量,并根据第二映射向量获取第二注意力向量;
根据所述第一注意力向量获取第一句子向量,并根据所述第二注意力向量获取第二句子向量;
根据所述第一句子向量和所述第二句子向量获取目标句子向量;
将所述目标句子向量输入Bert模型的线性层进行意图识别,获取意图识别结果。
2.根据权利要求1所述的意图识别方法,其特征在于,所述根据所述第一映射向量获取第一注意力向量,并根据第二映射向量获取第二注意力向量,包括:
将所述第一映射向量,与所述第二映射向量的转置进行点乘得到第一关注度,并将所述第二映射向量,与所述第一映射向量的转置进行点乘得到第二关注度;
分别对所述第一关注度和第二关注度进行归一化处理,得到第一目标关注度和第二目标关注度;
将所述第一目标关注度与所述第三向量进行点乘得到第一注意力向量,并将所述第二目标关注度与所述第三向量进行点乘得到第二注意力向量。
3.根据权利要求2所述的意图识别方法,其特征在于,所述将所述第一映射向量,与所述第二映射向量的转置进行点乘得到第一关注度,包括:
将所述第一映射向量,与所述第二映射向量的转置进行点乘得到第一数值;
将所述第一数值除以缩放因子后得到所述第一关注度,其中,所述dK为所述第二向量的维度;
所述将所述第二映射向量,与所述第一映射向量的转置进行点乘得到第二关注度,包括:
将所述第二映射向量,与所述第一映射向量的转置进行点乘得到第二数值;
将所述第二数值除于缩放因子所述后得到所述第二关注度。
4.根据权利要求1所述的意图识别方法,其特征在于,所述根据所述第一注意力向量获取第一句子向量,并根据所述第二注意力向量获取第二句子向量,包括:
对所述第一注意力向量的第N维进行累加得到所述第一句子向量;
对所述第二注意力向量的第N维进行累加得到所述第二句子向量。
5.根据权利要求4所述的意图识别方法,其特征在于,所述N为0。
6.根据权利要求1所述的意图识别方法,其特征在于,所述根据所述第一句子向量和所述第二句子向量获取目标句子向量,包括:
对所述第一句子向量与所述第二句子向量进行合并得到所述目标句子向量。
7.根据权利要求1所述的意图识别方法,其特征在于,所述通过嵌入层将所述待识别句子转化成特征向量,包括:
通过所述嵌入层,采用Word2Vec方式将所述待识别句子转化成特征向量。
8.一种意图识别装置,其特征在于,包括:
获取模块,用于获取待识别句子;
处理模块,用于:
通过嵌入层将所述待识别句子转化得到第一向量、第二向量和第三向量;
分别对所述第一向量和第二向量进行线性映射,得到第一映射向量和第二映射向量;
根据所述第一映射向量获取第一注意力向量,并根据第二映射向量获取第二注意力向量;
根据所述第一注意力向量得到第一句子向量,并根据所述第二注意力向量得到第二句子向量;
根据所述第一句子向量和所述第二句子向量得到目标句子向量;
将所述目标句子向量输入Bert模型的线性层进行意图识别,获取意图识别结果。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳市优必选科技股份有限公司,未经深圳市优必选科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911244722.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:用于确定无线电波传播环境电磁参数的方法
- 下一篇:一种矿石粉碎设备