[发明专利]一种文本蕴含识别方法及装置有效
申请号: | 201910512371.0 | 申请日: | 2019-06-13 |
公开(公告)号: | CN110390397B | 公开(公告)日: | 2020-07-10 |
发明(设计)人: | 熊熙;张芮;琚生根;李元媛 | 申请(专利权)人: | 成都信息工程大学 |
主分类号: | G06N5/04 | 分类号: | G06N5/04;G06F16/33;G06F16/35;G06K9/62 |
代理公司: | 成都玖和知识产权代理事务所(普通合伙) 51238 | 代理人: | 胡琳梅 |
地址: | 610225 四川省成都*** | 国省代码: | 四川;51 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 文本 蕴含 识别 方法 装置 | ||
1.一种文本蕴含识别方法,用于对输入的包括前提文本与假设文本的文本对进行编码得到对应的文本向量,并利用自然语言推理中的注意力机制对所述文本向量进行推理来确定所述文本对中前提文本与假设文本之间的文本蕴含关系并输出,其特征在于:
所述利用自然语言推理中的注意力机制对所述文本向量进行推理是基于长短期记忆网络的门控选择和动态注意力机制来进行的动态推理,其中,该动态推理包括分别对文本对从直接相连、相似性和差异性三个层面共同进行推理,在从直接相连、相似性和差异性三个层面进行推理之前,各所述层面需要分别先对前提文本和假设文本进行词级别注意力推理,再做句子门控选择全局语义相关部分;
其中,所述对前提文本和假设文本进行词级别注意力推理的方法包括:对输入的假设文本的每个输入词,都计算前提文本所有词和假设当前词的注意力;
确定所述文本对中前提文本与假设文本之间的文本蕴含关系是通过直接相连、相似性和差异性三个层面共同动态推理得到的三个推理特征拼接起来,采用一层基于激活函数的全连接层进行降维,再用分类函数进行分类输出来得到的蕴含关系。
2.根据权利要求1所述的文本蕴含识别方法,其特征在于,所述做句子门控选择全局语义相关部分的方法包括:计算前提文本向量和假设文本向量的相关性,并从全局上选择与假设文本更相关的表示。
3.一种文本蕴含识别装置,包括:
编码网络模块,用于对输入的包括前提文本与假设文本的文本对进行编码得到对应的文本向量;
动态推理模块,用于利用自然语言推理中的注意力机制对所述文本向量进行推理来确定所述文本对中前提文本与假设文本之间的文本蕴含关系;
输出模块,用于确定并输出文本蕴含关系;
其特征在于:所述动态推理模块利用自然语言推理中的注意力机制对所述文本向量进行推理的过程是基于长短期记忆网络的门控选择和动态注意力机制来进行的动态推理,其中,该动态推理包括分别对文本对从直接相连、相似性和差异性三个层面共同进行推理,在从直接相连、相似性和差异性三个层面进行推理之前,各所述层面需要分别先对前提文本和假设文本进行词级别注意力推理,再做句子门控选择全局语义相关部分;
其中,所述动态推理模块用于对前提文本和假设文本进行词级别注意力推理的方法包括:对输入的假设文本的每个输入词,都计算前提文本所有词和假设当前词的注意力;
所述输出模块用于确定所述文本对中前提文本与假设文本之间的文本蕴含关系是通过直接相连、相似性和差异性三个层面共同动态推理得到的三个推理特征拼接起来,采用一层基于激活函数的全连接层进行降维,再用分类函数进行分类输出来得到的蕴含关系。
4.根据权利要求3所述的文本蕴含识别装置,其特征在于,所述动态推理模块用于做句子门控选择全局语义相关部分的方法包括:计算前提文本向量和假设文本向量的相关性,并从全局上选择与假设文本更相关的表示。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于成都信息工程大学,未经成都信息工程大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910512371.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:用于估计观测变量之间的因果关系的方法、装置和系统
- 下一篇:在线学习方法