[发明专利]基于注意力机制的关系抽取方法、系统、设备及存储介质在审
申请号: | 202110340791.2 | 申请日: | 2021-03-30 |
公开(公告)号: | CN113128203A | 公开(公告)日: | 2021-07-16 |
发明(设计)人: | 赵青;李建强;徐春;张晓桐 | 申请(专利权)人: | 北京工业大学 |
主分类号: | G06F40/211 | 分类号: | G06F40/211;G06F40/284;G06F40/30;G06F16/33;G06F16/35;G06F16/36 |
代理公司: | 北京路浩知识产权代理有限公司 11002 | 代理人: | 张睿 |
地址: | 100022 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 注意力 机制 关系 抽取 方法 系统 设备 存储 介质 | ||
1.一种基于注意力机制的关系抽取方法,其特征在于,包括:
对待处理文本进行预处理,形成第一语句;
识别所述第一语句,并对所述第一语句进行语义补全,形成第二语句;
提取所述第二语句中的特征向量,并将所述特征向量输入到关系抽取模型中,得到所述关系抽取模型输出的关系标签类型,其中,所述关系抽取模型基于训练语料库中的语义补全句和正常语句训练得到。
2.根据权利要求1所述的基于注意力机制的关系抽取方法,其特征在于,所述识别所述第一语句,并对所述第一语句进行语义补全,形成第二语句,包括:
通过解析识别所述第一语句的句法结构及所述第一语句中的第一实体;
学习所述第一实体在所述第一语句中的上下文特征,以得出所述第一语句缺失的语义信息;
根据所述缺失的语义信息对所述第一语句进行语义补全处理,形成第二语句。
3.根据权利要求2所述的基于注意力机制的关系抽取方法,其特征在于,所述根据所述缺失的语义信息对所述第一语句进行相应的语义补全处理,形成第二语句,包括:
若所述缺失的语义信息为主语或宾语缺失,则找出包含所述第一语句缺失语义信息的实体作为目标实体,并将所述目标实体和所述第一语句拼接,形成第二语句;
若所述缺失的语义信息为主语和谓语缺失,或谓语和宾语缺失,则找出包含所述第一语句缺失语义信息的正常句,并将所述第一语句和所述正常句拼接,形成第二语句。
4.根据权利要求3所述的基于注意力机制的关系抽取方法,其特征在于,所述找出包含所述第一语句缺失语义信息的实体作为目标实体,并将所述目标实体和所述第一语句拼接,形成第二语句,包括:
从知识库中的所述第一实体所在正常语句的上下文语句中提取与所述第一实体类型不同的实体作为候选实体;
基于标签类型从所述上下文语句中提取与所述第一实体距离最近的触发词作为目标触发词,并采用词注意力机制提取所述目标触发词与所述第一实体之间的可行性关系类型;
基于远程监督方法和所述可行性关系类型从所述候选实体中提取相似度最高的候选实体作为目标实体;
将所述目标实体与所述第一语句拼接,形成第二语句;
所述找出包含所述第一语句缺失语义信息的正常句,并将所述第一语句和所述正常句拼接为一个句子,包括:
提取所述第一语句中包含的第一实体;
找出上下文语句中与所述第一实体距离最近的上下文特征,计算所述上下文特征与所述第一实体的相似性,并选取相似性最高的上下文特征所在的正常语句作为目标正常语句;
将所述第一语句与所述目标正常语句进行首尾拼接,形成第二语句。
5.根据权利要求2所述的基于注意力机制的关系抽取方法,其特征在于,在所述通过解析所述第一语句的句法结构识别所述第一语句之后,还包括:采用词性标签机制标注所述第一实体;
在根据所述缺失的语义信息对所述第一语句进行语义补全处理之后,还包括:对所述第一实体标注的实体标签进行校对。
6.根据权利要求1所述的基于注意力机制的关系抽取方法,其特征在于,所述关系抽取模型包括卷积层、分段最大池化层、句子注意力层和分类层,其中:
所述卷积层,用于对输入的特征向量进行卷积操作;
所述分段最大池化层,根据所述第二语句中实体对的位置将经过所述卷积操作后的特征向量分成三个部分,对每个部分进行分段池化并分别计算其最大值,将所述三个部分的最大值结合以输出;
句子注意力层,根据所述分段最大池化层的输出以及所述第二语句中的词和实体对之间的语义关系得出句子特征;
分类层,用于输入所述句子特征,并根据所述句子特征进行计算,以输出关系标签类型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京工业大学,未经北京工业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110340791.2/1.html,转载请声明来源钻瓜专利网。
- 上一篇:吊舱及平流层飞艇
- 下一篇:一种核燃料组件防钩挂性能试验装置