[发明专利]基于改进深度残差网络和注意力机制的实体关系抽取方法有效

专利信息
申请号: 201910880164.0 申请日: 2019-09-18
公开(公告)号: CN110619121B 公开(公告)日: 2023-04-07
发明(设计)人: 陈璟;袁祯祺;宋威 申请(专利权)人: 江南大学
主分类号: G06F40/295 分类号: G06F40/295;G06F40/211;G06F16/33;G06F16/35;G06N3/0464;G06N3/08
代理公司: 南京苏高专利商标事务所(普通合伙) 32204 代理人: 向文
地址: 214122 江苏*** 国省代码: 江苏;32
权利要求书: 查看更多 说明书: 查看更多
摘要: 发明公开了一种基于改进深度残差网络和关系词注意力机制的实体关系抽取方法,包括如下步骤:通过对远程监督实体关系数据集的处理,将英文转换为词向量;获取关系词,并计算余弦相似度提取句子的关系词权重;分别引入分段和门控机制,形成分段的具有门模块的残差网络,采用分段门控残差网络对特征通道进行分段;在残差网络的后段最大池化层的基础上拼接平均池化层形成双池化层,用于保留句子结构特征;得到模型最终的句子特征;将得到的句子特征进行关系分类,得到输出实体关系。本发明将深度残差网络应用到关系提取的远程监督数据集上,通过加深网络层数,有效提高模型降噪能力,同时,提出了分段门控残差模块,有效提高了深度残差网络的性能。
搜索关键词: 基于 改进 深度 网络 注意力 机制 实体 关系 抽取 方法
【主权项】:
1.基于改进深度残差网络和关系词注意力机制的实体关系抽取方法,其特征在于:包括如下步骤:/nS1:数据集处理:/n通过对远程监督实体关系数据集的处理,将英文转换为词向量;/nS2:自注意力机制:/n通过每个包中句子实体对的自注意力机制的输出来获取每句句子中隐藏的关系词,并计算余弦相似度从而提取句子的关系词权重;/nS3:分段门控残差网络:/n在原有深度残差网络的基础上改进去残差单元,分别引入分段和门控机制,形成分段的具有门模块的残差网络,采用分段门控残差网络对特征通道进行分段;/nS4:双池化层:/n在残差网络的后段最大池化层的基础上拼接平均池化层形成双池化层,用于保留句子结构特征;/nS5:将步骤S2得到的关系词权重与步骤S4得到的句子结构特征进行相乘,得到模型最终的句子特征;/nS6:模型预测与输出:/n将步骤S5得到的句子特征通过点积融合成传入Softmax层进行关系分类,最终得到结果输出实体关系。/n
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于江南大学,未经江南大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/patent/201910880164.0/,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top