[发明专利]基于句子关联注意力机制的文本摘要生成方法有效
申请号: | 201910635509.6 | 申请日: | 2019-07-15 |
公开(公告)号: | CN110348016B | 公开(公告)日: | 2022-06-14 |
发明(设计)人: | 郭军军;赵瑶;余正涛;黄于欣;吴瑾娟;朱恩昌;相艳 | 申请(专利权)人: | 昆明理工大学 |
主分类号: | G06F40/211 | 分类号: | G06F40/211;G06F40/30;G06N3/04 |
代理公司: | 昆明人从众知识产权代理有限公司 53204 | 代理人: | 李晓亚 |
地址: | 650093 云*** | 国省代码: | 云南;53 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及基于句子关联注意力机制的文本摘要生成方法,属于自然语言处理技术领域。本发明首先使用分层的双向长短期记忆Bi‑LSTM网络对文档进行编码,获取句子语义向量,然后借助门控网络分析句子间的关联关系,实现句子级别的重要性及冗余性评估,最后提出基于句子关联性注意力机制的解码算法生成摘要;本发明提出在构建神经网络摘要生成框架时,融入句子关联性分析,提升模型对原文中句子重要性及冗余性的评估能力。本发明有效提升了生成式摘要的性能,在当前ROUGH评价指标上取得了较好的效果。 | ||
搜索关键词: | 基于 句子 关联 注意力 机制 文本 摘要 生成 方法 | ||
【主权项】:
1.基于句子关联注意力机制的文本摘要生成方法,其特征在于:具体步骤如下:Step1、收集并处理新闻文本摘要数据作为训练语料、验证语料和测试语料;Step2、对文档进行预处理,包括分词、去停用词、切分句子;Step3、使用分层的双向长短期记忆Bi‑LSTM网络对文档进行编码,获取全文语义向量;Step4、构建第一层门控网络,依据句子间的关联关系识别源文档中句子所占的权重;Step5、构建第二层门控网络,依据句子的关联性对句子进行冗余约束,过滤多次重复表达的信息;Step6、基于句子关联性注意力机制的解码算法生成摘要。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于昆明理工大学,未经昆明理工大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910635509.6/,转载请声明来源钻瓜专利网。